150 Codeänderungen täuschten die KI: Das neuronale Netz hielt ein totes Objekt für eine lebende Form – und das bedroht die Suche nach Leben auf dem Mars

Bei der Suche nach außerirdischem Leben stützen sich Astrobiologen seit Jahrzehnten auf die Suche nach universellen Indikatoren: der Fähigkeit biologischer Systeme, Informationen zu kodieren und sich selbst zu vermehren, ähnlich wie DNA. Genau diese Eigenschaften gelten als die wahrscheinlichsten „Biosignaturen“, die auf dem Mars, den Monden des Jupiter oder des Saturn entdeckt werden könnten. Eine neue Studie, die auf dem Preprint-Server arXiv veröffentlicht und von RBC-Ukraine kommentiert wurde, zeigt jedoch, dass eine KI, die zum Erkennen solcher Merkmale trainiert wurde, leicht täuschbar ist – und sie wird mit Sicherheit auf Leben hinweisen, wo keines existiert.

So funktionierte das „digitale Labor“

Um zu prüfen, wie zuverlässig neuronale Netze lebende von unbelebten Objekten unterscheiden können, nutzten die Forscher das Programm Avida – eine Plattform, die „digitales Leben“ in Form von Programmcode erzeugt, der in einer virtuellen Umgebung evolvieren, mutieren und sich selbst kopieren kann. An zehntausenden solcher digitalen Organismen trainierten die Wissenschaftler ein neuronales Netz, Merkmale der Selbstvermehrung zu erkennen. Das Ergebnis in der Trainingsphase war beeindruckend: Die anfängliche Erkennungsgenauigkeit erreichte 99,97 Prozent. Der Algorithmus schien bereit für den Einsatz unter Bedingungen, unter denen ein Mensch keine Analyse in Echtzeit durchführen kann – beispielsweise an Bord eines Marsrovers.

150 Änderungen und eine 100-prozentige Täuschung

Bei weiteren Tests wurde jedoch eine kritische Schwachstelle aufgedeckt. Die Wissenschaftler nahmen den Code eines Organismus, der sich nicht fortpflanzen konnte, und brachten nur gezielte, punktuelle Änderungen ein – im Wesentlichen „Rauschen“ in der Befehlssequenz. Unabhängig davon, von welcher Ausgangssequenz aus der Experiment startete, gelang es den Forschern, die KI in 100 Prozent der Fälle zu täuschen, wie Ankit Gupta, Doktorand am Fachbereich Informatik und Ingenieurwesen der Michigan State University (MSU), hervorhob. Damit der Algorithmus fälschlicherweise ein unbelebtes Objekt als selbstvermehrfähig einordnete, waren im Durchschnitt etwa 150 kleine Codeänderungen erforderlich. Angesichts der enormen Anzahl möglicher Kombinationen in der realen Welt bleibt die Wahrscheinlichkeit, auf eine falsche Biosignatur zu stoßen, äußerst hoch.

Widersprüchliche Daten

Bei der Faktenprüfung anhand mehrerer Quellen wurde eine Abweichung in der Darstellung der Ergebnisse festgestellt. RBC-Ukraine beschreibt den Experiment unter Verweis auf den arXiv-Preprint genau als Modifikation des Programmcode eines digitalen Organismus in der Avida-Umgebung. Die Zeitung pravda.ru formuliert hingegen in der Schlagzeile und im Einleitungsteil den Schluss anders: „KI-Algorithmen hielten gewöhnliche Steine für Anzeichen außerirdischen Lebens“. Die Formulierung mit „Steinen“ ist eine journalistische Metapher und spiegelt die Methodik der Studie nicht wider, in der ausschließlich von digitalen Befehlssequenzen und nicht von physischen Objekten die Rede war. Der Kern des Schlusses – die Anfälligkeit der KI für falsche Muster – stimmt in beiden Quellen überein, jedoch unterscheidet sich der Grad der Genauigkeit bei der Beschreibung des Experiments.

Gefahr für Weltraummissionen

Der Professor für Mikrobiologie, Molekulargenetik, Physik und Astronomie Christoph Adami, einer der Autoren der Arbeit, betont: „Die KI hat eine Achillesverse. Sie kann ein Muster sehen und es völlig falsch klassifizieren.“ Die entdeckte Schwachstelle schafft direkte Risiken für zukünftige Forschungen der NASA und anderer Weltraumagenturen, die planen, Marsrover und Sonden, die zu den Monden des Jupiter und Saturn geschickt werden, mit autonomen KI-Sensoren auszustatten. Wenn ein Gerät auf dem Mars einen falschen Schluss über die Entdeckung von Leben zieht, werden diese Daten vor der Rückkehr der Proben zur Erde nicht überprüft werden können – das Signal aus dem Sonnensystem dauert Monate, und die physische Lieferung von Proben erfordert Jahre.

Das Problem ist größer als die Astrobiologie

Die Schwäche der Mustererkennung, die im Experiment festgestellt wurde, beschränkt sich nicht auf den Weltraum. Adami weist darauf hin, dass eine ähnliche Schwachstelle alle Bereiche betrifft, in denen KI ohne angemessene Kontrolle eingesetzt wird: medizinische Scanner, Videoüberwachungssysteme, Autopiloten in Autos. In jedem dieser Fälle kann ein falsch-positives Ergebnis zu einer falschen Diagnose, einem Fehlalarm oder einer Notlage führen. Dabei bedeutet dies nach Worten des Professors nicht, dass die Verwendung solcher Methoden nutzlos ist: „Sie brauchen eine unabhängige Methode zur Überprüfung der KI-Arbeit. In der Entscheidungsfindungskette muss unbedingt ein Mensch bleiben.“ Die Studie hebt also die Perspektive des Einsatzes neuronaler Netze in der Astrobiologie und verwandten Bereichen nicht auf, sondern stellt eine strenge Anforderung auf: Ein autonomer Algorithmus darf nicht der einzige Schiedsrichter bei kritischen Entscheidungen sein.