Die Führungskräfte der weltweit führenden Unternehmen im Bereich der künstlichen Intelligenz – OpenAI, Anthropic und Google DeepMind – haben sich zusammengeschlossen, um vor einer globalen Bedrohung zu warnen. Sie haben einen offenen Brief an den US-Kongress unterzeichnet, in dem sie zu strengen gesetzlichen Maßnahmen zur Kontrolle der DNA-Synthese aufrufen. Das Hauptziel der Initiative ist es, die Möglichkeit der Herstellung von biologischen Waffen unter Verwendung leistungsstarker neuronaler Netze zu verhindern.

KI als Katalysator biologischer Gefahren

Die modernen Technologien haben einen Punkt erreicht, an dem die Erstellung genetischer Sequenzen zu einem zugänglichen und automatisierten Prozess geworden ist. Dutzende kommerzieller Unternehmen auf der ganzen Welt bieten Dienstleistungen zum „Drucken“ von maßgeschneiderter DNA für wissenschaftliche und medizinische Zwecke an. Experten weisen jedoch darauf hin, dass nicht alle Anbieter ihre Kunden und Bestellungen sorgfältig überprüfen.

Die Situation wird durch das Aufkommen leistungsstarker Sprachmodelle und KI-Tools für das Proteindesign verschärft. Künstliche Intelligenz kann den Prozess nicht nur beschleunigen, sondern Angreifern auch auf drei Arten helfen, bestehende Sicherheitsmaßnahmen zu umgehen:

  • Suche nach Schlupflöchern: KI kann dem Benutzer sofort empfehlen, welche DNA-Anbieter kontaktiert werden sollten, um Überprüfungen zu vermeiden.
  • Maskierung von Bestellungen: Neuronale Netze können die Formulierung oder Struktur einer genetischen Bestellung so ändern, dass die Schutzsoftware des Labors die Toxizität oder virale Natur des Codes nicht erkennt.
  • Generierung neuer Bedrohungen: Modelle sind in der Lage, völlig neue gefährliche Sequenzen zu erstellen, die die Struktur bekannter Toxine aufweisen, aber von der Standard-Filtersoftware vollständig ignoriert werden.

Ein historisches Warnsignal

Die Risiken im Zusammenhang mit der Verfügbarkeit der DNA-Synthese sind nicht theoretischer Natur. Bereits 2017 gelang es Forschern, die notwendigen Fragmente per Post zu bestellen und den ausgestorbenen Pockenvirus des Pferdes – einen nahen Verwandten des tödlichen Pockenvirus – wiederherzustellen. Seitdem ist die Synthesetechnologie deutlich günstiger geworden und für ein breites Spektrum von Personen zugänglich.

Heute erkennen automatische Sicherheitssysteme in Biotech-Laboren modifizierte Sequenzen gefährlicher Pathogene, die mit Hilfe von Algorithmen erstellt wurden, oft nicht mehr.

Wer steht hinter der Initiative

Initiatoren des offenen Briefs sind das Institute for Progress und die Foundation for American Innovation. Zu den Unterzeichnern gehören Schlüsselfiguren der Branche: Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) und Mustafa Suleyman (Microsoft AI) sowie eine Reihe führender Wissenschaftler.

Die Führer der KI-Branche fordern den Kongress auf, alle Anbieter von synthetischer DNA und RNA zu verpflichten, Kunden und Bestellungen obligatorisch auf gefährliche Pathogene zu screenen. Derzeit gelten in den USA lediglich Empfehlungen für Einrichtungen mit Bundesfinanzierung, während der Gesamtmarkt auf eine freiwillige Prüfung im Rahmen des Internationalen Konsortiums für Gensynthese setzt.

Legislative Antwort und interne Einschränkungen

Auf die wachsenden Bedenken hin wird im Senat bereits ein parteiübergreifender Gesetzentwurf geprüft, der eine obligatorische Prüfung auf gesetzlicher Ebene einführen soll. Experten für Biosicherheit warnen jedoch, dass eine Kontrolle nur im Stadium des DNA-Drucks kein Allheilmittel ist, da die Filter automatischer Schutzsysteme unvollkommen sind.

Parallel zu den gesetzlichen Maßnahmen müssen KI-Labore eigene interne Einschränkungen einführen. Modelle müssen so konzipiert sein, dass sie alle Benutzeranfragen blockieren, die mit der Entwicklung von Toxinen oder Pathogenen zusammenhängen, die eine globale Pandemie auslösen könnten.