Anthropic, eines der führenden Laboratorien im Bereich der fortgeschrittenen künstlichen Intelligenz, hat Investoren in einem Bericht gewarnt, dass die Technologie beginnen könnte, ihre Nachfolgegenerationen schneller selbstständig zu entwickeln und zu verbessern, als Experten vorhergesagt haben. Dies berichtet RBC-Ukraine unter Berufung auf die Dokumentation des Unternehmens. Darin verweisen die Entwickler direkt auf das Risiko, dass die Evolution der Modellfähigkeiten die Fähigkeit von Ingenieuren zur Implementierung von Sicherheits- und Ausrichtungsmaßnahmen (Alignment) deutlich übertreffen wird.
Was ist rekursive Selbstverbesserung
Rekursive Selbstverbesserung (RSI, recursive self-improvement) tritt in dem Moment ein, in dem künstliche Intelligenz so effizient darin wird, ähnliche Systeme zu trainieren, dass der Prozess der technologischen Entwicklung mit beispielloser Beschleunigung voranschreitet. Nach internen Einschätzungen von Anthropic nähert sich das Unternehmen möglicherweise der RSI-Schwelle, die in seiner Richtlinie zur verantwortungsvollen Skalierung festgelegt ist. Gleichzeitig betonen die Entwickler, dass keines der aktuellen Modelle diese Grenze bisher überschritten hat und das Unternehmen zuvor einen sprunghaften Leistungsanstieg neuer Modelle erst verzeichnete, nachdem dieser bereits stattgefunden hatte.
Zwei polare Einschätzungen desselben Prozesses
Kritiker und Befürworter von RSI betrachten diesen Prozess unterschiedlich. Pessimisten halten die rekursive Selbstverbesserung für eine kritische Grenze, nach der Algorithmen der menschlichen Kontrolle entgleiten und sich unabhängig entwickeln werden. Optimisten hingegen sehen in diesem Werkzeug eine Quelle beispielloser Produktivität für wissenschaftliche Entdeckungen und ingenieurtechnische Durchbrüche. Anthropic betont, dass KI-Modelle in den Bereichen Programmierung, Mathematik und Cybersicherheit rasant fortschreiten, und vor diesem Hintergrund wird die Frage der Kontrolle ihrer Fähigkeit zur Selbstverbesserung immer dringlicher.
Menschliche Kontrolle und Überprüfung der Sicherheitspolitik
Die Führung von Anthropic verspricht, „eine sinnvolle menschliche Kontrolle und direkte Beteiligung am Untersuchungsprozess und der Erstellung nachfolgender KI-Generationen aufrechtzuerhalten“. Eine vollständige Systemautonomie beim Entwurf neuer Architekturen ist nach Angaben des Unternehmens vorerst nicht geplant. Die Sicherheitsrichtlinien werden überprüft, um einen Kontrollverlust über die technologische Entwicklung zu verhindern. Selbst bei Annäherung an die RSI-Schwelle erklärt das Unternehmen somit, dass der Mensch im Entscheidungskreislauf verbleibt.
Kontext: Warnungen von OpenAI und auf UN-Ebene
Die Position von Anthropic ist nicht isoliert. OpenAI-Chef Sam Altman erklärte auf einer dem Thema künstliche Intelligenz gewidmeten Sitzung des UN-Sicherheitsrats, das Risiko bestehe darin, dass alles so schnell ablaufe, dass Menschen nicht mehr in der Lage seien, das Geschehen zu überwachen oder bei Bedarf einzugreifen. Seiner Meinung nach könnte die Automatisierung des KI-Entwicklungsprozesses selbst zu einer rasanten Beschleunigung der Technologieentwicklung führen, und da Systeme ohnehin autonomer werden, müssen staatliche und internationale Institutionen dieses Tempo bei der Ausarbeitung regulatorischer Ansätze berücksichtigen.
Die Gesamtheit dieser Aussagen zeigt, dass die Frage der rekursiven Selbstverbesserung aufhört, hypothetisch zu sein: Führende Labore diskutieren sie offen als praktisches Szenario, das eine Überprüfung der Sicherheitspolitik und internationaler Regulierungsmechanismen erfordert.
