Anthropic-Chef Dario Amodei hatte zuvor öffentlich dazu aufgerufen, die Entwicklung der künstlichen Intelligenz zu verlangsamen, um die Wahrscheinlichkeit unvorhersehbarer Folgen zu verringern. Doch sechs Wochen nachdem Führungskräfte von OpenAI und SpaceX diese Initiative öffentlich unterstützt hatten, stoppte der Technologiewettlauf keineswegs, sondern ging mit neuer Kraft weiter. In diesem Zeitraum stellten Anthropic, OpenAI, Google und SpaceX neue KI-Modelle vor, während Anthropic selbst Unterlagen für einen Börsengang einreichte, der der größte der Geschichte werden könnte. Im Antrag erklärte das Unternehmen seine Absicht, Hunderte Milliarden Dollar in die Entwicklung des Chatbots Claude und der Recheninfrastruktur zu leiten, was Fragen bei Befürwortern einer sicheren KI-Entwicklung aufwarf, die darauf bestehen, die tatsächlichen Taten von Unternehmen zu bewerten und nicht die öffentlichen Aussagen ihrer Führungskräfte.

Vom Verlangsamungsaufruf zum Rekordbörsengang

Den in den Börsenzulassungsunterlagen offengelegten Daten zufolge verzeichnet das Geschäft von Anthropic ein rantes Wachstum: In den ersten sechs Monaten des Jahres 2026 belief sich der Umsatz des Unternehmens auf rund 16,3 Milliarden US-Dollar gegenüber etwa 1,16 Milliarden im Vorjahreszeitraum, wobei das Unternehmen für das erste Halbjahr einen erheblichen Verlust auswies. Die Aktienplatzierung ist an der Nasdaq-Börse unter dem Tickersymbol ANT geplant. Genau die Kombination aus Rekordwachstumsraten, Plänen, Hunderte Milliarden in die Infrastruktur zu stecken, und jüngsten öffentlichen Warnungen vor katastrophalen KI-Risiken löste verstärkte Kritik von Regulierungsbehörden und spezialisierten Organisationen aus.

Vorfälle und Senatorenfragen

Die Besorgnis in der Branche hat sich nach einer Reihe von Vorfällen im vergangenen Monat verstärkt: KI-gestützte Cyberangriffe betrafen Unternehmen in verschiedenen Ländern. Darüber hinaus berichtete OpenAI, dass einer ihrer KI-Agenten versuchte, das Überwachungssystem zu umgehen. Vor diesem Hintergrund forderte Senatorin Elizabeth Warren von Dario Amodei eine öffentliche Erklärung, wie seine Warnungen vor katastrophalen KI-Risiken mit den Plänen des Unternehmens vereinbar sind, an die Börse zu gehen und die Entwicklung zu skalieren.

Anthropic-Schritte und Spannungen mit der Sicherheits-Community

Anthropic selbst ergreift eine Reihe von Maßnahmen zur Erhöhung der Sicherheit: Das Unternehmen hat bestimmte Arbeiten nach unvorhersehbarem Modellverhalten vorübergehend ausgesetzt und begonnen, unabhängige Forscher in seine Büros einzuladen, um die Entwicklung zu beobachten. Dennoch verschlechtern sich die Beziehungen von Anthropic zur KI-Sicherheitsforschungsgemeinschaft allmählich. Der Leiter des Machine Intelligence Research Institute, Malo Bourgon, wies darauf hin, dass, wenn sich das Unternehmen als Organisation positioniert, die eine erhöhte Verantwortung für die Folgen der KI-Entwicklung trägt, Experten zu Recht höhere Standards genau in diesem Bereich erwarten.

Der Gesetzentwurf und Amodeis Antwort

Zusätzliche Kritik rief ein von Anthropic-Lobbyisten ausgearbeiteter Gesetzentwurf zur Regulierung der künstlichen Intelligenz hervor: Vertreter von Fachorganisationen sind der Ansicht, dass er die Geltung bereits bestehender Landesgesetze einschränken könnte und nicht mit den öffentlichen Erklärungen der Unternehmensführung zur Notwendigkeit einer KI-Kontrolle übereinstimmt. Als Reaktion auf die Kritik erklärte Amodei, die Strategie von Anthropic bestehe in einem „Wettlauf um höhere Standards“ und der Absicht zu zeigen, wie KI verantwortungsvoll entwickelt werden kann, indem Konkurrenten ermutigt werden, ihrem Beispiel zu folgen. Er erinnerte auch an Entscheidungen, die das Unternehmen teuer zu stehen kamen, darunter ein Konflikt mit dem US-Verteidigungsministerium wegen der Weigerung, den Einsatz ihrer Technologien für die Überwachung im Inland und voll autonome Waffen zu erlauben. Gleichzeitig zeigen unabhängige Tests, dass moderne Chatbots seltener gefährliche Missverständnisse von Nutzern unterstützen und häufiger potenziell schädlichem Verhalten entgegenwirken.