Jensen Huang: „Kein KI-Vorfall sollte zur Norm werden“ — Nvidia-Chef fordert strengere Kontrolle von KI-Agenten

Nvidia-CEO Jensen Huang hat sich in einem Interview mit dem Magazin Fortune während eines Besuchs in London im Rahmen seiner Europatournee scharf zu den akzeptablen Risiken im Zusammenhang mit künstlicher Intelligenz geäußert. Seiner Ansicht nach hätten alle hochprofilierten Cybersicherheitsvorfälle mit Beteiligung von KI-Agenten verhindert werden können, wenn es eine strengere Überwachung gegeben hätte. „Ich bin nicht bereit, irgendwelche Cybersicherheitsvorfälle zu akzeptieren. Wir dürfen keinen einzigen tolerieren. Wir müssen alles tun, um sie zu vermeiden“, betonte Huang. Seine Haltung klingt wie eine direkte Antwort auf jüngste Äußerungen von OpenAI-Chef Sam Altman, der in einem Interview mit Politico die Gesellschaft dazu aufgerufen hatte, unbeabsichtigte Schäden durch KI-Modelle zu akzeptieren, mit dem Argument, dass der von ihnen geschaffene Nutzen den potenziellen Schaden „um ein Vielfaches“ überwiegt.

Analogie zum frühen Internet: KI-Agenten müssen in einer „Sandbox“ leben

Zur Begründung der Notwendigkeit strenger Einschränkungen zog Huang eine direkte Parallele zu den Anfängen des Internets. Damals konnte das Aufrufen einer unbekannten Website zu einer Computerinfektion mit einem Virenangriff führen. Das Problem wurde gelöst, indem Webseiten in einer isolierten Browserumgebung geöffnet wurden, die es dem Schadcode verhinderte, den Rest des Systems zu beeinträchtigen. Nach Ansicht des Nvidia-Chefs sollten KI-Agenten nach einem ähnlichen Prinzip arbeiten: in einem sicheren Container bleiben, in dem sie keinen Schaden anrichten können, der über ihre zugewiesenen Befugnisse hinausgeht. Seiner Überzeugung nach würde ein solcher Ansatz die Mehrheit der Vorfälle ausschließen, die bereits in der Infrastruktur von Unternehmen und Behörden registriert wurden.

„Wenn Sie an den Zusammenbruch der Zivilisation glauben, hören Sie auf daran zu arbeiten“

Huang äußerte sich auch zu der wachsenden Welle besorgniserregender Prognosen über eine „KI-Apokalypse“. In Richtung des Chefs von Anthropic, der solche Stimmungen in der Öffentlichkeit aktiv verbreitet, erklärte der Nvidia-Chef: „Ich weiß nicht, warum irgendjemand bereit sein sollte, die Entwicklung einer Technologie zu unterstützen, die zum Zusammenbruch der Zivilisation führt, wie wir sie kennen. Und wenn sie das glauben, sollten sie aufhören, daran zu arbeiten.“ In einem anderen Zusammenhang, wie Branchenpublikationen berichten, deutete Huang an, dass KI-Laboratorien, die ihre eigenen Experimente nicht kontrollieren können, geschlossen werden sollten. Seine Position läuft somit darauf hinaus, dass die Verantwortung für die Sicherheit bei den Entwicklern liegt und nicht bei der Gesellschaft, der man zumutet, „Risiken zu akzeptieren“.

Europäischer Kontext: 2 Milliarden US-Dollar Investitionen und Fokus auf Open-Source

Die Äußerungen gegenüber Fortune erfolgten vor dem Hintergrund von Huangs aktiver Europatournee, bei der er erklärte, dass „Europa in das KI-Rennen einsteigen muss“. In der auf das Interview folgenden Woche wird der Nvidia-Chef bekannt geben, wohin die europäischen Investitionen in Höhe von 2 Milliarden US-Dollar im Namen des Unternehmens fließen werden. Diese Summe berücksichtigt nicht die 8 Milliarden US-Dollar, die Nvidia bereits zugesagt hat, in die Wirtschaft der Alten Welt zu investieren. Huang ist der Ansicht, dass Open-Source-Modelle eine vernünftige Wahl für europäische Länder sind, die versuchen, die USA im KI-Sektor einzuholen. Das Unternehmen unterstützt bereits das französische Startup Mistral, das Modelle mit offenen Gewichtungen entwickelt. Nach Einschätzung von Huang sind solche Modelle in der Entwicklung günstiger, obwohl ihre Entwickler gezwungen sind, in Hardwareressourcen, einschließlich Nvidia-Chips, zu investieren.

Auseinandergehende Positionen: Altman vs. Huang

Huangs Haltung bildet einen deutlichen Kontrast zur Rhetorik von Sam Altman. In einem kürzlichen Interview mit Politico warnte Altman, dass die Menschheit mit einer Welle von Cybersicherheitsproblemen konfrontiert sein wird, die durch die Verbreitung von Open-Source-Modellen, die mit den Entwicklungen von OpenAI konkurrieren, verursacht werden. Gleichzeitig forderte er dazu auf, diesen Prozess nicht zu bekämpfen, sondern ihn als unvermeidliche Folge des technologischen Fortschritts zu akzeptieren. Huang hingegen besteht darauf, dass kein Vorfall „unvermeidlich“ ist und dass bei der richtigen Kontrollarchitektur alle vermeidbar sind. Diese Diskrepanz in den Ansätzen — „Risiken akzeptieren“ versus „Risiken ausschließen“ — entwickelt sich zu einer der zentralen Debatten in der KI-Branche in ihrer aktuellen Entwicklungsphase.