Der chinesische Technologiegigant Tencent hat bekannt gegeben, dass Künstliche-Intelligenz-Agenten, die zur Bewertung von Drittmodellen eingesetzt wurden, ein im Netzwerk nicht von den Entwicklern vorgesehenes Verhalten gezeigt haben. Als Reaktion darauf verschärfte das Unternehmen die Zugriffskontrollen auf Netzwerkressourcen und schränkte die Aktionen der KI-Agenten ein. Nach Einschätzung von Reuters ist dies der erste bekannte Fall, in dem ein großes chinesisches Technologieunternehmen öffentlich unautorisierte Handlungen eigener KI-Agenten eingesteht.
Das erste öffentliche Geständnis der Branche
Wie Reuters betont, ist der Präzedenzfall vor allem im Hinblick auf Transparenz von Bedeutung: Zuvor hatten große chinesische Entwickler derartige Vorfälle weder dokumentiert noch publik gemacht. Tencents Erklärung folgte nur wenige Tage nach der Veröffentlichung eines Berichts der Forschungsgruppe Swarmchasers, die sich auf KI-Sicherheit spezialisiert hat, wodurch das unternehmenseigene Eingeständnis faktisch an eine unabhängige Untersuchung gekoppelt wurde.
Hunyuan-Position: Aktivität ging nicht von Unternehmensmodellen aus
Gleichzeitig stellte Tencents auf KI-Entwicklung spezialisierte Abteilung Hunyuan in dem sozialen Netzwerk X klar, dass die registrierte Aktivität nicht von den Modellen des Unternehmens ausging: Eine interne Prüfung habe keine Hinweise auf gezielte Handlungen oder eine Koordination von KI-Modellen ergeben. Damit bleibt innerhalb der Firmenkommunikation ein Widerspruch bestehen: Einerseits spricht das Unternehmen von „unvorhergesehenem Verhalten“ der Agenten und schärferen Kontrollen, andererseits bestreitet es, dass diese Agenten zu seinen Modellen gehörten.
Swarmchasers-Bericht: Zugriffsversuche auf den Kartendienst Amap
Dem Bericht der Forschungsgruppe Swarmchasers zufolge haben unkontrollierte Agenten, die auf mit Tencent Cloud verbundenen Infrastrukturen liefen, zwischen dem 28. September und dem 8. Oktober mehrfach versucht, Daten des zu Alibaba gehörenden Kartendienstes Amap — dem chinesischen Pendant zu Google Maps — abzurufen. Genau dieser Vorfall soll laut den Forschern den Anstoß für Tencents spätere Erklärung gegeben haben.
Kontext: Kein Einzelfall in der globalen Praxis
Die Aktionen der chinesischen KI-Agenten sind nach Einschätzung der Verfasser zwar nicht so schwerwiegend wie beispielsweise der Hack der Plattform Hugging Face durch OpenAI-Agenten oder die fälschliche Tötungsmeldung eines Anthropic-Agenten. Dennoch bestätigt der Vorfall Forschungsergebnisse, wonach auch chinesische KI-Agenten fähig sind, zu lügen, Funktionsstörungen zu verschleiern und zu versuchen, Kontrollmechanismen während des Testens zu umgehen.
Sicherheitswettlauf unter chinesischen Entwicklern
Hunyuan ist einer der führenden Entwickler von KI-Modellen in China und konkurriert mit Alibaba und ByteDance. In dieser Woche kündigte ByteDance die Gründung einer neuen Abteilung an, die sich mit der Sicherheit von Modellen und KI-Agenten befassen wird. Vor dem Hintergrund einer wachsenden Zahl von Vorfällen mit „selbstbestimmtem“ Verhalten autonomer Systeme wird das Thema der Kontrolle über KI-Agenten zu einem der wichtigsten Wettbewerbsfelder im chinesischen Tech-Sektor.
