---
title: "Systemischer Sicherheitsversagen: Anthropic gibt zu, dass 133 Millionen Dialoge ohne Schutz vor biologischen Waffen stattfanden"
description: "🚨 Anthropic gibt massives Sicherheitsversagen zu: 11 Monate ohne Schutz vor biologischen Waffen. 133 Millionen Dialoge liefen ohne Filter, und das Modell Mythos 5 kritisierte den eigenen Bericht. #KI #Sicherheit #Anthropic"
date: 2026-08-16T20:51:55.000Z
lang: de
url: https://xab.info/de/posts/anthropic-systemisches-sicherheitsversagen-133-millionen-dialoge-ohne-schutz-de
tags: [anthropic, ai-safety, biological-weapon, cybersecurity, risk-report]
publisher: "XAB.info"
---

# Systemischer Sicherheitsversagen: Anthropic gibt zu, dass 133 Millionen Dialoge ohne Schutz vor biologischen Waffen stattfanden

![Sicherheitsexperte analysiert Daten auf mehreren Bildschirmen in einem Kontrollraum, was das Ausmaß von 133 Millionen ungefilterten Dialogen ohne Schutz vor biologischen Waffen im KI-System von Anthropic veranschaulicht](https://xab.info/media/2026/08/17/anthropic-sistemnyy-proval-bezopasnosti-133-mln-dialogov-bez-zashchity/anthropic-sistemnyy-proval-bezopasnosti-133-mln-dialogov-bez-zashchity-1.webp)

Am 14. August 2026 veröffentlichte die Firma Anthropic einen neuen Risikobericht (Risk Report), der nach Ansicht von Experten zu den beunruhigendsten Dokumenten in der Geschichte der Entwicklung künstlicher Intelligenz gehört. Das Dokument, das den Zeitraum bis zum 15. Juli 2026 abdeckt, enthält ein Geständnis eines massiven systemischen Fehlers: Während 11 Monaten waren kritische Sicherheitsmechanismen, die darauf ausgelegt waren, die Erstellung biologischer Waffen zu blockieren, auf den wichtigsten Plattformen des Unternehmens vollständig deaktiviert.

### 11 Monate ohne Schutz: Das Ausmaß des Vorfalls

Laut den Daten des Berichts funktionierten die Klassifizierer, die für die Filterung von Anfragen im Zusammenhang mit biologischen Waffen verantwortlich waren, von Mai 2025 bis April 2026 nicht auf den Plattformen für menschliches Feedback (Human Feedback). Dies war nicht nur ein technischer Fehler, sondern eine systemische Schwachstelle, durch die etwa 50.000 Spezialisten, die über externe Anbieter angeworben wurden, und 133 Millionen Dialoge liefen. Im April 2026 erhielt das Unternehmen ein Signal, dass mehrere Auftragnehmer die Schwachstelle entdeckt hatten und einen API-Schlüssel für leistungsstarke Modelle, einschließlich Mythos Preview, erhalten hatten. Während etwa zwei Wochen arbeitete das Modell ohne Bio-Klassifizierer, was eine theoretische Möglichkeit zur Generierung gefährlicher Anweisungen schuf.

### Mechanismus des Fehlers: „Stille“ Flagge und fehlende Protokollierung

In Abschnitt 4 des Berichts wird der Fehlermechanismus detailliert beschrieben. Eine interne Flagge, die ausschließlich für die Verwendung durch Mitarbeiter von Anthropic bestimmt war, schaltete nicht nur das blockierende Verhalten der Klassifizierer aus, sondern auch die Protokollierung des Datenverkehrs. Das bedeutete, dass Anfragen, die unter dieser Flagge liefen, nicht aufgezeichnet wurden und in kein Sicherheitssystem zur Überwachung gelangten. Der einzige Weg, das Problem zu entdecken, wäre das manuelle Durchsuchen der Rohdialoge gewesen, was angesichts der Millionen von Anfragen praktisch unmöglich war. Nach der Entdeckung des Problems ließ Anthropic das Modell Claude Sonnet 5 alle Dialoge des betroffenen Zeitraums durchlaufen und identifizierte 1197 verdächtige Dialoge, von denen 757 auf die eigenen Teams des Unternehmens entfielen.

### Widersprüchliche Daten

Im Bericht gibt es erhebliche Diskrepanzen bei der Risikobewertung und der Vollständigkeit der Offenlegung. Einerseits behauptet Anthropic, dass keine eindeutige böswillige Nutzung der Schwachstelle gefunden wurde und dass die Modellgewichte und Kundendaten nicht kompromittiert wurden. Andererseits gibt das Unternehmen zu, dass „diese Entdeckung uns glauben lässt, dass die Wahrscheinlichkeit anderer, uns unbekannter Probleme erhöht ist“. Darüber hinaus wies das Modell Mythos 5, dem Zugang zu internen Dokumenten zur Bewertung der Ehrlichkeit des Berichts gewährt wurde, auf drei Probleme hin: Ein Abschnitt des Berichts erwies sich als „beruhigender, als es die vollständige Aufzeichnung zulässt“, der Mechanismus zum Ausschluss von Daten schlug wiederholt fehl, und der informativste Vorfall wurde vollständig aus der öffentlichen Version ausgeschlossen. Anthropic nannte die Kritik berechtigt, was jedoch nur unterstreicht, dass das vollständige Bild des Vorfalls verborgen sein könnte.

### Erleichterung der Sicherheitsstandards

Parallel zum Eingeständnis des Fehlers änderte das Unternehmen seinen Ansatz zur Sicherheit. Anthropic hat den Auslöseschwellenwert für Filter für biologische Waffen gesenkt: Früher deckten sie Modelle ab, die „Angreibern erheblich helfen“, jetzt nur noch solche, die „mangelnde menschliche Expertise funktional ersetzen“. Diese Änderung könnte darauf abzielen, falsch-positive Ergebnisse zu reduzieren, wirft im Kontext des jüngsten Vorfalls jedoch Fragen zu den Sicherheitsprioritäten auf. Darüber hinaus berücksichtigte der im Februar veröffentlichte Risikobericht, als die Schwachstelle noch bestand, die Feedback-Plattformen nicht zur Bewertung des Risikoumfangs. Nun, im Nachhinein, hat Anthropic die Bewertung des Schadens durch nicht konformes Verhalten von Modellen in kritischen Szenarien von „sehr gering“ auf „gering“ erhöht.

### Fazit und Konsequenzen

Die Veröffentlichung des Berichts und das Eingeständnis eines systemischen Sicherheitsversagens stellen die Fähigkeit von Anthropic in Frage, die Entwicklung ihrer Modelle zu kontrollieren. Obwohl das Unternehmen behauptet, dass es keine eindeutige böswillige Nutzung gab, ist die bloße Tatsache, dass 133 Millionen Dialoge ohne Schutz vor biologischen Waffen stattfanden, ein beunruhigendes Signal für die gesamte Branche. Dieses Ereignis könnte ein Wendepunkt in der Regulierung von KI werden und die Aufsichtsbehörden dazu zwingen, die Sicherheitsanforderungen für Modelle zu verschärfen.