Anthropic hat die Entwicklung des Open-Source-Systems FlashProve angekündigt, das eine kryptografische Bestätigung des Ursprungs von Antworten künstlicher Intelligenz liefert. Laut den Entwicklern ist das Problem systemischer Natur: Ein normaler Nutzer kann nicht überprüfen, welches Sprachmodell die erhaltene Antwort tatsächlich generiert hat. Dies eröffnet Routing-Diensten oder den Entwicklern selbst die Möglichkeit, teure Modelle unbemerkt durch günstigere zu ersetzen, um Kosten zu senken. Das neue System soll diese Schwachstelle schließen, indem es den „Ursprung“ einer Antwort von einer unbeweisbaren Behauptung in einen überprüfbaren kryptografischen Fakt verwandelt.

Warum die Bewertung nach Textqualität unzuverlässig ist

Anthropic betont, dass die Beurteilung des Ergebnisses ausschließlich nach Textqualität eine unzuverlässige Kontrollmethode bleibt. Selbst Ersatz- oder kompromittierte Systeme sind in der Lage, äußerlich plausible Ergebnisse zu liefern, während sie den eigentlichen Generierungsprozess vor dem Endverbraucher verbergen. In einer Zeit, in der Modelle unterschiedlicher Klassen und Kosten gleichzeitig arbeiten und Unternehmenskunden zunehmend mehrere Systeme kombinieren, hört die visuelle „Plausibilität“ einer Antwort auf, ein Beweis dafür zu sein, von welchem Modell sie erstellt wurde. Genau deshalb setzt das Unternehmen auf kryptografische Inferenznachweise statt auf heuristische Qualitätsbewertungen.

Zwei Phasen: Gewichts-Fingerabdruck und On-Demand-Beweis

Die Architektur von FlashProve basiert auf kryptografischen Inferenznachweisen und besteht aus zwei Hauptphasen zur zuverlässigen Kontrolle. In der Offline-Phase veröffentlicht das system einen kurzen digitalen Fingerabdruck der Modellgewichte, ohne dabei proprietäre Parameter offenzulegen. In der Online-Phase wird für jede konkrete Anfrage und die generierten Token ein separater Beweis erstellt. Die resultierende Datei kann vom Nutzer oder einem unabhängigen Auditor auf einem gewöhnlichen Computer in wenigen Sekunden überprüft werden, was laut den Entwicklern die Möglichkeit einer unbemerkten Fälschung der Ergebnisse vollständig ausschließt.

Leistung und Open Source

Beim Testen mit dem Llama 4 Maverick-Modell mit 400 Milliarden Parametern zeigte das System eine hohe Leistung: Ein einzelner H100-Grafikprozessor generiert Bestätigungen mit einer Geschwindigkeit von etwa 110 Token pro Sekunde. Eine Beweisdatei mit 1024 Token belegt 19 MB, und ihre Überprüfung auf einer normalen Zentralprozessoreinheit dauert nur wenige Sekunden, wodurch die Technologie ohne übermäßigen Rechenaufwand genutzt werden kann. Anthropic hat die technische Spezifikation und den Quellcode des Systems auf GitHub unter einer offenen Lizenz veröffentlicht und setzt dabei auf die aktive Beteiligung der Community an dessen Weiterentwicklung.

Kontext: Preiskampf in der KI-Branche

Die Ankündigung erfolgt zu einer Zeit, in der sich der Wettbewerb im Bereich der künstlichen Intelligenz zu einem Preiskampf ausgeweitet hat. Laut 3dnews.ru hat sich Anthropic in diesem Jahr dank fortschrittlicher Modelle und eines Programmierdienstes, der von amerikanischen Unternehmen hoch gelobt wird, nach vorne gearbeitet, während OpenAI den Rückstand im Unternehmenssegment durch die Einführung der GPT-5.6-Linie in den Varianten Sol, Terra und Luna mit verschiedenen Funktionen und wirtschaftlicheren Optionen verringert hat. Die steigenden IT-Ausgaben von Unternehmen für KI und die Erkenntnis, dass nicht für jede Aufgabe die leistungsstärksten Modelle erforderlich sind, haben dazu geführt, dass Unternehmen zunehmend auf günstige Open-Weight-Systeme zurückgreifen. Vor diesem Hintergrund wird die Möglichkeit des unbemerkten Austauschs eines teuren Modells gegen ein billiges zu einer praktischen und nicht nur theoretischen Bedrohung, auf die FlashProve reagiert.

Bedeutung für Vertrauen und Regulierung

Anthropic ist überzeugt, dass die Einführung solcher Lösungen das Vertrauen in künstliche Intelligenz erheblich stärkt. Die Technologie eröffnet nach Ansicht des Unternehmens auch neue Möglichkeiten für die Branchenregulierung, die Sicherheitsprüfung und die Überwachung der Einhaltung von Verpflichtungen durch die Entwickler. Für unabhängige Auditoren und Aufsichtsbehörden verwandelt die Möglichkeit, auf einem normalen Computer in Sekunden zu überprüfen, mit welchem Modell eine Antwort generiert wurde, die Kontrolle von einer subjektiven Einschätzung in ein formalisierbares Verfahren.