Anthropic entwickelt ein offenes System namens FlashProve, mit dem verifiziert werden soll, welches konkrete KI-Modell ein bestimmtes Ergebnis generiert hat. Das Projekt implementiert das Konzept der sogenannten „beweisbaren Inferenz“ (provable inference): Der Nutzer erhält einen kryptografischen Beweis und eine mathematische Garantie für die Echtheit der Datenquelle. Dies bestätigt, dass tatsächlich mit dem angegebenen Modell und nicht mit einem Ersatz gearbeitet wurde. Die Initiative wurde im Forschungsformat veröffentlicht, und die Spezifikation sowie der Quellcode der Systemkomponenten sind unter einer offenen Lizenz auf GitHub verfügbar.
Was ist „beweisbare Inferenz“
Ähnlich wie kryptografische E-Mail-Signaturen bietet FlashProve Schutz vor Versuchen, ein Modell als ein anderes auszugeben. Eine Schlüsseleigenschaft des Systems ist, dass es selbst dann effektiv bleibt, wenn das entwickelnde Labor den Austausch verbergen will. Forscher weisen darauf hin, dass die Technologie eingesetzt werden kann, um Situationen zu verhindern, in denen ein KI-Unternehmen heimlich ein günstigeres Modell zur Kostensenkung oder umgekehrt ein teureres Modell zur künstlichen Verbesserung von Benchmark-Ergebnissen einsetzt.
Überprüfung von Behauptungen Dritter
FlashProve kann auch verwendet werden, um die Behauptung Dritter zu überprüfen, dass eine bestimmte Aufgabe mithilfe fortschrittlicher neuronaler Netze gelöst wurde. „Ein Entwickler könnte behaupten, seine Softwarebibliothek sei von einem fortschrittlichen Cybersicherheitsmodell auf Schwachstellen überprüft worden, oder ein Unternehmen könnte erklären, sein Geschäftsplan sei von einem entsprechenden Modell genehmigt worden. [Aber] wie kann ein Nutzer diese Behauptungen überprüfen?“, schreiben die Projektautoren. Damit verwandelt das System Marketingbehauptungen in einen überprüfbaren kryptografischen Fakt.
„Digitaler Fingerabdruck“ ohne Offenlegung der Gewichte
Für die Verifizierung müssen KI-Labs einen „digitalen Fingerabdruck“ jedes veröffentlichten Modells bereitstellen, der später kryptografisch mit konkreten Antworten abgeglichen wird. Wichtig ist, dass diese Fingerabdrücke keine Modellgewichte verraten – also jene internen numerischen Parameter, die das Verhalten der KI bestimmen und die Entwickler geschlossener kommerzieller Systeme wie Anthropic und OpenAI geheim halten. Entsprechend können Labore Fingerabdrücke veröffentlichen, ohne ihr geistiges Eigentum zu gefährden. Das System selbst ist leichtgewichtig konzipiert, sodass die Überprüfung direkt auf dem lokalen Gerät des Nutzers erfolgen kann.
Projektstatus und offene Lizenz
Derzeit befindet sich FlashProve in der Forschungsphase; es gibt keine unmittelbaren Pläne zur Implementierung durch Anthropic oder andere Labore. Die detaillierte Spezifikation und der funktionierende Code wurden unter einer offenen Lizenz auf GitHub veröffentlicht. „Diese Forschungspublikation soll Zwischenfortschritte teilen und ist kein abgeschlossenes Forschungsprogramm. Wir teilen dies ausdrücklich zu dem Zweck, dass andere unsere Arbeit studieren, darauf aufbauen und sie verbessern können“, erklärten die Autoren. Die Initiative könnte zu einem wichtigen Vertrauenswerkzeug im Ökosystem der generativen KI werden, wo die Echtheit der Ausgabequelle für Unternehmen und Regulierungsbehörden immer bedeutsamer wird.
