Der britische Startup Mindgard hat eine Schwachstelle im Schutzsystem von ChatGPT entdeckt, die es ermöglicht, die grundlegenden Sicherheitsanweisungen vollständig zu umgehen. Die Experten konnten das OpenAI-Modell dazu bringen, sensible Inhalte zu generieren, indem sie eine Methode anwendeten, die die Bearbeitung von Dateien simuliert.

Mechanismus der Schutzumgehung

Das Wesentliche der entdeckten Methode besteht in der Verwendung eines spezifischen Textbefehls. Der Benutzer bittet ChatGPT, ein angehängtes Foto wiederherzustellen, lädt jedoch tatsächlich kein Bild in das Dialogfenster hoch. Anschließend folgt ein Befehl zur Generierung eines neuen Bildes.

Laut dem Gründer von Mindgard, dem Informatikprofessor der Lancaster University Peter Garraghan, erscheint diese Anweisung für die Algorithmen der künstlichen Intelligenz absolut sicher. Infolgedessen schaltet das Modell jedoch die Moderationsfilter aus und gibt verbotene Inhalte aus.

Autonome Generierung von Gewalt

Besonders an diesem Vorfall war, dass die Forscher in ihren Anfragen keine spezifischen Details oder Handlungsszenarien angaben. Die künstliche Intelligenz generierte eigenständig Szenen mit körperlichen Verletzungen und gewalttätigen Handlungen. Der Algorithmus benannte die erstellten Dateien ebenfalls selbstständig.

Zuvor hatten die Experten von Mindgard bereits die Möglichkeit nachgewiesen, Filter zu umgehen, um realistische, entblößte Deepfakes bestimmter Personen ohne deren Zustimmung zu erstellen.

Reaktion von OpenAI und erneuter Hack

Die Forscher übergaben die Daten zur Schwachstelle an die Entwickler von OpenAI. Zunächst erhielt das Startup nur eine automatische Antwort des Support-Systems. Maßnahmen zur Behebung des Problems wurden erst ergriffen, nachdem sich Mindgard an die Journalisten der BBC gewandt hatte.

In einer Erklärung von OpenAI an die Medien heißt es, das Unternehmen habe die festgestellte Tendenz untersucht und zusätzliche Schutzinstrumente gegen diese Art von Anfragen eingeführt. Die Entwickler wiesen zudem auf mehrere Ebenen der Moderation hin, um Verstöße gegen die Nutzungsrichtlinien der Plattform zu verhindern.

Trotz des Systemupdates gaben Vertreter von Mindgard an, dass es ihnen gelungen sei, den Schutz erneut zu umgehen, indem sie minimale Änderungen am Text der Anweisung vornahmen.

Risiken beim Training von neuronalen Netzen

Sicherheitsexperten weisen darauf hin, dass die von der künstlichen Intelligenz generierten Bilder auf großen Mengen echter Fotos aus dem Internet basieren. Dies deutet auf erhebliche Risiken bei der Verwendung nicht gefilterter Datenbanken zum Training neuronaler Netze hin.