Moderne neuronale Netze, die zu einem unverzichtbaren Teil des digitalen Lebens geworden sind, sehen sich einer ernsthaften Herausforderung gegenüber. Nutzer begannen in der Masse, die Grenzen von ChatGPT zu testen, indem sie Fragen zur Herstellung von Giften und biologischen Waffen stellten. Die Ergebnisse der Tests zeigten eine beunruhigende Tendenz: In einigen Fällen lieferte die künstliche Intelligenz zu detaillierte und gefährliche Antworten.

Eine reale Bedrohung, kein Test

Wie RBC-Ukraine unter Berufung auf die Wall Street Journal berichtet, erwies sich die Situation als ernster als nur ein Test der Algorithmen. Laut OpenAI handelte es sich bei den identifizierten Anfragen nicht um interne Schwachstellentests. Es waren echte Versuche von Angreifern, schädliche Informationen zu erhalten. Die Statistik zeigte, dass die überwältigende Mehrheit dieser Anfragen sich speziell auf Rezepte zur Herstellung giftiger Substanzen bezog.

Reaktion der Entwickler und Sperrungen

Das Team von OpenAI reagierte schnell auf den Vorfall. Alle Nutzer, die solche gefährlichen Dialoge initiierten, wurden vollständig gesperrt. Darüber hinaus wurde der Chatverlauf, der gefährliche Anweisungen enthielt, an Wissenschaftler und Experten für biologischen Terrorismus zur Analyse und Verhinderung potenzieller Bedrohungen weitergeleitet.

Vertreter des Unternehmens betonten, dass ihre Algorithmen von Anfang an darauf ausgelegt waren, schädliche Anfragen abzulehnen. Jede neue Version des Modells durchläuft eine mehrstufige Sicherheitsbewertung. Wie die Praxis jedoch zeigt, sind die Entwickler in der Lage, neue Bedrohungen schnell zu erkennen, und im Falle einer echten Gefahr werden die Daten der Täter sofort an die Strafverfolgungsbehörden übermittelt.

Risiken der Technologieentwicklung

Experten im Bereich der Cybersicherheit warnen vor neuen Risiken, die mit der schnellen Entwicklung der Technologie einhergehen. Das Auftreten nicht zensierter Modelle und die Verwendung spezieller Methoden zum Aufheben von Einschränkungen (sogenannte „Prompt-Injektionen') gewähren Angreifern Zugang zu gefährlichen Daten. Dies macht eine ständige Verbesserung nicht nur der neuronalen Netze selbst, sondern auch der Schutzmaßnahmen gegen solche Schwachstellen notwendig.