Google wird vorgeworfen, eine Gefahr für Jugendliche darzustellen: KI-Suche gab Ratschläge zu Suizid und Essstörungen

Die Frage der Sicherheit digitaler Technologien für die heranwachsende Generation rückt erneut in den Vordergrund. Diesmal steht eines der beliebtesten Werkzeuge der Welt unter Kritik – die Suchmaschine Google. Eine amerikanische gemeinnützige Organisation, die sich auf Cybersicherheit spezialisiert hat, wirft dem Internet-Riesen vor, dass seine neuen Funktionen der künstlichen Intelligenz (KI) nicht in der Lage sind, gefährliche Inhalte für Minderjährige zu filtern.

Sensationelle Untersuchung: KI fördert gefährliches Verhalten

Die Vorwürfe gegen Google wurden vom „Youth AI Safety Institute' (Institut für KI-Sicherheit für Jugendliche) erhoben, das unter dem Dach der Organisation Common Sense Media in Kalifornien tätig ist. Experten führten umfangreiche Tests durch, deren Ergebnisse ihrer Meinung nach die psychische Gesundheit von Kindern und Jugendlichen gefährden.

Zwischen dem 16. Mai und dem 1. Juli generierten die Forscher mehr als 2500 Suchanfragen unter Verwendung von Konten, die auf Minderjährige registriert waren. Das System überprüfte nicht nur die Antworten der KI selbst, sondern auch mehr als 2000 Quellen, auf die die Suchergebnisse verwiesen. Die Ergebnisse waren schockierend:

• Die Suchmaschine im KI-Modus blockierte keine Anfragen, die mit suizidalen Gedanken und sexuellen Inhalten verbunden waren.
• Auf Anfragen zu Essstörungen behauptete der Algorithmus, dass solche Zustände normal seien.
• Das System empfahl sogar das erzwungene Erbrechen nach dem Essen als akzeptables Verhalten, was ein Anzeichen für eine schwere psychische Störung ist.
• Was mehr ist, Google empfahl den Kontakt zu einer Hotline, deren Nummer seit 2023 nicht mehr funktioniert.

Besonders beunruhigend ist die Tatsache, dass die KI-Suche den Nutzern nicht im Wege stand, Anleitungen zur Erstellung von gefälschten Videos (Deepfakes) zu finden, und sogar Ratschläge gab, wie man die Fälschung verbergen kann.

Fehlende elterliche Kontrolle und Probleme mit der Zuverlässigkeit

Die Autoren der Studie betonen, dass die öffentliche Verfügbarkeit des Google-Services Eltern und Schulleitern die Werkzeuge entzieht, um gezielt genau jene KI-Funktionen zu deaktivieren, die schädlich sein können. Die einzige Schutzmaßnahme, die das Unternehmen anbietet, ist das vollständige Deaktivieren des Zugriffs auf den Suchdienst in einem Kinderkonto. Es ist nicht möglich, nur die gefährlichen KI-Funktionen separat zu deaktivieren.

Zusätzlich stellten die Forscher Probleme mit der Zuverlässigkeit der Informationen fest. Bei der Simulation der Erledigung von Hausaufgaben lieferte die KI widersprüchliche Antworten auf Fragen zur Geschichte und verwies auf Daten aus sozialen Medien und Foren, in denen Fakten oft mit Fiktion vermischt werden. Dies ist kritisch für Kinder, deren kritisches Denken noch nicht ausreichend entwickelt ist, um Informationen selbstständig zu überprüfen.

Antwort von Google: Die Testmethodik ist unzutreffend

Vertreter von Google stimmen den Schlussfolgerungen von Common Sense Media kategorisch nicht zu. In einer Antwort an die Zeitung Bloomberg erklärte das Unternehmen, dass die Methodik der Studie eine begrenzte Liste von Anfragen verwendete, die nicht repräsentativ für das reale Leben ist.

„Unsere KI-Suchfunktionen sind für Kinder und Jugendliche in Bezug auf die Erforschung dieser Welt und Informationen darüber unglaublich nützlich', erklärten sie in der Corporation. Google behauptet, dass Benutzer unter realen Bedingungen ihre Anfragen normalerweise präzisieren, was es der KI ermöglicht, sich auf den Kontext zu stützen und genauere sowie sicherere Antworten zu liefern. Experimente, die innerhalb des Unternehmens durchgeführt wurden, hätten angeblich qualitativ hochwertigere Ergebnisse gezeigt.

Google erinnerte auch daran, dass es zusätzliche Einschränkungsebenen für KI-Werkzeuge gibt, die über den Standard-Schutzmechanismen der Suchplattform hinausgehen.

Globaler Kontext: Regulatoren auf der Suche nach Lösungen

Dieser Vorfall ereignet sich vor dem Hintergrund einer wachsenden Aufmerksamkeit der Behörden für die Sicherheit von Kindern im Internet. Die Regierungen Australiens, Großbritanniens und einer Reihe anderer Länder versuchen bereits gesetzlich, die junge Generation vor negativen Einflüssen sozialer Netzwerke zu schützen. In der Regel werden jedoch konkrete Präzedenzfälle vor Gericht verhandelt, und eine einheitliche globale Politik zur Regulierung des Zugangs von Jugendlichen zu Internet-Ressourcen existiert bisher nicht.

Der Streit zwischen den Forschern und Google geht weiter. Während die Autoren des Berichts darauf bestehen, dass die Verantwortungslosigkeit des Unternehmens sich auf die Gesundheit einer ganzen Generation auswirken könnte, fordern Vertreter des Technologie-Riesen eine objektivere Bewertung der Arbeit ihrer Algorithmen unter realen Nutzungsbedingungen.