ChatGPT für Jugendliche: So richtest du die elterliche Kontrolle ein und verhinderst, dass die KI dein Kind „fesselt“

OpenAI hat eine spezielle Version namens ChatGPT for Teens mit verstärkten Sicherheitsmaßnahmen vorgestellt. Experten warnen jedoch: Die standardmäßig voreingestellten Einschränkungen reichen nicht aus. Ihren Worten zufolge ist es wichtig, dass Eltern die wichtigsten Zugangsparameter selbst anpassen, damit der Austausch des Jugendlichen mit der Neuronetwerk-KI sicher bleibt und nicht zu einer übermäßigen emotionalen Bindung führt. Das Medium RBC-Ukraine hat sich mit Verweis auf Engadget die grundlegenden Einstellungen für eine sichere Kommunikation zwischen Kindern und KI angesehen und erklärt, welche Schalter zuerst umgelegt werden sollten.

Wie man Konten verknüpft und was Eltern damit freigeschaltet wird

Zur Aktivierung der elterlichen Kontrolle müssen die Profile in der App oder in der Web-Version des Dienstes zusammengeführt werden. Nach der Bestätigung durch das Kind erscheint dessen Name in der Familienliste; der Jugendliche kann die Verknüpfung auch selbst initiieren, indem er den Punkt „Mein Elternteil/mein Vormund“ (My parent or guardian) auswählt. Wichtig ist der zeitliche Horizont: Sobald der Nutzer volljährig wird, sendet OpenAI beiden Seiten eine Benachrichtigung, woraufhin die Verknüpfung der Konten und alle elterlichen Einschränkungen automatisch aufgehoben werden. Nach der Verknüpfung der Konten erhalten Eltern ein Dashboard mit den wichtigsten Steuerungsparametern.

Was standardmäßig aktiviert ist und warum das riskant ist

Im Dashboard sind standardmäßig mehrere umstrittene Funktionen aktiviert. Der Parameter „Reduzierung sensibler Inhalte“ (Reduce sensitive content) blockiert unerwünschte Materialien und ist standardmäßig eingeschaltet. Die Option „Modell für alle verbessern“ (Improve the model for everyone) erlaubt es OpenAI, die KI anhand der Unterhaltungen des Kindes zu trainieren – sie ist ebenfalls standardmäßig aktiviert. „Gespeicherte Erinnerungen“ (Reference saved memories), die für Antworten auf Grundlage früherer Chats zuständig sind, können je nach Region aktiviert oder deaktiviert sein und erfordern eine zusätzliche Überprüfung. Der Netzwerkkzugriff von Codex und der Cloud-Browser (Codex network access / Cloud browser), die dem ChatGPT Work-Agenten den Zugang zum offenen Internet ermöglichen, sind standardmäßig eingeschaltet, ebenso wie der Sprachmodus mit Bildgenerierung (Voice Mode / Image generation). Gleichzeitig sind der „Lernmodus“ (Study Mode) mit Zeitplan (Study hours), der die KI dazu bringt, zur eigenständigen Suche nach Antworten anzuregen, statt fertige Lösungen zu liefern, sowie die „Ruhezeiten“ (Quiet hours), die den Zugang zum Chat zu bestimmten Uhrzeiten vollständig blockieren, standardmäßig deaktiviert. Wichtige Einschränkung: Der Jugendliche kann die von Eltern kontrollierten Einstellungen nicht ändern, solange die Konten verknüpft bleiben.

Notfallbenachrichtigungen und Prüfung durch Moderatoren

Die Verknüpfung der Konten aktiviert das System der Notfallbenachrichtigungen. Wenn das Kind mit der KI Themen wie Selbstverletzung oder die Verursachung von Schaden anderen gegenüber bespricht, erhalten die Eltern Benachrichtigungen per SMS, E-Mail und in der App. Dabei wird der kritische Inhalt vor dem Versand der Benachrichtigung vom hauseigenen Moderationsteam von OpenAI geprüft. Das Unternehmen strebt an, die Eltern innerhalb einer Stunde nach Erstellung einer gefährlichen Anfrage zu informieren.

Empfehlungen der Experten: Welche Schalter umlegen

Für die Schaffung eines möglichst geschützten und produktiven Raums empfehlen die Fachleute eine Reihe von Änderungen. Zunächst – „Gespeicherte Erinnerungen“ deaktivieren: Das ist der entscheidende Schritt, denn Studien zeigen, dass das Langzeitgedächtnis der KI die Illusion echter Beziehungen erzeugt und eine übermäßige emotionale Bindung des Jugendlichen an den Chatbot fördert. Zweiter Schritt – „Modell für alle verbessern“ deaktivieren, um die private Korrespondenz des Kindes vor der Aufnahme in Trainingsdatensätze zu schützen. Dritter Schritt – den „Lernmodus“ mit Zeitplan einrichten, sodass der Chatbot nach der Schule ausschließlich im Hinweismodus arbeitet und keine fertigen Antworten auf Hausaufgaben liefert. Die Bildgenerierung und den Sprachmodus empfehlen die Experten beizubehalten: Sie sind nützlich für Infografiken, visuelle Projekte und die Verbesserung der Barrierefreiheit des Tools. Die Parameter des Netzwerkkzugriffs von ChatGPT Work können ignoriert werden, da Jugendliche diese Funktion selten nutzen.