Der Konzern Meta Platforms hat die beispiellose Entscheidung getroffen, das Tool Muse Image im sozialen Netzwerk Instagram sofort auszusetzen. Die Funktion, die die Generierung synthetischer Bilder basierend auf dem Aussehen der Nutzer ermöglichte, wurde bereits drei Tage nach dem offiziellen Start aus dem Verkehr gezogen. Auslöser für die Absage waren massenhafte Eingaben von Menschenrechtsorganisationen und harte Kritik seitens des Gewerkschaftsverbands SAG-AFTRA.
Die Mechanik, die zum Skandal führte
Das Tool Muse Image, das in das Ökosystem von Meta AI integriert war, funktionierte nach dem Prinzip einer tiefen Analyse öffentlicher Inhalte. Der Algorithmus ermöglichte es dem Nutzer, eine Anfrage an den Chatbot zu stellen, indem er einfach den Namen eines öffentlichen Profils über das Symbol @ erwähnte. Als Antwort analysierte die neuronale Netzwerkanwendung automatisch Fotos und Videomaterialien (Reels) der genannten Person und verwendete deren anthropometrische Parameter und äußere Merkmale als Referenz für die Erstellung eines neuen Bildes.
Aus technischer Sicht löste die Umsetzung ernste Bedenken bei Experten für Cybersicherheit aus. Das System funktionierte nach dem Modell Opt-out (Ablehnung des Dienstes). Das bedeutete, dass die Funktion standardmäßig für alle Besitzer öffentlicher Konten aktiviert war. Um sein Image zu schützen, musste der Nutzer die entsprechende Option selbstständig in den tiefen Untermenüs der Datenschutzeinstellungen finden und deaktivieren.
Das Problem der Transparenz und Kontrolle
Ein Schlüsselfaktor, der Meta zur Abschaltung der Funktion veranlasste, war das Fehlen von Transparenz im Prozess. Die Plattform informierte die Profilbesitzer nicht darüber, dass ihre Bilder als Trainingsmaterial für die KI verwendet werden. Darüber hinaus führte selbst eine Entscheidung des Nutzers, die Funktion in den Sicherheitseinstellungen zu deaktivieren, nicht zur Löschung zuvor basierend auf seinem Aussehen generierter Bilder, die möglicherweise bereits in den Datenbanken anderer Konten gespeichert waren.
Diese Architektur entzog den Menschen faktisch die Kontrolle über ihr eigenes digitales Image. Im Gegensatz zum Standardmodell Opt-in, bei dem eine Bestätigung vor der Datenverarbeitung erforderlich ist, wurde hier die Zustimmung stillschweigend als erteilt betrachtet.
Die Reaktion der Unterhaltungsindustrie
Die massenhafte Unzufriedenheit entwickelte sich schnell zu einer juristischen Angelegenheit. Der Gewerkschaftsverband der Schauspieler und der Föderation der Fernseh- und Radiokünstler der USA (SAG-AFTRA) sowie die größten Agenturen, darunter die Creative Artists Agency (CAA), veröffentlichten offizielle Erklärungen. Vertreter der Organisationen verurteilten die Politik der automatischen Zustimmung und wiesen darauf hin, dass ein solcher Mechanismus die Erstellung digitaler Duplikate von natürlichen Personen ohne direkte, informierte und dokumentierte Genehmigung legalisiert.
Unter dem Druck juristischer Risiken und großangelegter Kampagnen von Nutzern, die eine Überprüfung der Datenschutzeinstellungen forderten, sperrte das Management von Meta den Zugriff auf das Modul. In einer offiziellen Erklärung gab das Unternehmen zu, dass zwar die Erweiterung kreativer Möglichkeiten im Vordergrund stand, das Feedback jedoch eine Diskrepanz zu den Erwartungen des Publikums hinsichtlich der Kontrolle über persönliche Inhalte aufzeigte.
Ein neuer Abschnitt in der KI-Regulierung
Der Vorfall mit Muse Image wurde zu einem wichtigen Präzedenzfall in der Geschichte der Entwicklung generativer Technologien. Er verdeutlichte anschaulich die wachsende Strenge der Anforderungen an die Einhaltung des Konzepts der informierten Zustimmung (informed consent) bei der Verwendung biometrischer Daten. Andere generative Funktionen von Meta AI, die nicht mit der Übernahme persönlicher Bilder verbunden sind, bleiben weiterhin in Betrieb, doch dieser Fall signalisiert, dass die Grenzen der Nutzung von Nutzerdaten immer strenger werden.
