Der von xAI entwickelte Chatbot Grok wurde seit seiner Einführung als ein Werkzeug mit minimalen Inhaltsbeschränkungen positioniert. Eine neue Untersuchung deckt jedoch unerwartete Ausmaße der Plattformnutzung auf: Mehr als die Hälfte des gesamten Traffics entfällt auf die Generierung von Inhalten für Erwachsene und erotische Rollenspiele.

Der verborgene Wirtschaftstreiber

Trotzdem wurde die Rolle erotischer Inhalte bei der Umsatzgenerierung in den offiziellen Dokumenten zur Vorbereitung des Börsengangs (IPO) vollständig ausgeblendet. Die Realität sieht jedoch anders aus. Journalisten haben herausgefunden, dass die xAI-Führung einen erheblichen Budgetposten für potenzielle juristische Risiken im Zusammenhang mit dieser Strategie eingeplant hat.

Die Popularität der „Erwachsenen“-Funktionen führte zu paradoxen Anomalien bei der Verteilung der Rechenleistung. Nutzer stellten fest, dass die Generierung erotischer Texte und Bilder nackter Menschen deutlich günstiger ist als die Nutzung der spezialisierten Grok-Submodelle, die für das Schreiben von Programmcode entwickelt wurden.

Interne technische Analysen bestätigten diese Beobachtungen: Ein erheblicher Teil der Anfragen an das Coding-Modell bezog sich tatsächlich auf die Erstellung pornografischer Materialien. Dies wurde erst durch die geringeren kommerziellen Kosten für die Plattform möglich.

Innere Krise und Skandale mit Deepfakes

Die spezifische Nutzung der Plattform hat zu ernsthaften Meinungsverschiedenheiten innerhalb des Ingenieurteams geführt. Ein Teil des Personals äußerte Unzufriedenheit über die Zuweisung zum Projekt Ani – der Entwicklung eines interaktiven NSFW-Avatars im Anime-Stil. Die Situation verschärfte sich durch eine Reihe öffentlicher Skandale, bei denen Nutzer Grok zur Erstellung sexualisierter Deepfakes realer Personen, einschließlich Minderjähriger, nutzten.

Viele Entwickler gaben an, sich beschämt und empört zu fühlen. Als Reaktion darauf mussten die Ingenieure in Eilmarsch neue Algorithmen entwickeln. Ihre Aufgabe besteht darin, dem Bot romantische und erotische Gespräche zu ermöglichen, gleichzeitig aber jegliche Versuche zur Generierung verbotener oder illegaler Inhalte strikt zu blockieren.

Gegenwärtig ist die Generierung freizügiger Fotos realer Personen direkt in dem sozialen Netzwerk X eingeschränkt. Dennoch haben zahlende xAI-Abonnenten weiterhin technischen Zugang zu dieser Funktionalität, was zusätzliche Risiken birgt.

Finanzielle Risiken und Regierungsverträge

Im Bewusstsein der Gefahr von Rechtsstreitigkeiten wegen nicht-konsensualer Deepfakes und Pornografie hat die Unternehmensführung potenzielle Investoren offiziell gewarnt: Die „frechen“ Funktionen des Bots stellen ein ernsthaftes Risiko dar. Zur Beilegung zukünftiger Rechtsstreitigkeiten und zur Zahlung von Entschädigungen hat xAI einen separaten Reservefonds in Höhe von 530 Millionen Dollar eingerichtet.

Eine besondere Herausforderung für das Geschäftsmodell von Elon Musk ist die Kompatibilität dieses Images mit staatlichen Aufträgen. xAI verfolgt eine aggressive Politik auf dem Markt der öffentlichen Aufträge und hat bereits eine Reihe großer Verträge mit verschiedenen Bundesbehörden und Militärsstrukturen der USA unterzeichnet.

Staatliche Stellen zeigen in der Regel null Toleranz gegenüber jeglichen Erscheinungsformen der NSFW-Industrie. Bisher gibt es jedoch keine Bestätigung dafür, dass die zahlreichen Deepfake-Skandale oder laufenden Ermittlungen sich negativ auf die Zusammenarbeit des Unternehmens mit der US-Regierung ausgewirkt haben.