Microsoft beschäftigt wie viele andere Technologiegiganten Hunderte von externen Auftragnehmern, um Textanfragen und Bilder, die Benutzer an den Copilot-Chatbot senden, manuell zu analysieren und zu bewerten. Wie eine journalistische Recherche ergab, ist diese Praxis mit ernsthaften ethischen Problemen verbunden: Moderatoren und Prüfer stoßen regelmäßig auf vertrauliche Aufnahmen und explizit intime Materialien. Solche Überprüfungen werden durchgeführt, um den Dienst zu verbessern und Algorithmen der generativen künstlichen Intelligenz anzupassen, doch Benutzer ahnen oft nicht, von echten Menschen überprüft zu werden.
Moderatorenabläufe und Dokumentenleaks
Fachmedien erhielten einen Satz interner Dokumente von Prolific, dem Unternehmen, über das Microsoft Spezialisten zur Bewertung der Generierungsqualität anheuert. In den Anweisungen für Auftragnehmere steht klar, dass sie die Ergebnisse der Bearbeitung von Benutzerbildern bewerten müssen. Den Prüfern werden die ursprüngliche Anfrage, das hochgeladene Quellbild und zwei vom neuronalen Netz erstellte Varianten angezeigt. Dabei bleiben die Gesichter auf den Fotos unzensiert, und die Materialien selbst schockieren die Mitarbeiter oft, da sie keiner strengen Vorabfilterung unterzogen werden.
Anweisungen für Auftragnehmere und Microsofts Reaktion
Gemäß den internen Vorschriften müssen sich Auftragnehmer bei der Auswahl der besten Generierungsoption auf ihre Intuition verlassen, ohne sich auf die moralische Seite zu konzentrieren. Einige Bediener beschwerten sich jedoch über schwierige Arbeitsbedingungen und die Notwendigkeit, potenziell unsichere oder illegale Inhalte zu bearbeiten. Als Reaktion auf Medienanfragen erklärten Microsoft-Vertreter, das Unternehmen verarbeite Kundendaten streng im Einklang mit den Nutzungsbedingungen zur Produktverbesserung und Ethikkodizes.
Widersprüchliche Daten
Während Microsofts offizielle Haltung die Legalität und Sicherheit der Verwendung von Kundendaten zur Verbesserung der KI betont, verweisen unabhängige Beobachter auf tiefe Datenschutzlücken. Der Konzern behauptet, alle Prozesse seien automatisiert und kontrolliert, doch das Leaken interner Anweisungen beweist das Gegenteil: Echte Menschen erhalten direkten Zugriff auf unzensierte intime Materialien.
