Der „perfekte“ KI-Richter über Emotionen: Forscherin aus Leiden warnt vor den Risiken einer vollständigen Gefühlserkennung

Künstliche Intelligenz erobert zunehmend die Aufgabe, menschliche Emotionen anhand von Mimik, Sprechintonation und physiologischen Signalen zu erkennen. Doch laut der Forscherin Alexandra Prégan von der Universität Leiden könnte genau der Moment, in dem solche Systeme nahezu fehlerfrei werden, zu einem ernsthaften Risiko für die Gesellschaft werden. Dies berichtet RBC-Ukraine unter Verweis auf die aktuelle Dissertation der Wissenschaftlerin, die auf der offiziellen Website der Universität Leiden veröffentlicht wurde. Prégan beschränkte sich nicht auf theoretische Überlegungen: Um die Folgen der Einführung perfekter Emotionserkennungstechnologien (ERT – Emotion Recognition Technology) zu bewerten, simulierte sie eine Reihe zukünftiger Szenarien, in denen ein algorithmisches „Urteil“ über den inneren Zustand eines Menschen dessen beruflichen und sozialen Werdegang bestimmt.

Das Szenario des Chirurgen: Wenn die persönliche Scheidung zum „beruflichen Risiko“ wird

Ein besonders anschauliches Beispiel, das Prégan vorschlägt, betrifft einen Chirurgen, der vor einer hochkomplexen Operation in die Klinik kommt. Das ERT-System registriert seine emotionale Instabilität, und die Krankenhausleitung setzt den Arzt von der Arbeit ab. Dabei hatte der Auslöser der Algorithmus-Alarmierung nichts mit seinen beruflichen Kompetenzen zu tun: Der Chirurg durchlebte eine schwere Scheidung und machte sich Sorgen um sein Kind. Obwohl der Arzt seine persönlichen Probleme bewusst aus dem Arbeitsbereich herausgehalten hatte, bewertete die Technologie seinen Zustand als Bedrohung für die Erfüllung seiner Dienstpflichten. Infolgedessen ist der Mensch gezwungen, dem Arbeitgeber die Geheimnisse seines eigenen Lebens offen zu legen und zu rechtfertigen, denn das System hat bereits sein Urteil gefällt, das nun „widerlegt“ werden muss – dokumentarisch oder emotional.

Die Zerstörung der Grenze zwischen privatem und beruflichem Leben

Im Laufe seines Lebens übernimmt jeder Mensch zahlreiche soziale Rollen: Chirurg, Vater oder Mutter, Partner, Freund, Nachbar. In der Regel entscheiden wir selbst, welche Grenzen und welche Schichten unserer inneren Welt wir in einer bestimmten Situation offenlegen. Der Verlust der Vertraulichkeit bei einem fehlerfreien ERT bedeutet, dass innere Erlebnisse nicht mehr verborgen werden können, und die Grenze zwischen privatem und beruflichem Leben wird endgültig zerstört. Der Mensch verliert das Recht auf eine „emotionale Pause“, das Recht, nicht erklären zu müssen, warum er heute traurig oder gereizt ist – ein Recht, das heute eine ungeschriebene, aber grundlegende Grundlage des sozialen Miteinanders darstellt.

Veränderung der Kommunikationsrituale und Verschiebung der Vertrauensmaßstäbe

Prégan weist auf einen weiteren beunruhigenden Wandel hin: Ein öffentlicher Auftritt oder die Entschuldigung eines Amtsträgers nach einer Tragödie könnten von der Gesellschaft nicht nach dem Inhalt der Worte und Taten bewertet werden, sondern nach der „Echtheit“ des geäußerten Kummer aus Sicht der KI. Dabei sind Ärzte, Polizisten oder Politiker oft gezwungen, ihre Emotionen aus beruflichen ethischen Gründen der Selbstschutz zu unterdrücken, was ihre berufliche Pflicht nicht weniger aufrichtig macht. Anstatt dem Wort und den Taten der Menschen zu vertrauen, könnte sich die Gesellschaft ausschließlich darauf stützen, was die Technologie über ihren Zustand „berichtet“. Diese Verschiebung der Maßstäbe untergräbt aus Sicht der Wissenschaftlerin die Grundlage des zwischenmenschlichen Vertrauens, das auf der Fähigkeit des Menschen beruhte, selbst zu wählen, was und wann er seiner Umgebung zeigt.

Aktuelle Regulierung und langfristige Perspektive

Heute schränkt der europäische KI-Gesetzgeber (EU AI Act) die Verwendung von Emotionserkennungstechnologien bereits ein, allerdings vor allem wegen ihrer derzeitigen geringen Genauigkeit. Die Studie von Prégan zielt auf eine andere, langfristige Perspektive ab: den Moment, in dem die Algorithmen fehlerfrei werden. In dieser Situation wird die Gesellschaft stärkere moralische und rechtliche Argumente für die Einschränkung der ERT-Anwendung benötigen, da das Argument „die Technologie macht Fehler“ aufhört zu funktionieren. Die Wissenschaftlerin betont, dass der Schutz der emotionalen Vertraulichkeit nicht nur der Schutz von Informationen im engeren Sinne ist. Es ist die Bewahrung des sozialen Raums, in dem der Mensch selbst entscheidet, wie er sich positioniert und Beziehungen zu anderen Menschen aufbaut.

Nicht nur Bedrohung: Das positive Potenzial von ERT

Wichtig ist zu beachten, dass Emotionserkennungstechnologien nicht ausschließlich ein negatives Phänomen sind. Prégan anerkennt, dass ERT bei der Früherkennung neurologischer Störungen helfen und Menschen unterstützen können, die Schwierigkeiten haben, ihre eigenen Emotionen zu erkennen – beispielsweise bei bestimmten Formen von Autismus oder Alexithymie. Die Debatte, die die Dissertation anstößt, beschränkt sich also nicht auf den Slogan „alles verbieten“, sondern betrifft die Suche nach einem Gleichgewicht: Wo verläuft die Grenze zwischen einem nützlichen Diagnoseinstrument und einer totalen emotionalen Überwachung, die den Menschen das Recht auf innere Privatsphäre nimmt?