Gefühlsdetektor bei Videokonferenzen

27 Menschenrechtsgruppen laufen Sturm gegen Zoom

Künstliche Intelligenz soll den Gemütszustand der Teilnehmenden bei Videokonferenzen erkennen. Warum Emotion-Tracking so gefährlich ist.

Matthias Schüssler

Aus einem Werbevideo des Anbieters Sales EQ: Mit einer KI, die den Gefühlszustand der Nutzer analysiert, könne es dem Verkäufer gelingen, sich in den Kopf des Kunden hineinzuversetzen.

In einem offenen Brief haben letzte Woche 27 Menschenrechtsorganisationen gegen die Pläne des Softwareherstellers Zoom protestiert, seine Videoconferencing-App mit einem automatischen Gefühlsdetektor auszustatten. Dieses System namens «Zoom IQ for Sales» analysiert unter anderem Sprechgeschwindigkeit und Länge der Monologe, um daraus mithilfe künstlicher Intelligenz die Gefühlslage der Gesprächsteilnehmer zu erkennen. Im Protestschreiben heisst es nun, die Absichten des Unternehmens würden der Privatsphäre der Nutzer und deren Menschenrechten zuwiderlaufen: «Zoom muss die Pläne zur Weiterentwicklung dieser Funktion stoppen», lautet die unmissverständliche Forderung.

Zoom ist nicht das einzige Unternehmen, das Algorithmen beibringen will, menschliche Regungen zu deuten. Solche Systeme sollen Verkäufer dabei unterstützen, sich während Verkaufsgesprächen besser auf den Kunden einzulassen, und sie rechtzeitig zu warnen, wenn sich bei diesem Frustration breitmacht. In einer Konsole sieht der Verkäufer in einer grafischen Darstellung fortlaufend, was das System an Zufriedenheit, Glück, Engagement, Überraschung, Ärger, Ekel, Angst und Traurigkeit misst – so beschrieb es die zur US-Tageszeitung «Politico» gehörende Website Protocol.com vor drei Wochen.

Während andere Systeme die Mimik analysieren, konzentriert sich Zoom auf die Sprechweise der Gesprächsteilnehmer, wie dieser Screenshot aus dem Blog des Herstellers zeigt.

Doch diese Werte sind längst nicht so verlässlich, wie diese Anzeigen implizieren: Der Gesichtsausdruck eines Menschen sei oft nicht mit seinen inneren Gefühlen verbunden, kritisieren die Menschenrechtsvertreter und weisen darauf hin, dass nicht einmal Menschen die Gefühlslage anderer jederzeit genau richtig lesen und verstehen können.

Ein weiteres Problem besteht gemäss dem offenen Brief in der Gefahr der Diskriminierung: Mimik und Körpersprache sind längst nicht universell, sondern unterscheiden sich nach Ethnien. Auch Menschen mit Behinderungen laufen Gefahr, missverstanden zu werden. Ein solches System beschädigt die zwischenmenschlichen Beziehungen, indem diese zu Verkaufszwecken ausgebeutet werden, und schliesslich birgt es auch die Gefahr, dass es abseits von Verkaufssituationen eingesetzt wird und Studenten oder Arbeiter bestraft werden könnten, wenn sie Gefühle zeigen würden, die die Überwacher als unangemessen betrachten.

Meta hat grosse Pläne fürs Metaversum

Die Sensibilisierung für dieses Thema kommt zur richtigen Zeit. Denn im Januar hat die «Financial Times» auf Patente hingewiesen, die sich der Facebook-Mutterkonzern Meta hat schützen lassen: Diese deuten darauf hin, dass Meta in seinem Metaversum die Personalisierung der Werbung weitertreiben will, als das im Web möglich ist. Die Brillen, die zum Besuch der virtuellen Welt getragen werden müssen, könnten die Blickrichtung und die Pupillenaktivität auswerten und daraus Rückschlüsse über Interessen und den Gefühlszustand eines Nutzers ableiten.

Wer im Metaversum einkaufen wird, muss damit rechnen, dass jede Gefühlsregung aufgezeichnet wird (Symbolbild).

Die Patente umfassen gemäss der Zeitung auch ein «tragbares magnetisches Sensorsystem», das um den Torso geschnallt wird und es erlauben würde, die Körperhaltung des Trägers auf seinen Avatar im Metaversum zu übertragen. Nebenbei würde er Meta Informationen über die Körpersprache einer Person mitteilen und KI-Systemen Daten über deren Gemütszustand liefern. Wenn dieses Szenario wahr werden sollte, werden wir künftig nicht nur mit persönlichen Daten, sondern auch mit unseren Gefühlen für Onlineprodukte zahlen.