Offener Brief an Zoom

"Emotion Tracking ist eine Verletzung der Menschenrechte"

16.05.2022
Von 
Beate Wöhe leitete als Director Experts Network das IDG Experten-Netzwerk für alle Online-Portale der IDG Tech Media GmbH. Sie hatte diese Position nach über zehnjähriger Tätigkeit als Redakteurin und leitende Redakteurin des IDG-Titels ChannelPartner im Juli 2014 übernommen. 
Medienberichten zufolge forscht Zoom an einer KI, die die Emotionen des Gegenübers in einem Video-Call analysiert. Das geht einigen Menschenrechtsorganisationen zu weit.
Wie weit ist dieser Mann von einer Kaufentscheidung entfernt. Ist er noch zögerlich oder prüft er in Gedanken schon seinen Kontostand? Kann Künstliche Intelligenz wirklich die Emotionen hinter einem Gesichtsausdruck klar erkennen?
Wie weit ist dieser Mann von einer Kaufentscheidung entfernt. Ist er noch zögerlich oder prüft er in Gedanken schon seinen Kontostand? Kann Künstliche Intelligenz wirklich die Emotionen hinter einem Gesichtsausdruck klar erkennen?
Foto: Novikov Aleksey - shutterstock.com

In einem Verkaufsgespräch den richtigen Zeitpunkt zu finden, um den "Deal zu closen", wie es im Verkäufersprech so schön heißt, ist eine Kunst. Um Verkäuferinnen und Verkäufer dabei zu unterstützen, arbeitet der Videokonferenzdienst Zoom laut einem Bericht des Tech-Magazins Protocol an der Entwicklung, die Emotionen von Gesprächspartnern in einem Video-Call mittels KI zu entschlüsseln.

"Manipulativ und diskriminierend"

Diesen Bericht nahmen die Menschenrechtsorganisation Fight for the Future und weitere 27 Organisationen zum Anlass, einen offenen Brief an Eric S. Yuan, Gründer und CEO von Zoom zu schreiben. Die Gruppe drückt darin ihre Besorgnis bezüglich eines KI-Forschungsprojekts aus, in dessen Rahmen menschliche Emotionen analysiert werden und fordert das Unternehmen auf, diese Pläne - aus verschiedenen Gründen - zu stoppen. Diese Technologie basiere auf Pseudowissenschaften, sei manipulativ und diskriminierend. Außerdem stelle das Sammeln von sehr persönlichen Daten ein Datensicherheitsrisiko dar, das Unternehmen, die solche Tools nutzen, zu einem Ziel für schnüffelnde Behörden und böswillige Hacker machen könnte.

In der Vergangenheit habe Zoom Entscheidungen getroffen, die die Rechte der Nutzer in den Mittelpunkt stellen. Als eines der Beispiele nennen die Unterzeichner die abgeschaffte Gesichtsverfolgungsfunktion, weil sie nicht den Datenschutzstandards entsprach. "Dies ist eine weitere Gelegenheit, zu zeigen, dass Sie sich um Ihre Nutzer und Ihren Ruf kümmern. Zoom ist führend in der Branche, und Millionen von Menschen verlassen sich darauf, dass Sie unsere virtuelle Zukunft steuern. Als Marktführer haben Sie auch die Verantwortung, den Kurs für andere Unternehmen in diesem Bereich vorzugeben. Sie können deutlich machen, dass diese Technologie keinen Platz in der Videokommunikation hat" apellieren die Verfasser an das Gewissen des Zoom-CEOs.