Einsatz eines KI-Systems zur Erkennung von Emotionen der Arbeitnehmer
Nach der EU-Verordnung über künstliche Intelligenz (AI Act) ist der Einsatz von KI zur Erkennung von Emotionen der Arbeitnehmer am Arbeitsplatz grundsätzlich verboten, wenn das System Emotionen aus biometrischen Daten ableitet. Eine Ausnahme gilt für die Verwendung aus medizinischen Gründen oder Sicherheitsgründen, nicht aber für die gewöhnliche Überwachung von Stimmung oder Leistung. Der Beitrag erläutert, wie sich die verbotene Emotionserkennung von anderen Formen der Überwachung abgrenzen lässt und welche Risiken dem Arbeitgeber drohen.
Regulierung von KI in der Europäischen Union
Andererseits stellt die KI-Verordnung ausdrücklich klar, dass unter einem solchen Emotionserkennungssystem kein System zu verstehen ist, das physische Zustände wie Schmerz oder Ermüdung erkennt, einschließlich beispielsweise Systemen, die zur Feststellung des Ermüdungszustands von Berufspiloten oder Berufskraftfahrern eingesetzt werden, um Unfälle zu verhindern. Ebenso ist die bloße Erkennung leicht erkennbarer Gesichtsausdrücke, Gesten oder Bewegungen nicht verboten, sofern sie nicht dazu dient, Emotionen zu erkennen oder abzuleiten. Solche Ausdrücke können einfache Gesichtsausdrücke wie ein Stirnrunzeln oder ein Lächeln sein, Gesten wie Hand-, Arm- oder Kopfbewegungen oder Merkmale der Stimme einer Person, etwa eine erhobene Stimme oder ein Flüstern.
Praktische Auswirkungen für Unternehmen
Für Unternehmen, die den Einsatz eines KI-Systems etwa bei der Auswertung von Kameraaufnahmen vom Arbeitsplatz erwägen
(näher zum Einsatz von Kameras am Arbeitsplatz hier: Kameras am Arbeitsplatz – worauf zu achten ist), bedeutet dies, dass sie die Risiken sorgfältig abwägen und sicherstellen sollten, dass sie diese Technologien im Einklang mit den Vorschriften der KI-Verordnung einsetzen.
Der Einsatz von KI-Systemen zur Überwachung von Arbeitnehmern stellt naturgemäß eine erhebliche Herausforderung
im Hinblick auf den Schutz der Privatsphäre und der Rechte der Arbeitnehmer dar. Unternehmen sollten daher bei der Einführung solcher Technologien umsichtig vorgehen, um die Einhaltung der neuen Vorschriften sicherzustellen und potenziell hohe Sanktionen zu vermeiden, die die KI-Verordnung in diesem Fall in Höhe von bis zu 35.000.000 EUR oder bis zu 7 % des gesamten weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr vorsieht.