Používání AI systému k rozpoznávání emocí zaměstnanců

Regulace AI v prostoru Evropské unie

Na druhou stranu, akt o umělé inteligenci výslovně uvádí, že takovým systémem k rozpoznávání emocí se nemá na mysli systém, který rozpoznává fyzické stavy, jako je bolest nebo únava, včetně například systémů používaných při zjišťování stavu únavy profesionálních pilotů nebo řidičů za účelem předcházení nehodám. Taktéž není zakázáno pouhé zjišťování snadno viditelných výrazů, gest nebo pohybů, pokud neslouží k zjišťování nebo odvozování emocí. Takovými výrazy mohou být základní výrazy obličeje, jako je mračení se nebo úsměv, nebo gesta, jako je pohyb rukou, paží nebo hlavy, nebo charakteristiky hlasu daného člověka, jako je zvýšený hlas nebo šepot.

Praktické dopady pro firmy

Pro firmy, které uvažují o využití AI systému např. při analýze kamerových záznamů z pracovišť
(k použití kamer na pracovišti blížeji zde https://www.arws.cz/novinky-v-arrows/kamery-na-pracovistich-na-co-si-dat-pozor) to znamená, že by měly pečlivě zvážit rizika a zajistit, že tyto technologie budou používat v souladu s pravidly stanovenými aktu o umělé inteligenci.

Využívání AI systémů pro monitorování zaměstnanců ze své podstaty představují významnou výzvu
v kontextu ochrany soukromí a práv zaměstnanců. Firmy by tak měly být obezřetné při implementaci takovýchto technologií, aby zajistily soulad s novými pravidly a vyhnuly se potenciálně vysokým sankcím, které akt o umělé inteligenci v tomto případě stanovuje až do výše 35.000.000 EUR nebo až do výše 7 % celkového celosvětového ročního obratu firmy za předchozí finanční rok.