Používání AI systému k rozpoznávání emocí zaměstnanců

V posledních letech se umělá inteligence (zkráceně AI) stále více prosazuje v různých oblastech našich životů, přičemž její hlavní cíle spočívají v maximálním zefektivnění procesů a snižování časových, personálních i finančních nákladů. Rozvoj této pokročilé technologie však zároveň vyvolává řadu etických otázek, mezi něž patří i potenciál využití AI pro sledování zaměstnanců. Tato technologie by mohla sloužit k analýze chování nebo dokonce i emocionálních stavů zaměstnanců na pracovišti. Díky tomu by zaměstnavatel získal přístup k množství dat o náladách svých pracovníků v reálném čase. Je však takové sledování právně přípustné?

Regulace AI v prostoru Evropské unie

Evropská unie v nedávné době přistoupila k regulaci AI prostřednictvím aktu o umělé inteligenci, který stanovuje pravidla pro používání umělé inteligence v členských státech EU. Toto nařízení mimo jiné upravuje, které praktiky umělé inteligence jsou zcela zakázány. Mezi takové praktiky dle čl. 5 odst. 1 písm. f) patří právě i používání AI systémů k rozpoznávání emocí na pracovištích a ve vzdělávacích institucích, a to s výjimkou situací, kdy je to nezbytné z důvodu zdravotních nebo bezpečnostních důvodů. Zaměstnavateli je tak zakázáno používat AI systém, který by na základě biometrických údajů zaměstnanců rozpoznával jejich emoce jako je štěstí, smutek, hněv, překvapení, znechucení, pocit trapnosti, rozrušení, stud, opovržení, spokojenost, pobavenost apod.

Na druhou stranu, akt o umělé inteligenci výslovně uvádí, že takovým systémem k rozpoznávání emocí se nemá na mysli systém, který rozpoznává fyzické stavy, jako je bolest nebo únava, včetně například systémů používaných při zjišťování stavu únavy profesionálních pilotů nebo řidičů za účelem předcházení nehodám. Taktéž není zakázáno pouhé zjišťování snadno viditelných výrazů, gest nebo pohybů, pokud neslouží k zjišťování nebo odvozování emocí. Takovými výrazy mohou být základní výrazy obličeje, jako je mračení se nebo úsměv, nebo gesta, jako je pohyb rukou, paží nebo hlavy, nebo charakteristiky hlasu daného člověka, jako je zvýšený hlas nebo šepot.

Praktické dopady pro firmy

Pro firmy, které uvažují o využití AI systému např. při analýze kamerových záznamů z pracovišť
(k použití kamer na pracovišti blížeji zde https://www.arws.cz/novinky-v-arrows/kamery-na-pracovistich-na-co-si-dat-pozor) to znamená, že by měly pečlivě zvážit rizika a zajistit, že tyto technologie budou používat v souladu s pravidly stanovenými aktu o umělé inteligenci.

Využívání AI systémů pro monitorování zaměstnanců ze své podstaty představují významnou výzvu
v kontextu ochrany soukromí a práv zaměstnanců. Firmy by tak měly být obezřetné při implementaci takovýchto technologií, aby zajistily soulad s novými pravidly a vyhnuly se potenciálně vysokým sankcím, které akt o umělé inteligenci v tomto případě stanovuje až do výše 35.000.000 EUR nebo až do výše 7 % celkového celosvětového ročního obratu firmy za předchozí finanční rok.

Upozornění: Informace obsažené v tomto článku mají pouze obecný informativní charakter a slouží k základní orientaci v problematice. Ačkoliv dbáme na maximální přesnost obsahu, právní předpisy a jejich výklad se v čase vyvíjejí. Pro ověření aktuálního znění předpisů a jejich aplikace na vaši konkrétní situaci je proto nezbytné kontaktovat přímo ARROWS advokátní kancelář (office@arws.cz). Neneseme žádnou odpovědnost za případné škody či komplikace vzniklé samostatným užitím informací z tohoto článku bez naší předchozí individuální právní konzultace a odborného posouzení. Každý případ vyžaduje řešení na míru, proto nás neváhejte oslovit.