AI ACT: Jaké máte povinnosti od 2. února 2025?

První komplexní regulace AI v Evropě

AI ACT neboli Nařízení Evropského parlamentu a Rady (EU) 2024/1689 představuje první ucelený právní rámec pro umělou inteligenci, který ve světě (zatím) nemá obdoby. Jeho cílem je zajistit, aby systémy AI byly bezpečné, transparentní a v souladu s evropskými hodnotami. V tomto článku se dozvíte základní práva a povinnosti.

Autor článku: ARROWS advokátní kancelář (Mgr. Filip Ondřej, office@arws.cz, +420 245 007 740)

Regulace přináší přísnější pravidla pro vývoj a využívání AI a současně se snaží, aby taková regulace nebyla na újmu inovacím a konkurenceschopnosti evropských firem. Od 2. února 2025 nabyla účinnosti část ustanovení tohoto nařízení – a pro firmy i poskytovatele AI začnou od tohoto data platit určité povinnosti.

Zakázané praktiky – co už nebude možné?

Nařízení AI ACT stanoví přísné zákazy některých způsobů využití AI, které mohou představovat riziko pro základní práva a bezpečnost občanů. Mezi nejzásadnější zakázané praktiky patří:

• sociální skórování – hodnocení jednotlivců na základě jejich chování, ekonomické situace nebo osobních charakteristik,
• biometrická identifikace na dálku v reálném čase na veřejných místech, s výjimkou použití policií pro vyšetřování závažných trestných činů,
• manipulativní AI techniky, které cíleně zneužívají zranitelnosti jednotlivců (například u dětí či zdravotně znevýhodněných osob).

Co to znamená pro firmy? Pokud vaše AI řešení spadá do těchto kategorií, bude nutné jej upravit nebo úplně přestat používat. Neuposlechnutí těchto zákazů může v budoucnu u poskytovatelů AI a oznámených subjektů vést k vysokým sankcím, viz níže.

Povinnosti poskytovatelů a uživatelů AI

AI ACT zavádí nové povinnosti nejen pro vývojáře AI, ale i pro firmy, které AI technologie využívají. Část těchto povinností je již od 2. února účinná.

Co to znamená pro vaši firmu? AI gramotnost už nebude volbou, ale nutností. Pokud ve vaší firmě zavádíte systémy umělé inteligence nebo je plánujete využívat, nevyhnete se jedné klíčové povinnosti, a to povinnosti zajistit dostatečnou úroveň AI gramotnosti ve vaší firmě.

To se netýká jen IT specialistů nebo vedení, ale všech, kdo s AI přijdou do styku – od administrativních pracovníků po obchodní oddělení. Cílem je, aby zaměstnanci porozuměli nejen tomu, jak AI funguje, ale také byli schopni kriticky posoudit její výstupy a uvědomovali si možná rizika spojená s jejím používáním.

Co povinnost AI gramotnosti konkrétně znamená?

Budete muset zavést opatření, která zajistí, že lidé ve vaší společnosti porozumí principům AI, jejím možnostem i rizikům. To může zahrnovat školení přizpůsobená úrovni znalostí jednotlivých zaměstnanců, ať už půjde o základní seznámení s umělou inteligencí, nebo o specializovaná školení pro technické pracovníky. Firmy budou muset zohlednit nejen vnitřní procesy, ale i kontext, v němž jejich AI systémy fungují.

I když přímé sankce za nedodržení této povinnosti zatím nejsou stanoveny, nesplnění povinnosti AI gramotnosti může být v budoucnu klíčovou okolností, která může být v neprospěch společnosti poskytující AI hypoteticky namítána např. v soudním sporu.

Firmy by proto měly co nejdříve začít s přípravou a implementací vzdělávacích programů zaměřených na AI gramotnost, aby byly připraveny na nadcházející změny a mohly plně využít potenciál umělé inteligence ve svém podnikání.

Další důležité milníky

2. srpna 2025 – rozšíření regulace na další sektory, zavedení dalších povinností pro poskytovatele AI. Od tohoto data už budou poskytovatelům AI (nebo oznámeným subjektům oznámených podle nařízení) navíc za nesoulad s AI ACT hrozit vysoké sankce:

• za nedodržování zákazu postupů v AI dle článku 5 AI ACT bude hrozit pokuta až 35 milionu EUR nebo v případě podniku až 7 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší,
• za nesoulad s článkem 99 odst. 4 AI ACT ve vztahu k poskytovatelům AI nebo oznámeným subjektům, neuvedených v článku 5 AI ACT bude hrozit pokuta až 15 milionu EUR nebo v případě podniku až 3 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší,
• za Poskytování správných, úplných a nikoli zavádějících informací oznámeným subjektům nebo příslušným vnitrostátním orgánům v reakci na žádost bude hrozit pokuta až 7,5 milionu EUR nebo v případě podniku až 1 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší.

Doplňme, že datum 2. února 2027 znamená nabytí účinnosti zbylých ustanovení AI ACT, včetně ustanovení týkajícího se sankcí pro poskytovatele obecných modelů AI. Nejste si jistí, jak se AI ACT dotkne vaší firmy? Kontaktujte právní experty ARROWS, kteří vám pomohou s analýzou rizik a nastavením compliance strategie.