Evropská unie mění svět AI: Platnost aktu o umělé inteligenci je "za rohem"

Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a kterým se mění některé legislativní akty Unie (dále též jako „nařízení“), byl po trialogu mezi zástupci Evropského parlamentu, Rady EU a Evropské komise Radou EU přijat dne 21. května 2024, přičemž následuje zveřejnění nařízení v Úředním věstníku EU a nabytí platnosti nařízení. Nařízení vstupuje v platnost dle čl. 113 nařízení dvacátým dnem po vyhlášení v Úředním věstníku EU. Jelikož se předpokládá zveřejnění nařízení v Úředním věstníku EU dne 12. 7. 2024, lze očekávat nabytí platnosti nařízení dne 1. 8. 2024.

Nařízení představuje zásadní právní předpis, který ovlivní nejen povinnosti poskytovatelů AI systémů, ale také fungování společností využívajících AI ve svém podnikání, zasáhne tak do životů nás všech. Jedná se o klíčový prvek strategie EU pro jednotný digitální trh. Cílem nařízení je podpořit zavádění AI a řešit rizika spojená s určitými způsoby využívání AI. Jedná se vůbec první komplexní právní regulaci AI.

Nařízení bude dopadat na AI systémy, jež budou naplňovat definici dle čl. 3 odst. 1 nařízení, jež definuje systém AI jako strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat schopnost se přizpůsobit vstupům, a který za výslovně i nevýslovně vyjádřenými účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí. Pro vyřešení otázky, zda bude nařízení na AI systém dopadat či nikoliv, nezáleží na skutečnosti, zda je AI systém prezentován jako AI systém či je jako AI systém označován, ale na tom, zda výše uvedenou definici splňuje či nikoliv.

Druhy AI systémů

Nařízení diverzifikuje AI systémy podle stupně rizika, které systém vytváří, na:

1. Systémy s nepřijatelným rizikem – tato kategorie zahrnuje AI systémy, které bude po účinnosti nařízení zakázáno využívat (srov. článek 5 nařízení). Jedná se například o AI systémy, které vytváří nebo rozšiřují databáze rozpoznávání obličeje prostřednictvím necíleného získávání zobrazení obličeje z internetu nebo kamerových záznamů, či o AI systémy s cílem odvodit emoce fyzické osoby na pracovišti a ve vzdělávacích institucích, s výjimkou případů, kdy je použití systému AI určeno k zavedení či k uvedení na trh z lékařských nebo bezpečnostních důvodů.
2. Vysoce rizikové systémy (čl. 6) – vysoce rizikové AI systémy bude, na rozdíl od systémů s nepřijatelným rizikem, možné využívat, nicméně pouze vždy za současného splnění povinností stanovenými nařízením. Tyto povinnosti zahrnují např. splnění stanovených požadavků na kvalitu vstupních dat, automatické protokolování kroků v AI, transparentnost AI, lidský dohled nad AI. Mezi vysoce rizikové AI systémy patří podle přílohy III nařízení např. systémy AI určené k použití jako bezpečnostní komponenty v rámci řízení a provozu kritické digitální infrastruktury, silniční dopravy nebo dodávek vody, plynu, topení či elektřiny nebo systémy AI určené pro použití soudním orgánem nebo jeho jménem na pomoc soudnímu orgánu při zkoumání a výkladu skutkových okolností případu a jejich právního posouzení, nebo pro použití obdobným způsobem při alternativním řešení sporů,
3. Ostatní systémy, které nejsou vysoce rizikovými systémy ani systémy s nepřijatelným rizikem – na AI systémy spadající do této skupiny se budou vztahovat pouze některé povinnosti stanovené nařízením, jako třeba povinnost transparentnosti (čl. 50), přičemž i tyto systémy budou muset uživatelům oznámit, že jejich data zpracovává AI – typicky jde o všem již dnes dobře známé chatboty jako je například ChatGPT, a
4. Systémy nepodléhající regulaci dle nařízení – AI systémy s minimální nebo žádnou rizikovostí, např. filtry spamu v e-mailové schránce.

Účinnost nařízení

Nařízení bude, až na určité výjimky, účinné za 24 měsíců od nabytí platnosti nařízení. Vzhledem k tomu, že má nařízení tzv. parciální účinnost, nabydou určitá ustanovení účinnosti v odlišném okamžiku např. v závislosti na stupni rizikovosti použitého AI systému definovaného nařízením (čl. 113).

Nařízení v části, kde zakazuje použití AI systémů s nepřijatelným rizikem, nabude účinnosti za 6 měsíců od nabytí platnosti nařízení – v souladu s výše uvedeným by tak měl být zákaz použití AI systémů s nepřijatelným rizikem účinný od 2. února 2025. V části, kde nařízení stanovuje podmínky a požadavky na používání vysoce rizikových AI systémů, nabude nařízení účinnosti za 36 měsíců od nabytí platnosti nařízení. V části, kde nařízení stanovuje ostatním systémům, které nejsou vysoce rizikovými systémy ani systémy s nepřijatelným rizikem, požadavky na transparentnost, nabude nařízení účinnost za 12 měsíců od nabytí platnosti nařízení.

Sankce

Za porušení povinností stanovených nařízením je možno uložit provozovatelům používající AI v EU bez ohledu na to, kde byla AI vyvíjena a kde se nachází servery, na nichž AI funguje, účinnou, přiměřenou a odrazující sankci. Možnost uložit sankci je ovlivněna nařízením stanoveným korektivem, podle něhož je zapotřebí zohlednit zájmy malých poskytovatelů AI systémů a začínajících podniků a jejich ekonomickou životaschopnost. Sankce jsou odstupňovány dle závažnosti porušení nařízení, kdy nejpřísnější sankce stanovená nařízením představuje uložení správní pokuty až do výše 35 000 000 EUR nebo, dopustí-li se porušení podnik (společnost), až do výše 7 % jeho celkového celosvětového ročního obratu za předchozí finanční rok podle toho, která hodnota je vyšší.

Klíčovou roli v tom, jak bude nařízení uvedeno do praktického života u jednotlivých provozovatelů, na které dopadá, bude hrát Evropský úřad pro umělou inteligenci (AI Office). Jeho cílem bude zajistit jednotný evropský systém správy AI. Úkolem úřadu bude mj. vydávání nových pravidel týkající se správy AI. Zásadní pro vývoj těchto pravidel správným směrem bude také sledování těchto změn ze strany provozovatelů AI systémů a jejich aktivní zapojení do diskuze o AI.