AI ACT: Jaké máte povinnosti od 2. února 2025?

Autor článku: Mgr. Filip Ondřej, ARROWS advokátní kancelář (office@arws.cz, +420 245 007 740)

První komplexní regulace AI v Evropě

AI ACT neboli Nařízení Evropského parlamentu a Rady (EU) 2024/1689 představuje první ucelený právní rámec pro umělou inteligenci, který ve světě (zatím) nemá obdoby.

Jeho cílem je zajistit, aby systémy AI byly bezpečné, transparentní a v souladu s evropskými hodnotami.

Regulace přináší přísnější pravidla pro vývoj a využívání AI a současně se snaží, aby taková regulace nebyla na újmu inovacím a konkurenceschopnosti evropských firem.

Od 2. února 2025 nabyla účinnosti část ustanovení tohoto nařízení – a pro firmy i poskytovatele AI začnou od tohoto data platit určité povinnosti.

Zakázané praktiky – co už nebude možné?

Nařízení AI ACT stanoví přísné zákazy některých způsobů využití AI, které mohou představovat riziko pro základní práva a bezpečnost občanů. Mezi nejzásadnější zakázané praktiky patří:

• sociální skórování – hodnocení jednotlivců na základě jejich chování, ekonomické situace nebo osobních charakteristik,
• biometrická identifikace na dálku v reálném čase na veřejných místech, s výjimkou použití policií pro vyšetřování závažných trestných činů,
• manipulativní AI techniky, které cíleně zneužívají zranitelnosti jednotlivců (například u dětí či zdravotně znevýhodněných osob).

Co to znamená pro firmy? Pokud vaše AI řešení spadá do těchto kategorií, bude nutné jej upravit nebo úplně přestat používat. Neuposlechnutí těchto zákazů může v budoucnu u poskytovatelů AI a oznámených subjektů vést k vysokým sankcím, viz níže.

Povinnosti poskytovatelů a uživatelů AI

AI ACT zavádí nové povinnosti nejen pro vývojáře AI, ale i pro firmy, které AI technologie využívají. Část těchto povinností je již od 2. února účinná.

Co to znamená pro vaši firmu? AI gramotnost už nebude volbou, ale nutností

Pokud ve vaší firmě zavádíte systémy umělé inteligence nebo je plánujete využívat, nevyhnete se jedné klíčové povinnosti, a to povinnosti zajistit dostatečnou úroveň AI gramotnosti ve vaší firmě.

To se netýká jen IT specialistů nebo vedení, ale všech, kdo s AI přijdou do styku – od administrativních pracovníků po obchodní oddělení. Cílem je, aby zaměstnanci porozuměli nejen tomu, jak AI funguje, ale také byli schopni kriticky posoudit její výstupy a uvědomovali si možná rizika spojená s jejím používáním.

Co povinnost AI gramotnosti konkrétně znamená?

Budete muset zavést opatření, která zajistí, že lidé ve vaší společnosti porozumí principům AI, jejím možnostem i rizikům. To může zahrnovat školení přizpůsobená úrovni znalostí jednotlivých zaměstnanců, ať už půjde o základní seznámení s umělou inteligencí, nebo o specializovaná školení pro technické pracovníky. Firmy budou muset zohlednit nejen vnitřní procesy, ale i kontext, v němž jejich AI systémy fungují.

I když přímé sankce za nedodržení této povinnosti zatím nejsou stanoveny, nesplnění povinnosti AI gramotnosti může být v budoucnu klíčovou okolností, která může být v neprospěch společnosti poskytující AI hypoteticky namítána např. v soudním sporu.

Firmy by proto měly co nejdříve začít s přípravou a implementací vzdělávacích programů zaměřených na AI gramotnost, aby byly připraveny na nadcházející změny a mohly plně využít potenciál umělé inteligence ve svém podnikání.

Další důležité milníky

2. srpna 2025 – rozšíření regulace na další sektory, zavedení dalších povinností pro poskytovatele AI. Od tohoto data už budou poskytovatelům AI (nebo oznámeným subjektům oznámených podle nařízení) navíc za nesoulad s AI ACT hrozit vysoké sankce:

• za nedodržování zákazu postupů v AI dle článku 5 AI ACT bude hrozit pokuta až 35 milionu EUR nebo v případě podniku až 7 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší,
• za nesoulad s článkem 99 odst. 4 AI ACT ve vztahu k poskytovatelům AI nebo oznámeným subjektům, neuvedených v článku 5 AI ACT bude hrozit pokuta až 15 milionu EUR nebo v případě podniku až 3 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší,
• za Poskytování správných, úplných a nikoli zavádějících informací oznámeným subjektům nebo příslušným vnitrostátním orgánům v reakci na žádost bude hrozit pokuta až 7,5 milionu EUR nebo v případě podniku až 1 % z celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která hodnota je vyšší.

2. února 2027 – nabytí účinnosti zbylých ustanovení AI ACT, včetně ustanovení týkajícího se sankcí pro poskytovatele obecných modelů AI.

Nejste si jistí, jak se AI ACT dotkne vaší firmy? Kontaktujte právní experty ARROWS, kteří vám pomohou s analýzou rizik a nastavením compliance strategie.

Nečekejte – připravte se už teď! Kontaktujte nás.

Zajímají vás legislativní novinky v roce 2025? Připravili jsme si pro vás webinář. 

Proč si vybrat právě nás?

Naše služby využívají firmy všech velikostí, protože jim poskytujeme rychlá a efektivní řešení v oblasti smluvní dokumentace. Například:

• Smlouvy na míru bez zbytečných průtahů: Připravíme pro vás obchodní smlouvy, dohody s dodavateli, pracovní smlouvy i další dokumenty tak, aby odpovídaly vašim potřebám a minimalizovaly rizika.
• Jasné a srozumitelné podmínky: Navrhujeme smlouvy tak, aby byly praktické, přehledné a snadno použitelné v běžném provozu.
• Ochrana před právními komplikacemi: Pomáháme klientům předcházet nejasnostem, sporům a nevýhodným podmínkám.

Víme, že administrativní zátěž spojená se smlouvami může brzdit váš byznys. Proto jsme pro vás připravili e-book "Neztrácejte čas se smlouvami", který vám ukáže, jak mít smlouvy pod kontrolou bez zbytečných komplikací.

V e-booku najdete:

✅  Praktické rady, jak si efektivně nastavit smluvní procesy a ušetřit čas.
✅  Konkrétní tipy, jak se vyhnout nejčastějším chybám ve smlouvách.
✅Ukázku našeho přístupu: jak jednoduše a srozumitelně předáváme odborné znalosti v oblasti smluvní dokumentace.

Neztrácejte čas se smlouvami – my vám pomůžeme nastavit smluvní procesy tak, aby byly rychlé, efektivní a bezpečné.

Napište si o e-book Neztrácejte čas se smlouvami ZDE 

Nechcete tenhle problém řešit sami? Věří nám více než 2000 klientů a jsme oceněni jako Právnická firma roku 2024. Podívejte se ZDE na naše reference.