Regulace umělé inteligence v EU pod tlakem ze strany Německa, Itálie a Francie

Návrh Nařízení Evropské unie o umělé inteligenci (AI Act), který se aktuálně nachází v Evropském parlamentu, čelí zásadním výzvám ze strany Německa, Francie a Itálie. Tři největší evropské ekonomiky, předkládají námitky proti současné podobě návrhu, zejména co se týče rozsahu regulace technologie AI, samoregulace a zaměření na aplikaci AI. Tyto země rozeslaly neoficiální dokument, který ukazuje jen malý prostor pro kompromis a míří zcela jiným směrem než dosavadní návrh.

Odpor k regulaci samotné technologie

Německo, Francie a Itálie vyjadřují zásadní nesouhlas s přístupem, který se zaměřuje na regulaci samotné technologie umělé inteligence. Tyto země zdůrazňují, že příliš striktní regulace technologie by mohla utlumit inovační potenciál a technologický pokrok. Obavy pramení zejména z přesvědčení, že technologické inovace v oblasti AI by měly mít možnost rozvíjet se s minimálními omezeními, aby mohly přinášet pozitivní výsledky a nebyly znevýhodněny na globálním trhu. Tvrdí, že regulace by měla být flexibilnější a měla by se více zaměřit na konkrétní aplikace a použití AI, nikoli na technologii samotnou.

Tento přístup reflektuje názor, že rizika spojená s umělou inteligencí vznikají z jejího používání v konkrétních kontextech, a ne z technologie samotné. Například, stejný AI systém může být použit pro neškodné účely, jako je filtrování spamu, nebo pro kontroverzní účely, jako je masový dohled. "Chceme-li hrát v nejvyšší světové lize AI, musíme regulovat aplikaci, a ne technologii", řekl Ministr pro digitální záležitosti Německa Volker Wissing. 

Samoregulace jako klíč

Berlín, Paříž a Řím silně podporují koncept samoregulace, což je obecně přístup, kdy průmyslová odvětví a podniky samy stanovují a dodržují určité standardy a pravidla chování. Navrhují tzv. "povinnou samoregulaci" prostřednictvím kodexů chování, která umožňuje větší flexibilitu v rychle se měnícím technologickém prostředí. 

K realizaci tohoto přístupu zástupci těchto zemí navrhují, aby tvůrci základních AI modelů, které jsou navrženy tak, aby produkovaly širokou škálu výstupů, definovali modelové charakteristiky a technickou dokumentaci, která shrnuje informace o trénovaných modelech pro širokou veřejnost. "Definování modelových charakteristik a jejich zpřístupnění pro každý model představuje povinný prvek této samoregulace", uvádí se v neoficiálním dokumentu a zdůrazňuje se, že tyto charakteristiky budou muset obsahovat příslušné informace o schopnostech a omezeních modelu a budou vycházet z osvědčených postupů v rámci komunity vývojářů. Šlo by například o počet parametrů, zamýšlené použití, potenciální omezení, výsledky studií o odchylkách a red-teaming (testování pro posouzení bezpečnosti).

Ve zmíněném dokumentu bylo dále navrženo, že by orgán pro správu umělé inteligence mohl pomoci vypracovat pokyny, měl možnost kontrolovat používání modelových charakteristik a měl povinnost poskytnout snadný způsob, jak nahlásit jakékoliv porušení kodexu chování. "Jakékoli podezření na porušení by měl orgán v zájmu transparentnosti zveřejnit", uvádí se dále v dokumentu.

Další bod, který míří proti konceptu původního návrhu, je požadavek Itálie, Francie a Německa, aby se zpočátku neuplatňovaly sankce. Podle nich by měl být sankční režim zaveden až po systematickém porušování kodexů chování a po řádné analýze a posouzení dopadů zjištěných pochybení.

Úskalí regulace pouze velkých AI modelů

Během červnových diskusí Evropský parlament navrhl, aby byl kodex chování zpočátku závazný pouze pro velké poskytovatele AI, kteří pocházejí především ze Spojených států. Vlády těchto tří členských států EU ovšem uvedly, že tato zdánlivá konkurenční výhoda pro menší evropské poskytovatele by mohla mít za následek snížení jejich důvěryhodnosti, což by vedlo ke snížení počtu zákazníků. Pravidla chování a transparentnosti by proto podle nich měla být závazná pro všechny.

Dopad na Legislativní Proces

Tento nesouhlasný postoj představuje významný zlom v procesu schvalování AI Actu. Zatímco Evropský parlament je připraven pokračovat v trialogových jednáních, námitky výše uvedených států naznačují, že dosažení dohody bude vyžadovat kompromisy a možná i významné změny v samotném návrhu nařízení.

Závěr

Vývoj kolem AI Actu je příkladem složitosti vyvážení regulace, inovace a ekonomické soutěže v moderní technologické éře. Řešení konfliktu mezi různými přístupy k regulaci umělé inteligence bude mít zásadní dopad na budoucí tvář Evropy v digitálním světě.

Odpovědný advokát: Mgr. Ondřej Cicvárek, na článku spolupracoval Matěj Morávek.