Deep fake a dezinformace: Jak AI ovlivňuje šíření lživých informací

Věk informačních technologií a digitálního věku přinesl mnoho inovací a změn. Jednou z nejvýznamnějších novinek poslední doby je všeobecný zájem o umělou inteligenci (AI). Ten se znásobil po boomu kolem ChatGPT v posledním půlroce. Tato technologie slibuje výhody v mnoha oblastech, od lékařství po dopravu. Bohužel však AI přináší také vážná rizika a nebezpečí, zejména v souvislosti se šířením dezinformací a tvorbou tzv. deep fake videí.

Definice a využití Deepfake technologií

Co jsou deep fake videa? Jedná se o videa, ve kterých jsou tváře nebo hlasy lidí uměle nahrazeny za jiné. Díky pokročilým algoritmům a strojovému učení je dnes možné vytvořit realistická videa, která lze s obtížemi odhalit jako podvrh. V minulosti se deep fake technologie využívaly především v zábavní sféře, ale v poslední době se jejich využití rozrostlo do oblasti dezinformací a manipulace. Konec konců Sam Altman, šéf Open.AI, která vyvinula nástroj ChatGPT na svém slyšení v americkém senátu byl svědkem toho, jak jeden z posluchačů začal přednášku tím, že pustil fake záznam vlastního hlasu.

Dezinformace jsou starým problémem, který AI posouvá na novou úroveň. Díky schopnosti generovat přesvědčivé deep fake videa mohou dezinformační kampaně získat na uvěřitelnosti a dosáhnout většího dosahu než kdy jindy. Politici, šéfové firem nebo jiné veřejné osobnosti mohou být terčem útoků, kdy jejich tváře jsou přeneseny na jiné tělo nebo jsou přímo napodobovány jejich výroky. Tyto podvrhy mohou mít vážné dopady na politické procesy, společenskou stabilitu a důvěru ve veřejnou sféru.

Deepfakes mohou mít dopad i na firemní záležitosti. Napodobení hlasu a vizáže manažera může způsobit peněžní úniky. Kyberbezpečnost tedy nabírá na důležitosti.

Rychlé šíření dezinformací pomocí AI

Dalším problémem je rychlost, s jakou se dezinformace šíří díky AI. S pomocí sofistikovaných algoritmů mohou být falešné zprávy, dezinformace a konspirační teorie šířeny na sociálních sítích a dalších platformách téměř okamžitě. Dříve bylo možné tyto informace zpochybnit a zastavit jejich šíření, ale dnes AI umožňuje vytvořit a šířit dezinformace v takovém měřítku, že je obtížné zjistit pravdu a zabránit šíření lží.

S těmito novými výzvami se musíme vypořádat. Prvním krokem je rozpoznání deep fake videí a dezinformací. Existují nástroje, které pomáhají odhalovat deep fake videa, a organizace zabývající se bojem proti dezinformacím vyvíjejí techniky pro odhalování a rozpoznávání lživých informací. Mezi přední programy a společnosti, které se tímto zabývají patří DeepTrace Technologies, Sensity, Truepic, Amber Authenticate a také AI Foundation.

Vzdělání veřejnosti a regulace jako odpověď na výzvy AI

Dalším důležitým aspektem je vzdělání veřejnosti. Je důležité, aby lidé byli obeznámeni s tím, jak AI funguje a jaké jsou její možnosti i rizika. Informovaní uživatelé jsou méně náchylní k šíření dezinformací a lépe rozpoznají falešné zprávy. Vzdělávací instituce a mediální organizace by měly hrát klíčovou roli při zvyšování povědomí a informovanosti o AI a dezinformacích.

Regulace je dalším důležitým aspektem boje proti dezinformacím. Evropská unie přijala nový akt o umělé inteligenci, který klade důraz na ochranu občanů a snižování rizik spojených s využitím AI. Akt stanovuje pravidla pro používání AI včetně oblasti dezinformací a deep fake technologií. Jedním z klíčových bodů aktu je zákaz vytváření a šíření deep fake videí, která mohou poškozovat reputaci jednotlivců nebo narušovat demokratické procesy. Regulaci AI vytvořených deep fakes najdeme v článku 52 EU aktu o umělé inteligenci, který nařizuje transparentnost u deep fake generovaných obrázků, které obsahují známé místo, osobu nebo předmět.

Akt o umělé inteligenci zároveň vyžaduje, aby poskytovatelé AI systémů a platform implementovali opatření na odhalování a označování deep fake videí a dezinformací. Tato opatření mají sloužit k ochraně uživatelů a zajištění transparentnosti ve využívání AI.

Zachování právních norem v oblasti umělé inteligence

V českém právním systému se umělá inteligence upravuje v obecných právních předpisech jako je občanský, trestní a autorský zákoník. Tyto předpisy mohou obsahovat ustanovení, která se vztahují na aspekty AI, například práva duševního vlastnictví nebo odpovědnost za škodu.

Například v oblasti ochrany osobních údajů se vychází z GDPR, které stanoví pravidla pro zpracovávání osobních údajů a to i těch, které jsou získány skrz umělou inteligenci. Dalším důležitým zákonem je zákon o kybernetické bezpečnosti. Ten zase stanovuje potřebné ochranné prostředky a požadavky na ochranu informačních systémů a kybernetického prostoru.

Nebezpečí umělé inteligence a jejího vlivu na šíření a tvorbu dezinformací ve společnosti je skutečností, kterou musíme brát vážně. Je na nás, abychom se s tímto problémem vypořádali a vytvořili prostředí, ve kterém bude pravda chráněna a dezinformace budou odhaleny. Vzdělání, spolupráce, odpovědnost a regulační opatření, jako je akt o umělé inteligenci Evropské unie, jsou klíčové prvky boje proti dezinformacím a zachování důvěry v informační prostředí, které AI přináší.

https://artificialintelligenceact.eu/the-act/

https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence

Na článku spolupracoval Petr Prucek.