Zaměstnanci a AI nástroje: jak právně ošetřit využívání umělé inteligence v práci

Používání ChatGPT, Copilotu nebo jiných AI nástrojů na pracovišti je dnes běžnou realitou. Bez jasných interních pravidel ale firmě hrozí únik citlivých dat, porušení GDPR s pokutou až 4% celosvětového obratu, nebo sankce podle AI Aktu. V tomto článku najdete konkrétní kroky, jak vytvořit funkční směrnici pro využívání umělé inteligence, ošetřit odpovědnost za škodu a vyhnout se nejčastějším právním rizikům.

Potřebujete s tématem poradit? Obraťte se na advokátní kancelář ARROWS na e-mail office@arws.cz nebo telefon +420 245 007 740. Váš dotaz rád zodpoví "Mgr. Jan Pavlík", expert na dané téma.

Proč už nemůžete AI ve firmě ignorovat

Od 2. února 2025 vstoupila v platnost povinnost tzv. AI gramotnosti podle článku 4 evropského AI Aktu (nařízení EU 2024/1689). Tato povinnost se vztahuje na všechny firmy, jejichž zaměstnanci pracují s jakýmikoli AI systémy – od jednoduchých chatbotů po komplexní analytické nástroje. Zaměstnavatel musí zajistit, aby všichni pracovníci měli dostatečnou úroveň znalostí a porozumění umělé inteligenci, včetně povědomí o rizicích a možných škodách, které může způsobit.

Povinnost školení není pouze formální záležitostí. Zákon vyžaduje, abyste při stanovení rozsahu vzdělávání zohlednili konkrétní pracovní pozice, technické znalosti zaměstnanců a kontext, v jakém AI nástroje používají. Pro právníky ARROWS je příprava školení a vzdělávacích materiálů k AI gramotnosti běžnou součástí práce – pokud potřebujete pomoc s nastavením školícího programu, napište na office@arws.cz.

Jaká právní rizika přináší nekontrolované používání AI?

Fenomén tzv. Shadow AI představuje jednu z největších hrozeb pro firemní bezpečnost. Podle průzkumů až 89% interakcí zaměstnanců s generativní AI probíhá mimo dohled IT oddělení a 72% pracovníků používá AI nástroje ze soukromých účtů. Polovina veškerého obsahu vkládaného do těchto systémů přitom obsahuje citlivá firemní data včetně finančních plánů, zákaznických údajů nebo zdrojového kódu.

Příklad z praxe ukazuje, jak rychle může dojít k problému: v roce 2023 tři zaměstnanci nejmenované technologické společnosti vložili během pouhých několika týdnů do generativní AI nástroje citlivá firemní data, včetně interních dokumentů a důvěrných informací o vývoji produktu. Společnost následně musela zavést přísná opatření omezující používání generativní AI v celé organizaci.

Jakmile informace jednou zadáte do veřejného AI nástroje, ztrácíte nad nimi kontrolu. Data se stávají součástí trénovacích datasetů a mohou být potenciálně zpřístupněna dalším uživatelům. To představuje přímé porušení povinnosti zaměstnance střežit a chránit majetek zaměstnavatele podle § 301 písm. d) zákoníku práce.

FAQ – Právní tipy k ochraně firemních dat

1. Může zaměstnavatel zakázat používání AI nástrojů?
Ano, § 316 odst. 1 zákoníku práce dává zaměstnavateli právo určit, jaké nástroje mohou zaměstnanci při práci používat, včetně zákazu konkrétních AI aplikací. 

2. Co hrozí zaměstnanci, který vyzradí obchodní tajemství přes AI?
Zaměstnanec odpovídá za škodu způsobenou zaviněným porušením povinností, přičemž náhrada může dosáhnout až 4,5násobku průměrného výdělku.

Interní směrnice: základ právní ochrany zaměstnavatele

Kvalitně zpracovaná interní směrnice pro využívání AI není pouze souborem pravidel – slouží jako klíčový důkaz, že zaměstnavatel splnil svou prevenční povinnost a řádně poučil zaměstnance o rizicích. Směrnice by měla obsahovat několik základních oblastí.

Definice povolených a zakázaných AI nástrojů představuje první krok. Vytvořte seznam schválených aplikací a jasně stanovte, které nástroje jsou pro firemní použití zakázány. U každého povoleného nástroje specifikujte účel a podmínky použití.

Pravidla pro nakládání s daty musí jednoznačně vymezit, jaké informace zaměstnanci nesmí do AI systémů vkládat. Mezi zakázané kategorie typicky patří osobní údaje, obchodní tajemství, zdrojové kódy, finanční data, informace o klientech a interní strategie. Vkládání osobních údajů třetích osob do veřejných AI platforem je přímým porušením GDPR.

Proces schvalování nových nástrojů zajistí, že každý nový AI systém projde bezpečnostním a právním posouzením před nasazením. Tím předejdete nekontrolovanému šíření Shadow AI ve firmě.

Advokátní kancelář ARROWS připravuje interní směrnice pro využívání AI na míru konkrétním potřebám klienta. Díky zkušenostem z více než 150 akciových společností a 250 s.r.o. v našem portfoliu dokážeme nastavit pravidla tak, aby byla prakticky vymahatelná a současně splňovala všechny regulatorní požadavky. Spojte se s námi na office@arws.cz a získejte právní řešení na míru.

Odpovědnost za škodu způsobenou umělou inteligencí

Současná česká legislativa nepřiznává umělé inteligenci právní subjektivitu. Za veškerá rozhodnutí a výstupy AI systémů odpovídá vždy osoba nebo subjekt, který nástroj používá. Pokud zaměstnanec použije AI jako pracovní nástroj a způsobí škodu – ať už únikem dat, porušením autorských práv nebo chybným rozhodnutím – odpovědnost nese zaměstnavatel.

Z hlediska občanského práva se uplatní § 2910 občanského zákoníku o odpovědnosti za škodu způsobenou porušením zákonné povinnosti. Ustanovení § 2936 občanského zákoníku pak stanoví, že kdo je povinen někomu něco plnit a použije přitom vadnou věc, odpovídá za škodu způsobenou vadou této věci – což lze aplikovat i na implementaci vadného AI systému.

Na koho se můžete obrátit?

V pracovněprávních vztazích zaměstnavatel odpovídá za škodu způsobenou zaměstnanci v souvislosti s plněním pracovních úkolů. Tato odpovědnost je v zákoníku práce koncipována jako objektivní, tedy bez ohledu na zavinění. Zaměstnavatel se nemůže zprostit odpovědnosti poukazem na to, že chyba byla na straně AI.

Rizika a sankce	Jak pomáhá ARROWS (office@arws.cz)
Únik obchodního tajemství přes AI nástroj – porušení NDA, ztráta konkurenční výhody, soudní spory	Příprava interních směrnic a školení zaměstnanců – potřebujete ochránit firemní know-how? Kontaktujte office@arws.cz
Porušení GDPR vložením osobních údajů do AI – pokuta až 4 % celosvětového obratu	Právní audit procesů a příprava DPIA – chcete vědět, zda splňujete GDPR? Napište na office@arws.cz
Chybný výstup AI vedoucí k finanční ztrátě – odpovědnost zaměstnavatele za škodu	Revize smluv a nastavení odpovědnostních mechanismů
Diskriminace při náboru způsobená AI algoritmem – žaloby zaměstnanců, reputační škody	Zastupování v pracovněprávních sporech a příprava nediskriminačních procesů

Co musí splňovat vysoce rizikové AI systémy v HR?

AI Akt klasifikuje všechny systémy umělé inteligence používané v oblasti lidských zdrojů jako vysoce rizikové. Do této kategorie spadají nástroje pro analýzu životopisů, hodnocení kandidátů, monitoring výkonu zaměstnanců, rozhodování o povýšení nebo přidělování úkolů na základě osobnostních charakteristik.

Od 2. srpna 2026 začnou platit přísné povinnosti pro provozovatele těchto systémů. Zaměstnavatelé budou muset zajistit lidský dohled nad AI prostřednictvím kompetentních osob, průběžně monitorovat fungování systému a vést automaticky generované záznamy po dobu minimálně šesti měsíců. Povinností je rovněž informovat zástupce zaměstnanců a dotčené pracovníky o tom, že jsou vystaveni působení AI systému, ještě před jeho nasazením.

Porušení pravidel pro vysoce rizikové systémy může vést k pokutám až 15 milionů EUR nebo 3% celosvětového ročního obratu. Za nasazení zakázaných AI praktik hrozí sankce až 35 milionů EUR nebo 7% obratu.

Tato problematika je v praxi výrazně složitější, než se na první pohled zdá. Klasifikace konkrétního AI nástroje vyžaduje detailní právní analýzu, která zohlední nejen samotnou funkcionalitu systému, ale i kontext jeho použití a návaznosti na další předpisy.

Advokátní kancelář ARROWS řeší tuto agendu denně a dokáže klientovi výrazně zkrátit čas potřebný k dosažení souladu s regulací. Navíc jsme pojištěni na škodu až do 500 000 000 Kč, takže je pro klienta bezpečnější svěřit věc profesionálům. Neváhejte se obrátit na office@arws.cz.

Jak na GDPR při používání AI nástrojů?

Zpracování osobních údajů prostřednictvím AI systémů podléhá plně požadavkům nařízení GDPR. Klíčovým ustanovením je článek 22, který dává subjektům údajů právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud má právní účinky nebo se jich obdobně významně dotýká.

Pro zaměstnavatele to v praxi znamená, že AI systém může vydávat pouze doporučení – konečné rozhodnutí o přijetí uchazeče, výpovědi nebo výši odměny musí učinit člověk. Porušení tohoto pravidla představuje riziko sankce až do výše 20 milionů EUR nebo 4% celosvětového obratu.

Před nasazením AI nástroje, který zpracovává osobní údaje zaměstnanců, je v mnoha případech nutné provést posouzení vlivu na ochranu osobních údajů (DPIA – Data Protection Impact Assessment). Tato povinnost vzniká zejména při systematickém hodnocení osobních aspektů, zpracování citlivých údajů ve velkém měřítku nebo při použití inovativních technologií.

DPIA pro AI systémy musí zahrnovat identifikaci a hodnocení rizik pro dotčené osoby, analýzu přiměřenosti a nezbytnosti zpracování, posouzení opatření k minimalizaci rizik a mechanismy pro uplatnění práv subjektů údajů. Francouzský dozorový úřad CNIL navíc doporučuje provádět DPIA pro vývoj všech základních modelů a obecných AI systémů, pokud zahrnují zpracování osobních údajů.

FAQ – Právní tipy ke GDPR a AI

1. Musím informovat zaměstnance o používání AI pro monitoring?
Ano, § 316 zákoníku práce vyžaduje předchozí oznámení zaměstnancům, pokud existuje závažný důvod pro monitoring. Současně platí informační povinnosti podle článků 13-15 GDPR.

2. Lze použít AI k psychologickému profilování uchazečů?
§ 30 odst. 2 zákoníku práce omezuje sběr dat před vznikem pracovního poměru pouze na informace přímo související s uzavřením smlouvy. Psychologické profilování typicky překračuje tyto meze.

Autorská práva a AI: komu patří vygenerovaný obsah?

Otázka autorských práv k obsahu vytvořenému umělou inteligencí zůstává v mnoha ohledech nejasná, ale základní principy jsou již ustálené. Podle českého autorského zákona může být autorem pouze fyzická osoba a dílo musí být jedinečným výsledkem tvůrčí činnosti člověka. České soudy již potvrdily, že obsah vygenerovaný čistě umělou inteligencí nesplňuje pojmové znaky autorského díla.

V Evropské unii platí obecný přístup, že výtvorům AI se autorská práva nepřiznávají, pokud dílo zcela postrádá lidský přínos. Americký Copyright Office zaujal obdobné stanovisko – dílo vytvořené výhradně AI není způsobilé k registraci autorských práv.

Pro zaměstnavatele z toho vyplývají praktické důsledky. Pokud zaměstnanec vytvoří obsah s využitím AI jako pomocného nástroje, ale aktivně do tvorby zasahuje – edituje, upravuje, kombinuje výstupy a vnáší vlastní kreativní prvky – může být výsledek chráněn autorským právem. Pro zachování ochrany je vhodné dokumentovat kreativní proces a míru lidského přínosu.

V pracovní smlouvě nebo interní směrnici doporučujeme výslovně upravit vlastnictví výstupů AI nástrojů a pravidla pro jejich použití. V EU zaměstnavatel vlastní dílo vytvořené zaměstnancem pouze tehdy, pokud to pracovní smlouva výslovně stanoví.

Jak zavést bezpečné používání AI ve firmě krok za krokem?

Implementace AI governance vyžaduje systematický přístup. Prvním krokem je zmapování současného stavu – zjistěte, jaké AI nástroje se ve firmě již používají, kdo s nimi pracuje a jaká data do nich vstupují. Počítejte s tím, že část používání probíhá mimo oficiální kanály.

Druhým krokem je kategorizace use cases podle rizikovosti. Rozlište zakázané použití (citlivá data, regulatorní dokumenty), omezené použití (interní dokumenty se schválením nadřízeného) a volné použití (brainstorming, formátování veřejných dat).

Třetím krokem je příprava dokumentace – interní směrnice, dodatky k pracovním smlouvám, informační materiály pro zaměstnance. Čtvrtým krokem je školení, které musí být přizpůsobené různým rolím a úrovním technických znalostí.

Pátým krokem je zavedení technických opatření – monitoring používání AI nástrojů, DLP (Data Loss Prevention) řešení, centrální správa přístupu. Šestým krokem je nastavení průběžného auditu a aktualizace pravidel podle vývoje technologií a regulace.

Celý proces má mnoho skrytých úskalí a návazností na další předpisy, které laik často nevidí. Běžně jsme partnery firemních právníků pro řešení speciálních záležitostí v oblasti AI compliance – pokud nechcete riskovat chyby nebo pokuty, kontaktujte nás na office@arws.cz.

Rizika a sankce	Jak pomáhá ARROWS (office@arws.cz)
Nasazení vysoce rizikového AI systému bez splnění požadavků – pokuta až 15 mil. EUR	Právní audit AI systémů a příprava compliance dokumentace
Automatizované rozhodování bez lidského dohledu – porušení článku 22 GDPR	Nastavení procesů s povinným lidským přezkumem
Nedostatečná transparentnost vůči zaměstnancům – porušení zákoníku práce i GDPR	Příprava informačních dokumentů a aktualizace pracovněprávní dokumentace
Používání zakázaných AI praktik – pokuta až 35 mil. EUR nebo 7% obratu	Právní posouzení AI systémů a identifikace zakázaných praktik

Mezinárodní aspekty: kdy potřebujete globální pohled?

Pokud vaše společnost působí ve více zemích nebo zaměstnává pracovníky z různých jurisdikcí, situace se komplikuje. Regulace AI se v jednotlivých státech významně liší – zatímco EU přijala komplexní AI Akt, USA zatím nemají federální legislativu, ale jednotlivé státy přijímají vlastní pravidla. New York City například od roku 2023 vyžaduje nezávislé audity AI algoritmů používaných při náboru.

Advokátní kancelář ARROWS poskytuje právní služby v oblasti AI compliance i mimo Českou republiku díky síti ARROWS International, kterou budujeme již deset let. Prakticky denně řešíme případy s mezinárodním prvkem a dokážeme koordinovat právní poradenství napříč jurisdikcemi. Pokud hledáte partnera pro řešení AI governance na mezinárodní úrovni, napište na office@arws.cz.

V případě, že shledáte v oblasti AI technologií zajímavou investiční nebo obchodní příležitost, rádi vás propojíme s relevantními partnery z našeho portfolia. Stejně tak si rádi poslechneme zajímavé podnikatelské nápady v této dynamicky se rozvíjející oblasti.

Časový rámec: co vás čeká a kdy

Implementace AI Aktu probíhá postupně podle přesně stanoveného harmonogramu:

2. února 2025 – vstoupila v platnost povinnost AI gramotnosti a zákazy nebezpečných AI praktik.

2. srpna 2025 – začnou platit pravidla pro poskytovatele obecných AI modelů (GPAI), členské státy musí určit příslušné dozorové orgány.

2. srpna 2026 – nabývá účinnosti většina pravidel AI Aktu včetně požadavků na vysoce rizikové systémy, začíná vymáhání ze strany dozorových orgánů.

2. srpna 2027 – plná účinnost pravidel pro vysoce rizikové AI systémy zabudované do regulovaných produktů.

Čekání na poslední chvíli je riskantní strategií. Příprava compliance dokumentace, školení zaměstnanců a technické úpravy procesů vyžadují čas. Zahájení příprav s dostatečným předstihem navíc umožňuje řešit případné komplikace bez časového tlaku.

Závěr: bezpečné využívání AI vyžaduje právní přípravu

Využívání umělé inteligence na pracovišti přináší nesporné výhody v podobě zvýšené produktivity a efektivity. Současně však vytváří komplexní právní rizika, která vyžadují systematický přístup. Od úniku citlivých dat přes porušení GDPR až po sankce podle AI Aktu – každé z těchto rizik může způsobit významné finanční i reputační škody.

Advokátní kancelář ARROWS disponuje specializovaným týmem, který se problematice AI compliance věnuje dlouhodobě. Připravujeme interní směrnice, zajišťujeme školení zaměstnanců s certifikátem o AI gramotnosti, provádíme právní audity AI systémů a zastupujeme klienty v řízeních s dozorovými orgány. Díky pojištění odpovědnosti do výše 500 000 000 Kč můžete svěřit celou záležitost do rukou profesionálů s jistotou, že případné chyby jsou kryty.

Pokud nechcete riskovat pokuty, škody nebo soudní spory spojené s nesprávným využíváním AI ve vaší firmě, obraťte se na nás. Celou věc bezpečně vyřešíme za vás – stačí napsat na office@arws.cz.

FAQ – Nejčastější právní dotazy k využívání AI na pracovišti

1. Musí mít každá firma interní směrnici pro používání AI?
Zákon výslovně nevyžaduje přijetí směrnice, ale její existence je klíčovým důkazem splnění prevenční povinnosti zaměstnavatele. Bez jasných pravidel se zaměstnavatel vystavuje riziku, že ponese plnou odpovědnost za jakékoli škody způsobené nekontrolovaným používáním AI. Pokud potřebujete pomoc s přípravou směrnice, kontaktujte nás na office@arws.cz.

2. Jaké sankce hrozí za porušení AI Aktu?
Sankce jsou odstupňované podle závažnosti porušení: za nasazení zakázaných AI praktik až 35 milionů EUR nebo 7% obratu, za porušení pravidel pro vysoce rizikové systémy až 15 milionů EUR nebo 3% obratu, za poskytnutí nepravdivých informací až 7,5 milionu EUR nebo 1% obratu. 

3. Může zaměstnanec odmítnout používat AI nástroje?
Zaměstnanec je povinen plnit pokyny zaměstnavatele týkající se výkonu práce. Pokud zaměstnavatel stanoví povinnost používat určitý AI nástroj, zaměstnanec jej obecně nemůže odmítnout bez závažného důvodu. Současně však zaměstnavatel musí zajistit odpovídající školení. Potřebujete právní konzultaci? Obraťte se na office@arws.cz.

4. Jak často je třeba aktualizovat AI směrnici?
Vzhledem k rychlému vývoji technologií i regulace doporučujeme přezkum směrnice minimálně jednou ročně a vždy při významných změnách – zavedení nového AI nástroje, organizačních změnách nebo novelizaci právních předpisů. 

5. Vztahuje se AI Akt i na malé firmy?
Ano, AI Akt se vztahuje na všechny subjekty používající AI systémy bez ohledu na jejich velikost. Povinnost AI gramotnosti platí pro každého zaměstnavatele, jehož zaměstnanci pracují s AI nástroji. I malé firmy se mohou dostat do problémů – napište na office@arws.cz pro konzultaci vašich povinností.

6. Co dělat, když zaměstnanec poruší pravidla pro používání AI?
Porušení interní směrnice může být důvodem pro disciplinární opatření od napomenutí až po rozvázání pracovního poměru. Současně může zaměstnavatel vymáhat náhradu škody podle § 250 zákoníku práce, limitovanou na 4,5násobek průměrného výdělku. 

Nechcete tenhle problém řešit sami? Advokátní kanceláři ARROWS věří více než 2000 klientů a jsme oceněni jako Právnická firma roku 2024. Podívejte se ZDE na naše reference a bude nám ctí pomoci vám při řešení vašeho problému. Poptávka je zdarma.