Jak právně ošetřit AI asistenta s přístupem do firemních systémů?

Proč asistent s přístupem do systémů znamená jiné riziko než běžný chat

Rozdíl mezi chatovacím nástrojem a AI asistentem napojeným na firemní systémy je v tom, kdo rozhoduje o datech. Do běžného chatu vkládá zaměstnanec text ručně a sám volí, co z firmy odejde. Asistent s přístupem do pošty, sdíleného disku, účetnictví nebo CRM si informace vyhledává sám. Čte smlouvy, korespondenci se zákazníky i personální spisy, pokud k nim má oprávnění. Firma tak ztrácí přehled o tom, co přesně nástroj zpracoval.

Technicky asistenta k systémům připojují konektory. Stále častěji jde o konektory postavené na standardu MCP (Model Context Protocol), tedy otevřeném protokolu, přes který jazykový model čte data z jiných aplikací a provádí v nich úkony. Každý konektor rozšiřuje okruh dat a úkonů, které má asistent k dispozici. Jestli se tato data dostanou i k dodavateli modelu, záleží na architektuře řešení: kde konektor běží, co z dat putuje do modelu a co se ukládá do záznamů. Firma proto musí prověřit datové toky každé součásti, nejen samotný model.

Pro vedení firmy z toho plyne jednoduchá úvaha. Kdo zapne asistenta s plošným přístupem, zpřístupní mu najednou osobní údaje zaměstnanců, zákazníků i dodavatelů a k tomu know-how firmy. Obecné příležitosti a rizika nasazení umělé inteligence ve firmě shrnuje článek o příležitostech a právních výzvách umělé inteligence v podnikání. Tento text se soustředí na smlouvu, osobní údaje a odpovědnost.

Kdo odpovídá, když asistent udělá chybu

Za zpracování osobních údajů odpovídá v první řadě firma, která asistenta nasadila. Obecné nařízení o ochraně osobních údajů označuje za správce toho, kdo určuje účel a prostředky zpracování. Dodavatel, který data zpracovává jménem firmy a podle jejích pokynů, je zpravidla zpracovatelem. Když asistent pošle citlivý dokument špatnému adresátovi nebo zpřístupní mzdy celé firmě, musí firma incident vyhodnotit, případně ohlásit úřadu a vysvětlit ho dotčeným lidem.

Dodavatel ale nezůstává bez odpovědnosti. Jako zpracovatel musí data zabezpečit, řídit se pokyny firmy, zapojovat další zpracovatele jen s jejím povolením a hlásit jí porušení zabezpečení. Když tyto povinnosti poruší, může mu úřad uložit pokutu a dotčeným lidem odpovídá za škodu (čl. 82). Pokud data použije pro vlastní účely, například k tréninku svého modelu, nařízení ho pro toto zpracování považuje za správce (čl. 28 odst. 10). Firmu to ale nezbavuje odpovědnosti za výběr dodavatele bez dostatečných záruk.

Vůči zákazníkům a obchodním partnerům odpovídá firma za výstupy asistenta stejně jako za práci zaměstnance. Pokud asistent připraví chybnou nabídku nebo do smlouvy vloží nesprávný údaj, firma se nemůže bránit tím, že text psal software. Rozhoduje, kdo výstup schválil a odeslal. Smluvní partner jedná s firmou, ne s jejím nástrojem, a nárok na náhradu škody uplatní proti ní.

Zaměstnanec, který asistenta použil chybně, odpovídá firmě jen omezeně. Při škodě způsobené z nedbalosti může zaměstnavatel po zaměstnanci požadovat nejvýše čtyřapůlnásobek jeho průměrného měsíčního výdělku. Omezení neplatí, pokud zaměstnanec škodu způsobil úmyslně, v opilosti nebo po zneužití jiných návykových látek. Když ke škodě přispěla i firma, například tím, že asistenta spustila bez pravidel, nahradí zaměstnanec jen poměrnou část. Většinu ztráty z uniklých dat tak ponese firma.

Pravidlo vyplývá ze zákoníku práce (§ 257) a v praxi znamená, že prevence je levnější než pozdější vymáhání. Jestli firma po zaměstnanci něco získá, závisí na tom, zda porušil pracovní povinnost, zda jednal zaviněně a zda škoda vznikla právě tím. Interní směrnice, školení a technické omezení přístupů proto snižují riziko škody, kterou firma po nikom nevymůže.

Co musí obsahovat smlouva s dodavatelem AI nástroje

Smlouva s dodavatelem musí splňovat povinné náležitosti zpracovatelské smlouvy podle obecného nařízení. Dodavatel smí zpracovávat osobní údaje jen podle doložených pokynů firmy a musí zavázat své lidi k mlčenlivosti. Další zpracovatele smí zapojit jen s předchozím povolením. Po skončení služby musí data vymazat nebo vrátit a musí firmě umožnit audit (čl. 28 odst. 3). Postavení dodavatele přitom neurčuje název smlouvy, ale to, kdo skutečně rozhoduje o účelu a prostředcích zpracování.

Pro AI asistenta nestačí podepsat standardní zpracovatelský dodatek bez úprav. Smlouva by měla výslovně říct, zda dodavatel smí firemní vstupy a výstupy používat k tréninku nebo vylepšování svých modelů. Zákon takový zákaz nepředepisuje, u důvěrných firemních dat je ho ale rozumné sjednat. Každé povolené použití pro vlastní účely dodavatele vyžaduje samostatné právní posouzení. Smlouva má dále určit, kde jsou data uložena, odkud k nim dodavatel přistupuje a jak dlouho uchovává historii dotazů a záznamy o činnosti asistenta.

Druhou oblastí je seznam dalších zpracovatelů. Velcí dodavatelé AI nástrojů běžně využívají cloudové poskytovatele a vlastní poskytovatele jazykových modelů. Firma má mít právo vznést proti změně dalšího zpracovatele námitku a v krajním případě smlouvu ukončit. Při obecném povolení musí dodavatel firmu o každé zamýšlené změně předem informovat (čl. 28 odst. 2). U dat předávaných mimo Evropský hospodářský prostor je potřeba ověřit i právní titul pro takový přenos.

Třetí oblastí je odpovědnost dodavatele a její omezení. Dodavatelé AI nástrojů často omezují náhradu škody na částku zaplacenou za určité období. Takové omezení nemůže platit pro škodu způsobenou úmyslně nebo z hrubé nedbalosti. Soud k takové části ujednání nepřihlédne. Firma by proto měla vyjednat samostatný vyšší limit pro únik dat a pro porušení mlčenlivosti, protože právě tam vzniká největší škoda.

Hranice pro omezení odpovědnosti plyne z občanského zákoníku (§ 2898). Platí ve vztazích mezi podnikateli a strany se od ní nemohou odchýlit. Smlouvu s dodavatelem je dobré doplnit o povinnost bez zbytečného odkladu hlásit bezpečnostní incident, o přiměřené pojištění odpovědnosti a o pravidla pro export dat a ukončení služby.

Od pilotu po ostrý provoz: pořadí kroků

Zavedení asistenta začíná soupisem toho, k čemu má mít přístup. Firma určí systémy, druhy dat a skupiny zaměstnanců, kteří budou nástroj používat. Často se ukáže, že asistent k práci potřebuje mnohem menší rozsah dat, než jaký mu dodavatel nabízí ve výchozím nastavení. Tento soupis je zároveň podkladem pro posouzení rizik a pro smlouvu s dodavatelem.

Druhým krokem je posouzení rizik zpracování osobních údajů. Firma ověří, zda zpracování vzhledem ke své povaze, rozsahu, kontextu a účelu pravděpodobně představuje vysoké riziko pro práva lidí. Pokud ano, musí ještě před spuštěním provést posouzení vlivu: písemnou analýzu, která popíše zpracování, jeho nezbytnost, rizika a opatření (čl. 35). U asistenta se širokým přístupem do personálních spisů nebo k citlivým údajům to bude zpravidla nutné. U nástroje omezeného na běžná provozní data povinnost vzniknout nemusí.

Třetím krokem je pilot u omezené skupiny uživatelů s omezeným přístupem. Během pilotu firma sleduje, jaká data asistent skutečně čte a jaké chyby dělá. Teprve potom rozhoduje o rozšíření. Jak takový pilot proběhl v advokátní kanceláři, kde jde o data pod povinnou mlčenlivostí, popisují zkušenosti se zaváděním umělé inteligence do naší kanceláře.

Čtvrtým krokem je interní směrnice a školení zaměstnanců. Směrnice stanoví, do kterých systémů asistent smí, které informace do něj zaměstnanci nevkládají a kdo kontroluje výstupy před odesláním ven. Školení firmě pomáhá plnit i povinnost podle aktu o umělé inteligenci. Ten po firmách žádá, aby přijímaly opatření, která u lidí pracujících s umělou inteligencí podporují znalost práce s ní.

Po spuštění je potřeba rozsah přístupů pravidelně kontrolovat, protože dodavatelé přidávají nové konektory a funkce, které se zapínají automaticky. Jaký rozsah přístupu a jaké kontroly jsou u konkrétního asistenta přiměřené, závisí na tom, ke kterým datům se dostane a zda jeho výstupy jdou přímo k zákazníkům. Proto ho právníci ARROWS advokátní kanceláře posuzují u každého nasazení zvlášť.

Co dodavatelé běžně nabízejí a co je varovný signál

Firemní tarify AI nástrojů obvykle obsahují zpracovatelskou smlouvu a závazek, že dodavatel na zákaznických datech netrénuje. Rozdíl mezi spotřebitelskou a firemní verzí téhož nástroje je přitom často právě v těchto bodech. Firma by proto neměla připustit, aby zaměstnanci pro pracovní účely používali soukromé účty, i když jde o stejný produkt.

Varovným signálem je smlouva, která trénink na datech jen umožňuje vypnout. Pokud je výchozím stavem souhlas a firma ho musí aktivně odmítnout v nastavení, stačí jedna chyba správce účtu a data odcházejí k dodavateli. Stejně podezřelá je smlouva, která odkazuje na seznam dalších zpracovatelů na webu, ale nepřiznává firmě právo vznést námitku proti jeho změně.

Dalším signálem je nejasná doba uchování dat. Dodavatelé často uchovávají historii konverzací a záznamy o činnosti asistenta kvůli bezpečnosti a odhalování zneužití. To může být oprávněné, smlouva ale musí uvést, jak dlouho a kdo k těmto záznamům má přístup. Pokud dodavatel na takovou otázku neodpoví písemně, firma nemá jak doložit, že plní zásadu omezení uložení.

Firmy, kterým se nasazení daří, oddělují přístupová práva asistenta od práv uživatele. Asistent nedostane automaticky vše, co vidí zaměstnanec, ale jen vybrané složky a systémy. Úkony, které něco mění, jako je odeslání e-mailu nebo úprava záznamu v CRM, schvaluje člověk. Tento přístup snižuje dopad chyby i dopad případného zneužití konektoru útočníkem.

Kde zákon stanoví hranice: osobní údaje, umělá inteligence a kybernetická bezpečnost

Nejvyšší sankce hrozí za porušení ochrany osobních údajů. Za porušení povinností správce a zpracovatele, mezi které patří zpracovatelská smlouva, zabezpečení a posouzení vlivu, lze uložit pokutu až 10 milionů eur nebo 2 % celosvětového ročního obratu. Za porušení základních zásad a právního základu zpracování je strop 20 milionů eur nebo 4 % obratu, podle toho, co je vyšší (čl. 83 obecného nařízení).

Únik dat přes AI asistenta je porušením zabezpečení, které má firma hlásit úřadu. Správce ho ohlásí Úřadu pro ochranu osobních údajů bez zbytečného odkladu a pokud možno do 72 hodin od okamžiku, kdy se o něm dozvěděl. Výjimkou je případ, kdy je nepravděpodobné, že by porušení představovalo riziko pro dotčené osoby (čl. 33). Dodavatel musí firmě porušení ohlásit bez zbytečného odkladu, a proto je dobré tuto povinnost ve smlouvě konkretizovat.

Akt o umělé inteligenci

Firma, která asistenta používá, je podle aktu o umělé inteligenci zavádějícím subjektem, tedy uživatelem systému, nikoli jeho výrobcem. Od února 2025 musí přijímat opatření, která u zaměstnanců podporují znalost práce s umělou inteligencí (čl. 4). Novela z roku 2026 výslovně uvádí, že firma nemusí zaručit konkrétní úroveň znalostí každého člověka. Běžný kancelářský asistent zpravidla nepatří mezi vysoce rizikové systémy. Může se jím stát, pokud ho firma použije k účelům z přílohy III, například k třídění uchazečů o zaměstnání nebo k hodnocení výkonu zaměstnanců.

Termíny pro vysoce rizikové systémy posunulo nařízení (EU) 2026/1744, tzv. digitální omnibus, které vstoupilo v platnost 27. července 2026. Povinnosti zavádějících subjektů u systémů z přílohy III, například lidský dohled a uchovávání záznamů, se proto použijí od 2. prosince 2027. O zařazení rozhoduje konkrétní zamýšlené použití a výjimky v čl. 6 odst. 3, třeba pro úzké procedurální úkoly. Za porušení hrozí pokuta až 15 milionů eur nebo 3 % obratu, u malých a středních podniků nižší z obou hodnot (čl. 99).

Vztah mezi aktem o umělé inteligenci a ochranou osobních údajů podrobněji rozebírá článek o souladu s AI Actem a GDPR. Pokud asistent vytváří texty nebo obrázky určené veřejnosti, přichází na řadu i povinnost označovat obsah vytvořený umělou inteligencí. Tato povinnost se týká obsahu, nikoli interní práce s dokumenty.

Kybernetická bezpečnost

Firma, která poskytuje regulovanou službu podle zákona o kybernetické bezpečnosti, musí vybírat dodavatele a psát do smluv s nimi požadavky bezpečnostních opatření, pokud jejich prostřednictvím tato opatření zavádí nebo provádí (§ 13 odst. 5). Zákon je účinný od 1. listopadu 2025 a dopadá především na střední a velké podniky ve vyjmenovaných odvětvích, například v energetice, výrobním průmyslu nebo dopravě.

Samotné napojení AI asistenta na systémy, které regulovanou službu zajišťují, ještě neznamená, že jeho dodavatel je dodavatelem podle tohoto ustanovení. Pokud ale asistent pracuje s aktivy, která firma zahrnula do řízení kybernetické bezpečnosti, musí ho zařadit do řízení aktiv a rizik. Jestli přes jeho dodavatele firma provádí bezpečnostní opatření, závisí na tom, ke kterým systémům má asistent přístup a jakou roli tyto systémy při poskytování služby hrají. To posuzují právníci ARROWS advokátní kanceláře dřív, než firma smlouvu s dodavatelem podepíše.

Obchodní tajemství v rukou AI asistenta

Ochrana obchodního tajemství není automatická. Obchodní tajemství tvoří jen informace, jejichž utajení vlastník odpovídajícím způsobem zajišťuje (§ 504 občanského zákoníku). Pokud firma pustí do AI nástroje bez pravidel cenové kalkulace, technickou dokumentaci nebo seznamy zákazníků, oslabuje právě tento znak. V případném sporu s konkurentem pak protistrana může namítat, že firma informace sama nechránila.

Soudy posuzují utajení podle toho, co firma skutečně dělá. Nejvyšší soud v usnesení 23 Cdo 2736/2024 zopakoval, že podnikatel musí utajení zajišťovat efektivně, a to organizačními i technickými opatřeními. Ve sporu o výkresovou dokumentaci obstála firma, která měla směrnice s pravidly pro zapůjčování a kopírování dokumentace. U AI asistenta tutéž roli plní interní směrnice, omezení přístupových práv a smluvní zákaz tréninku na datech.

Firma by proto měla určit, které kategorie informací do asistenta nepatří vůbec a které jen do nástroje s firemní smlouvou. Seznam má být krátký a srozumitelný, aby ho zaměstnanci skutečně dodržovali. Doplňuje ho technické omezení, například vyloučení složek s výrobní dokumentací z dosahu konektorů. Kombinace pravidla a technického opatření je pro pozdější spor nejlepším důkazem, že firma tajemství chránila.

Pět chyb, které se při zavádění AI asistentů opakují

První chybou je spuštění asistenta s plošným přístupem do všech systémů. Výchozí nastavení řady nástrojů kopíruje oprávnění uživatele, takže asistent ředitele vidí celou firmu. Jedna nepřesně formulovaná otázka pak stačí k tomu, aby se ve výstupu objevily mzdy nebo důvěrná jednání. Náprava po incidentu stojí víc než omezení přístupu na začátku.

Druhou chybou je soukromý účet zaměstnance použitý pro firemní práci. Na spotřebitelské verze nástrojů se zpravidla nevztahuje zpracovatelská smlouva a dodavatel může data využít k vylepšení svých modelů. Firma pak o datech ztrácí kontrolu a nemá jak doložit, kam odešla. Řešením je poskytnout zaměstnancům firemní nástroj a soukromé účty pro práci výslovně zakázat.

Třetí chybou je chybějící posouzení rizik zpracování. Firma ho často odkládá na dobu, kdy bude nasazení hotové, a pokud bylo posouzení vlivu povinné, zpětně pak dokládá, proč zpracování spustila bez něj. Při kontrole úřadu to působí jako přiznání, že rizika nikdo předem neposoudil. Čtvrtou chybou je převzetí smlouvy dodavatele bez kontroly bodů o tréninku a dalších zpracovatelích.

Pátou chybou je výstup asistenta odeslaný ven bez lidské kontroly. Asistent dokáže připravit nabídku, odpověď na reklamaci nebo shrnutí smlouvy během okamžiku. Chyba v takovém dokumentu ale zavazuje firmu stejně, jako kdyby ji udělal zaměstnanec. Které výstupy musí před odesláním kontrolovat člověk a které mohou odejít automaticky, závisí na tom, jestli zakládají závazek vůči třetí osobě. Proto tuto hranici právníci ARROWS advokátní kanceláře vymezují podle konkrétních procesů firmy.

Rizika AI asistenta pro firmu a jak je omezit

Co si z článku odnést — závěrečné shrnutí

AI asistent napojený na firemní systémy přináší jiné riziko než běžný chatovací nástroj, protože si data vyhledává sám. Za účel a způsob zpracování, za výstupy asistenta i za únik informací odpovídá především firma, která ho nasadila. Dodavatel jako zpracovatel odpovídá za své vlastní povinnosti, a pokud data použije pro sebe, stává se pro toto zpracování správcem. Právní ošetření proto stojí na smlouvě s dodavatelem, posouzení rizik a interních pravidlech.

Pro vedení je rozhodující pořadí kroků: nejdřív smlouva a posouzení rizik, teprve potom plošné spuštění. Firma, která asistenta zapne jako první a pravidla dopisuje zpětně, nedokáže doložit, kam data odešla. Při kontrole úřadu nebo ve sporu s konkurentem pak nemá čím prokázat, že data i obchodní tajemství chránila. Odklad těchto kroků zvyšuje riziko pokuty i škody, kterou firma po nikom nevymůže.

Vedení by proto mělo rozhodnout tři věci: které systémy a data asistent smí číst, který dodavatel splní požadavky na zpracovatelskou smlouvu bez tréninku na firemních datech a kdo ve firmě kontroluje výstupy, které jdou ven. Bez těchto rozhodnutí zůstává nasazení asistenta experimentem na ostrých datech.

Právníci ARROWS advokátní kanceláře provedou kontrolu smlouvy s dodavatelem AI nástroje a vyjednají chybějící body. Posoudí rizika zpracování a připraví posouzení vlivu, interní směrnici pro práci s asistentem a školení pro zaměstnance. Napište nám na konzultace@arws.cz nebo se podívejte na naši službu IT a softwarové právo, kyberbezpečnost.