Generativní AI v taktickém plánování a právní dohled nad algoritmy

Co je to generativní AI v taktickém plánování a proč ji firmy používají

Algoritmy nejsou pouhé kalkulačky – jsou to rozhodovací či podpůrné systémy, které ovlivňují zaměstnance, obchodní partnery a zákazníky. Problém spočívá v tom, že zatímco vedení oceňuje rychlost a přesnost těchto nástrojů, právní a etické následky jejich používání zůstávají dlouho neviditelné.

Jejich skrytá zkreslení (bias), neauditované zdroje dat nebo nedostatečná transparentnost se velmi často objeví až v okamžiku, kdy dojde k problému. Z daňového a účetního pohledu může být navíc relevantní i to, jak se náklady na vývoj a nasazení AI správně klasifikují, což rozebírá novinka Technické zhodnocení versus oprava majetku: Kde leží daňová hranice a jak správně kategorizovat milionové investice do nemovitostí

. A ten problém může společnost vyjít velmi draho.

Právní rámec: Co se v Česku a Evropě změnilo

V roce 2026 se nacházíme v plné účinnosti zásadních částí evropského Nařízení o umělé inteligenci (AI Act). Po přechodných obdobích jsou nyní závazná pravidla pro zakázané praktiky a pravidla pro modely AI pro obecné účely (GPAI). Od srpna 2026 plně dopadají povinnosti i na většinu vysoce rizikových AI systémů uvedených v příloze III nařízení.

Pokud váš algoritmus rozhoduje o zaměstnání, přístupu k základním službám nebo kritické infrastruktuře, spadá do kategorie vysoce rizikové AI a podléhá přísné regulaci. V praxi to pro taktické plánování znamená, že systémy s dopadem na řízení pracovníků (např. přidělování úkolů, monitoring výkonu) musí splňovat vysoké nároky na bezpečnost a lidská práva.

Česká republika adaptovala svůj právní řád na toto přímo použitelné unijní nařízení (zákon o umělé inteligenci a změnové zákony), přičemž dozorovou pravomoc sdílejí podle typu systému příslušné orgány (např. NÚKIB, ÚOOÚ), koordinované na vládní úrovni. Ministerstvo průmyslu a obchodu nadále podporuje tzv. regulatory sandbox – testovací prostředí pro bezpečný vývoj.

Vedle AI Actu zůstává v platnosti GDPR, které reguluje jakékoliv zpracování osobních údajů v rámci AI, a antidiskriminační zákon.

Všechny požadavky EU musí plnit firmy, které uvádějí systémy na trh v EU nebo je zde provozují. Pokud zároveň řešíte nastavení odpovědností, smluv s dodavateli a interních procesů při nasazení AI, navazuje na to oblast it a softwarového práva, kyberbezpečnosti.

Rizika a sankce v praxi

Pojďme být konkrétní. Co se může stát, když vaše generativní AI v taktickém plánování není řádně ošetřena?

Jak funguje taktické plánování a kde se do něj dostává AI

Taktické plánování tradičně pracuje s měsíčním nebo čtvrtletním časovým horizontem. Manažeři shromažďují data o nabídce, poptávce, dostupnosti zdrojů a na základě zkušenosti a analýz přijímají rozhodnutí o prioritizaci projektů, alokaci pracovní síly a nákupu materiálu.

Když do tohoto procesu vstoupí generativní AI, dynamika se mění: algoritmus analyzuje tisíce historických dat, odhaluje vzorce, které člověk přehlédne, a podává doporučení. Týmy se pak soustředí na interpretaci těchto výstupů a jejich realizaci. Zdá se to jednoduché – a v ideálním případě to tak i je.

Představte si situaci: algoritmus trénovaný na historických datech o výkonu týmů začne preferovat určité skupiny zaměstnanců pro lukrativní projekty. Může to být tím, že trénovací data obsahují skryté zkreslení (tzv. bias) – například v minulosti byly projekty přidělovány primárně mužům, což algoritmus vyhodnotil jako žádoucí vzorec. Výsledek? Systém diskriminuje a vy se ocitáte v rozporu se zákoníkem práce.

Právníci z ARROWS advokátní kanceláře řeší právě tyto skryté problémy a pracují s firmami na nastavení kontrolních mechanismů, aby se podobným situacím předešlo.

Máte-li podobné obavy, napište na konzultace@arws.cz.

Audit a kontinuální monitoring – co se od vás čeká

Soulad s předpisy (compliance) není jednorázový úkon. Chování algoritmů se může měnit v závislosti na nových datech. Pokud se změní struktura trhu nebo procesy v podniku, může dojít k posunu v přesnosti modelu (tzv. model drift), a původně korektní doporučení se mohou stát chybnými či nezákonnými.

Regulátoři a soudy v roce 2026 očekávají, že firmy mají:

• Zdokumentovaný proces kontroly – jasná pravidla, jak a kdy se systém testuje a kdo je za testování odpovědný.
• Kontinuální monitoring po uvedení na trh – povinnost sledovat systém po celou dobu jeho životního cyklu, aby byly včas odhaleny anomálie.
• Audit trail (protokolování) – automatické zaznamenávání událostí (logů), které umožní zpětně dohledat příčinu rozhodnutí.
• Osoby odpovědné za dohled – musí být určeny fyzické osoby s potřebnou kvalifikací a pravomocí zasáhnout do chování systému.

Právníci a specialisté z ARROWS advokátní kanceláře vám pomohou nastavit takový monitoring v souladu s požadavky AI Actu a norem ISO/IEC 42001. Obraťte se na konzultace@arws.cz.

Transparentnost a vysvětlitelnost – problém „černé skříňky“

Jedním z pilířů AI regulace je požadavek na transparentnost. Uživatelé a dotčené osoby musí vědět, že jednají s AI, a v případě vysoce rizikových systémů musí být fungování systému dostatečně transparentní, aby uživatelé mohli interpretovat jeho výstupy.

Firmy musí být schopny poskytnout smysluplné vysvětlení logiky rozhodování, protože argument výpočtu algoritmem v pracovněprávních vztazích neobstojí. V praxi to znamená, že právníci ve spolupráci s IT musí ověřit, zda je systém schopen generovat vysvětlitelné výstupy (XAI) nebo zda existují doplňkové procesy lidského přezkumu.

Odborníci z ARROWS advokátní kanceláře doporučují zaměřit se na transparentnost procesu: zdokumentovat návrh, data a testování. Problémem zůstává tzv. „black box“ efekt u neuronových sítí, kde není vždy zřejmé, jak systém k výsledku dospěl.

Odpovědnost a role statutárních orgánů

Zásadní otázka pro management: kdo nese odpovědnost? Odpověď je jednoznačná: právnická osoba a její statutární orgán. Členové představenstva či jednatelé mají povinnost jednat s péčí řádného hospodáře. To zahrnuje i povinnost zajistit, aby firma při využívání nových technologií neporušovala zákony.

Pokud se zjistí, že společnost nasadila rizikový AI systém bez odpovídající governance a způsobila tím škodu, může to být považováno za porušení péče řádného hospodáře. Důsledkem může být i osobní odpovědnost členů vedení.

Proto společnosti zavádějí AI Governance – rámce řízení, které zajišťují přehled o používaných systémech, jejich rizikovosti a souladu s předpisy. ARROWS advokátní kancelář pomáhá při vytváření těchto struktur, včetně přípravy interních směrnic a školení managementu. Chcete-li diskutovat o governance ve vaší organizaci, napište na konzultace@arws.cz.

Praktické doporučení: Jak nastavit compliance efektivně

Nemusíte být experty na datovou vědu, abyste zajistili právní soulad. Základem je procesní nastavení, které začíná inventarizací AI systémů a jejich klasifikací dle rizika. Pro vysoce rizikové systémy je nutné zajistit technickou dokumentaci a popis trénovacích dat.

Jak regulátoři a soudy posuzují AI compliance

Regulátoři a soudy nepožadují dokonalost, ale prokazatelnou snahu a péči. Klíčové prvky, které budou zkoumat, jsou vědomost o rizicích, existující kontrolní mechanismy a písemné důkazy o testování a školení personálu. Pokud máte kvalitní dokumentaci a auditní stopu, vaše procesní pozice v případném sporu je výrazně silnější. Společnosti, které spoléhají na přístup „black box“ bez dokumentace, v důkazním řízení zpravidla selhávají.

Zákonná a regulační povinnost: EU AI Act a GDPR

Pro přehlednost shrnujeme nejdůležitější požadavky platné v roce 2026. Pro vysoce rizikovou AI (High-Risk AI) platí povinnosti v oblastech jako zaměstnanost, vzdělávání, úvěry či kritická infrastruktura. Povinnosti zahrnují zavedení systému řízení rizik, správu dat, technickou dokumentaci, záznamy (logy), transparentnost a lidský dohled. Dále je nutné zajistit přesnost, robustnost a kybernetickou bezpečnost systémů.

Při využití AI pro zpracování osobních údajů (GDPR) platí zásady zákonnosti, korektnosti a transparentnosti. Zvláštní důraz je kladen na čl. 22 (automatizované individuální rozhodování) a povinnost provést DPIA (posouzení vlivu) před nasazením nových technologií.

Pro prokázání shody se stále častěji využívají harmonizované normy (např. řada ISO/IEC 42001), které poskytují předpoklad shody s požadavky AI Actu. V České republice dohlíží na dodržování těchto pravidel určené dozorové orgány, jejichž metodiky je nutné sledovat.

Nejčastější omyly: Co si firmy myslí, ale není to pravda

Omyl 1: „Algoritmus je objektivní, nemůže diskriminovat.“
Nesprávně. Algoritmus se učí z historických dat, která často obsahují lidské předsudky a společenské nerovnosti. Pokud nejsou data očištěna, AI tyto předsudky nejen převezme, ale může je zesílit.

Omyl 2: „Za chyby odpovídá dodavatel AI softwaru.“
Částečně nesprávně. Jako provozovatel (nasazující subjekt - deployer) nesete odpovědnost za to, jak systém používáte, zda máte zajištěn lidský dohled a zda používáte systém v souladu s návodem. Vůči třetím stranám (zaměstnancům, klientům) odpovídáte primárně vy.

Omyl 3: „Audit stačí udělat jednou na začátku.“
Nesprávně. AI Act i principy řízení rizik vyžadují monitoring po uvedení na trh. Systémy se vyvíjejí a mění se i data, se kterými pracují.

Omyl 4: „AI governance je jen věc IT oddělení.“
Nesprávně. Jde o průřezovou disciplínu zahrnující právo (compliance), HR (dopady na lidi), management (strategie a rizika) a IT.

Tabulka tipů a chyb: Co dělat a čemu se vyhnout

Závěr článku

Generativní AI v taktickém plánování není jen technologickou inovací – je to oblast s významnou právní odpovědností a nároky na corporate governance. Firmy, které k implementaci přistupují proaktivně a v souladu s regulací roku 2026, minimalizují rizika vysokých pokut a soudních sporů. Ty, které regulaci podcení, se vystavují existenčním hrozbám.

Právníci z ARROWS advokátní kanceláře se problematice práva IT a umělé inteligence dlouhodobě věnují a znají aktuální výkladovou praxi.

Víme, jak nastavit compliance tak, aby byla udržitelná a nebrzdila váš rozvoj. Kontaktujte nás na konzultace@arws.cz a zajistěte své firmě právní bezpečí v éře AI.