Umělá inteligence v podnikání: příležitosti a právní výzvy v roce 2025, na které byste neměli zapomínat

25.11.2024

Autor článku: JUDr. Jakub Dohnal, Ph.D., LL.M., ARROWS advokátní kancelář

S rostoucím využíváním umělé inteligence (AI) se její implementace stává nejen příležitostí ke zvýšení efektivity, ale také zdrojem právních otázek a rizik, které firmy musí řešit. Jak na to, aby inovace nezpůsobily více problémů než užitku? Přinášíme vám přehled klíčových právních oblastí spojených s AI, na které je třeba dávat pozor.

1. Interní pravidla pro využívání AI: klíč k udržitelnosti

Pokud vaši zaměstnanci běžně využívají AI nástroje, jako jsou generativní asistenti (ChatGPT, Copilot), překladače (DeepL) nebo grafické aplikace (Canva, Midjourney), měli byste zvážit zavedení AI Policy. Tento dokument určuje pravidla pro bezpečné a efektivní používání AI nástrojů a chrání citlivé informace, včetně obchodních tajemství či osobních údajů.

2. Dodavatelská ujednání a kontrola AI nástrojů

Firmy stále častěji nastavují pravidla pro užívání AI nejen pro své zaměstnance, ale také pro své dodavatele. Dodavatelské smlouvy mohou obsahovat doložky o tom, jak mohou být data sdílena nebo zpracovávána pomocí AI. Taková ujednání minimalizují riziko zneužití a zajišťují, že partneři používají AI nástroje v souladu s právními předpisy a vašimi očekáváními.

3. GDPR a ochrana osobních údajů: na co nezapomenout?

Pokud vaše firma zpracovává osobní údaje pomocí AI nástrojů, je klíčové, abyste:

  • Řádně informovali subjekty údajů o tom, jak jsou jejich data zpracovávána.
  • Zvážili nutnost vypracování posouzení vlivu na ochranu údajů (DPIA).
  • Uzavřeli zpracovatelské smlouvy s poskytovateli AI systémů.

Nevyřešená otázka, zda AI systémy používají citlivá data ke „učení“, může vést k právním sporům nebo regulatorním postihům.

4. Akt o umělé inteligenci: co přináší nová regulace?

Akt o umělé inteligenci, přijatý EU, zavádí přísná pravidla pro systémy s vysokým rizikem, jako jsou ty, které pracují s biometrickými údaji nebo rozhodují o zaměstnání. Firmy by měly analyzovat, zda jejich AI systémy spadají do vysoce rizikových kategorií, a zajistit, aby byly v souladu s požadavky na transparentnost a bezpečnost.

5. Tréninková data: kdy je můžete použít?

Používání dat ke školení vlastních AI modelů často přináší právní otázky ohledně licencování. Neoprávněné použití dat může vést k soudním sporům, zejména pokud se jedná o data chráněná autorskými právy nebo obsahující citlivé informace.

6. Implementace a právní odpovědnost

AI technologie, například systémy rozpoznávání obličejů nebo autonomní drony, přinášejí otázky odpovědnosti za škody způsobené chybami systému. Jasně nastavené smluvní podmínky a zajištění shody s právními předpisy mohou minimalizovat riziko právních komplikací.


Klíčové poznatky:

  1. Zavedení AI Policy zajišťuje udržitelný a bezpečný přístup k používání AI ve firmě.
  2. Právní dokumentace, včetně GDPR úprav a dodavatelských smluv, je nezbytná pro ochranu dat a minimalizaci rizik.
  3. Akt o umělé inteligenci a pravidla pro práci s tréninkovými daty představují nové výzvy, které si žádají odborné řešení.

Pokud máte otázky týkající se zavádění AI ve vašem podnikání, kontaktujte nás! Rádi vám pomůžeme nastavit vše potřebné tak, abyste mohli naplno využít potenciál umělé inteligence bez obav z právních komplikací. Jsme tu, abychom vám pomohli!

Chcete zobrazit celý článek ZDARMA?

Když nám na sebe necháte kontakt, heslo Vám rádi zašleme. K celé databází mají přístup zdarma i naši klienti a je stejné jako heslo k naší veřejné Wi-Fi v zasedacích místnostech.

JUDr. Jakub Dohnal, Ph.D.

JUDr. Jakub Dohnal, Ph.D
advokát, partner

Zadejte prosím heslo


Chcete heslo zdarma?

Podělte se s námi prosím o: