Bojové drony a umělá inteligence:

Moderní bojové drony a systémy umělé inteligence přinášejí revoluční možnosti v civilním i vojenském sektoru. Pro firmy vyvíjející tyto technologie to však znamená nutnost orientovat se v právních předpisech o tzv. zboží dvojího užití – tedy produktech, softwaru či technologiích využitelných jak pro civilní, tak vojenské účely. Neznalost a nedodržení těchto pravidel může vést k vážným sankcím, obchodním omezením i poškození reputace. V následujícím textu proto přehledně vysvětlujeme, co obnáší regulace dual-use zboží v oblasti AI a dronů, jaké povinnosti firmám ukládá a na co si dát pozor, aby vaše inovace neskončily v rozporu se zákony.

​Autor článku: ARROWS advokátní kancelář (JUDr. Jakub Dohnal, Ph.D., LL.M., office@arws.cz, +420 245 007 740)

Příklad bojového dronu vystaveného na vojenském veletrhu. I když je původně určen pro armádní využití, podobné bezpilotní systémy nebo jejich komponenty mohou být nabízeny i na civilním trhu – a tím spadat do kategorie zboží dvojího užití podle platných předpisů.

Co je zboží dvojího užití?

Zboží dvojího užití (dual-use) jsou výrobky, technologie a software, které lze použít jak pro civilní, tak vojenské účely. Do této kategorie tedy spadá široká škála položek – od materiálů a součástek přes stroje až po pokročilé algoritmy. Právní definice v evropských a českých předpisech výslovně zmiňuje, že dual-use zahrnuje i nehmotné statky, jako je software a technická dokumentace. Jinými slovy, produkt původně vyvinutý pro legitimní civilní využití může svými vlastnostmi nalézt uplatnění i ve zbrojním průmyslu, a proto podléhá zvláštnímu dohledu.

Typické příklady tradičního zboží dvojího užití zahrnují např. CNC obráběcí stroje, které lze kromě civilní výroby snadno využít i k výrobě zbraní, nebo chemické látky běžně používané jako čisticí prostředky, jež však mohou sloužit jako prekurzory pro bojové chemikálie. 

Vedle takovýchto “hmotných” položek sem dnes spadají právě i software s prvky AI, drony a další digitální technologie, u nichž existuje potenciál vojenského zneužití. Evropský seznam kontrolovaných položek dvojího užití proto zahrnuje nejen komponenty zbraní, ale také položky využitelné pro vývoj zbraní hromadného ničení, kybernetické útoky, konstrukci raket či prostředky špionáže a sledování osob. Z pohledu zákona tedy nejde jen o zbraně nebo munici, ale i o subtilní technologie, které mohou nepřímo posílit vojenské schopnosti.

Právní rámec pro AI a drony s vojenským potenciálem

Regulace zboží dvojího užití stojí na několika úrovních. V Evropské unii platí jednotný právní rámec – aktuálně Nařízení (EU) 2021/821, které od září 2021 nahradilo dřívější úpravu (Nařízení Rady 428/2009). Toto nařízení sjednocuje pravidla pro kontrolu vývozu, tranzitu, zprostředkování i technické pomoci týkající se citlivých položek. Klíčovým prvkem je společný seznam položek dvojího užití (Příloha I nařízení), který vymezuje, jaké zboží podléhá povolením. Tento seznam je pravidelně aktualizován dle vývoje technologií a mezinárodních dohod.

Česká legislativa (zejména zákon č. 594/2004 Sb. v platném znění) nařízení EU provádí – stanoví postupy pro udělování licencí a sankce za porušení. V ČR agendu spravuje Licenční správa MPO, která posuzuje žádosti firem o vývozní povolení a dohlíží na dodržování předpisů.

Důležité je, že právní kontrola se netýká jen hotových fyzických produktů. Exportem může být i předání softwaru nebo technologie elektronicky (například zaslání technických dat e-mailem do zahraničí či zpřístupnění AI modelu na cloudu zahraničním uživatelům) – i to může vyžadovat licenci. Stejně tak poskytování technické asistence (např. konzultace k nasazení AI systému v jiné zemi) nebo zprostředkování obchodu s dual-use položkami jsou činnosti, které právní rámec pokrývá. Vývoj technologie jako takový zakázán není, avšak firma musí již v rané fázi zvažovat, zda výsledný produkt nebude spadat pod kontroly při svém dalším použití či vývozu.

Je nutné rozlišovat, zda konkrétní produkt spadá pod dvojí užití nebo již pod ryze vojenský materiál. Pokud vaše AI systém či dron byl speciálně navržen pro vojenské účely, může být klasifikován jako vojenský materiál – ten pak nespadá pod dual-use režim, ale pod ještě přísnější zbrojní předpisy (v ČR zákon č. 38/1994 Sb. a navazující předpisy, v EU Společný vojenský seznam). Naproti tomu mnoho technologií s potenciálem vojenského využití, které nemají výlučně vojenský design, spadá do kategorie dvojího užití.

Firmy v odvětví AI a dronů tak zpravidla budou řešit režim dual-use: povinnost žádat o povolení při exportu do tzv. třetích zemí (mimo EU), vést evidenci, označovat v dokumentech, že jde o kontrolované zboží atd. Vývoz uvnitř EU je u většiny dual-use položek volný, avšak i zde existují výjimky a speciální pravidla (například pro určité velmi citlivé technologie).

Klíčové mezinárodní režimy a předpisy

Pravidla o kontrolách exportu technologií se opírají také o mezinárodní dohody a režimy, jichž je Česká republika i EU součástí. Mezi nejvýznamnější patří zejména:

Wassenaarské ujednání – mnohostranný režim kontroly vývozu konvenčních zbraní a technologií dvojího užití, kterého se účastní 42 států. 

Cílem je zvýšit transparentnost a odpovědnost při transferu citlivých položek, aby nedocházelo k destabilizujícímu hromadění zbraní. Wassenaarské ujednání vytváří základ pro seznamy kontrolovaného zboží (jak vojenského, tak dual-use), které členské státy uplatňují ve své legislativě. EU přímo čerpá z tohoto režimu při aktualizaci svých seznamů.

Další kontrolní režimy – existují specializovaná uskupení zaměřená na určité typy hrozeb: např. Skupina jaderných dodavatelů (NSG) pro jaderné materiály, Australská skupina pro chemické a biologické látky či Režim kontroly raketových technologií (MTCR) pro řízené střely. Tyto režimy doplňují kontrolu nad položkami, které mohou přispět k šíření zbraní hromadného ničení a jejich nosičů.

Sankční režimy OSN a EU – mimo rámec “běžných” dual-use kontrol musí firmy sledovat také mezinárodní sankce. OSN, EU i jednotlivé státy uvalují embarga a omezení vůči určitým zemím, organizacím či osobám. Tyto sankce mohou zakázat jakýkoli obchod s vyspělými technologiemi (včetně dual-use zboží) s daným subjektem.

Aktuálně např. sankce EU vůči Rusku výrazně omezily export řady technologií, které by mohly podpořit ruský vojenský sektor – včetně dronů, šifrovacích zařízení, polovodičů a další elektroniky. Sankce často jdou nad rámec standardního dual-use režimu a zakazují vývoz i položek, které by jinak volně obchodovatelné byly, pokud hrozí jejich vojenské využití sankcionovanou stranou. Firmy proto musí prověřovat, komu své produkty prodávají, a mít aktuální přehled o sankčních seznamech.

Praktické příklady: Na co si dát pozor

Co konkrétně může spadat pod regulace v oblasti AI a dronů? Níže uvádíme několik typických příkladů dual-use položek z tohoto sektoru, na které by si firmy měly dát pozor:

Drony a bezpilotní systémy

Mnohé UAV (unmanned aerial vehicles) používané v průmyslu nebo zemědělství mají parametry využitelné i armádou. Například drony s dlouhým doletem, schopností autonomní navigace či nesení těžšího nákladu mohou vyžadovat licenci při exportu. EU přímo řadí drony, motory pro drony a jejich software mezi klíčové citlivé technologie. Dokonce i obyčejné “hobby” drony pro volnočasové použití mohou podléhat omezením, pokud je armáda zneužívá – sankční opatření EU po invazi na Ukrajinu zakázala vývoz rekreačních dronů do Ruska právě kvůli jejich vojenskému nasazení. 

Vaše firma vyrábějící drony by tedy měla pečlivě sledovat, zda její modely nepřekračují určité výkonové charakteristiky (rychlost, dolet, výška letu, autonomní řízení atd.), které by je zařadily na kontrolní seznam.

Software s umělou inteligencí

AI systémy samy o sobě mohou být nehmotným produktem, který podléhá kontrole. Zvláště software určený k analýze dat, rozpoznávání obrazů či rozhodování, jenž by mohl být využit k vojenskému zpravodajství nebo řízení zbraňových systémů, může vyžadovat exportní povolení. Například software pro zpracování satelitních snímků, autonomní řízení dronů nebo simulaci bojových scénářů by spadal do pozornosti úřadů. EU uvádí jako příklad i software používaný k výrobě zbraní či specializované algoritmy pro kryptografii. 

Pozor také na šifrovací software – silné šifrovací algoritmy či nástroje kybernetické bezpečnosti jsou na seznamu dual-use (Kategorie 5, Part 2) a jejich export do některých zemí může být omezen. Pokud vaše AI řešení obsahuje pokročilé šifrování, musíte to zohlednit. 

Kybernetické nástroje a sledovací technologie 

V reakci na moderní hrozby zavedla EU nově kategorii “technologie kybernetického dohledu”. Jedná se o položky dvojího užití speciálně navržené tak, aby umožňovaly skryté sledování osob – například odposlech komunikace, špehování IT systémů, monitorování a analýzu dat o uživatelích. Typickým příkladem je tzv. spyware (škodlivý software pro špionáž) nebo nástroje pro prolomení bezpečnosti sítí. 

Tyto prostředky mohou být zneužity autoritativními režimy k potlačování vnitřní opozice či narušování lidských práv, a proto jejich export podléhá velmi přísné kontrole či přímo zákazu. Firmy vyvíjející bezpečnostní software, monitoring, forenzní IT nástroje apod. by měly vědět, zda jejich produkty nespadají do této kategorie – a počítat s tím, že i když nejsou uvedeny přímo na seznamu, mohou podléhat tzv. catch-all doložce (úřady mohou vyžadovat licenci, pokud zjistí, že neidentifikovaný produkt by mohl sloužit k represi nebo porušování práv).

Senzory, komponenty a elektronika: Oblast AI a dronů se neobejde bez hardwaru – a i ten bývá regulován. Termovizní a noční kamery, radary, LIDARy, detektory a další senzory s vysokou citlivostí jsou běžně uváděny v seznamech dual-use, neboť mohou zlepšit schopnosti zbraňových systémů (např. navádění raket, průzkum bojiště). 

Podobně vyspělé čipy a polovodiče (např. výkonné FPGA nebo GPU akcelerátory pro AI) spadají pod kontrolu, zejména pokud splňují určitá kritéria výpočetního výkonu. V sankčním kontextu EU výslovně zmiňuje pokročilou elektroniku a polovodiče mezi technologiemi, které nesmějí k ruské armádě. 

Komunikační moduly (zařízení pro rádiový přenos, satelitní komunikaci apod.) s odolností vůči rušení či s šifrováním rovněž podléhají exportním omezením. Pro výrobce elektronických komponent do dronů nebo AI systémů to znamená nutnost kontrolovat technické parametry svých výrobků vůči položkám seznamu – např. přesnost GPS modulů, odolnost giroskopů, výkon procesorů atd.

(Výše uvedené příklady nejsou vyčerpávající – regulace dual-use pokrývá i mnoho dalších oblastí. Pokud si nejste jisti, zda váš produkt spadá pod kontrolu, je na místě provést podrobnou právní analýzu.)

Sankce a reputační rizika při porušení pravidel

Nedodržení pravidel kontrol vývozu může mít pro firmu velmi citelné následky. V českém prostředí jde o správní delikt (přestupek), za který hrozí vysoké pokuty – u nejzávažnějších porušení (např. nelegální export bez povolení) až do výše 20 milionů Kč. 

Kromě finanční pokuty úřady obvykle uloží i zákaz vydání vývozní licence na určitou dobu, což může fakticky ochromit mezinárodní obchod firmy. 

Dle českého zákona platí, že pokud je firma uznána vinnou z vývozu bez licence, nebude moci po dobu 3 let získat nové povolení k vývozu daného zboží. Jinými slovy, jedno pochybení může firmu vyřadit z lukrativních zahraničních trhů na několik let.

Sankce však mohou jít i dál. V případech vědomého a závažného porušování (zejména pokud firma obchází embargo nebo dodává technologie zakázaným režimům) může dojít i na trestněprávní postih jednotlivých odpovědných osob. 

Ze zahraničních případů víme, že např. americké úřady stíhaly vedoucí pracovníky firem, které vědomě porušovaly exportní zákony – například pokud by se prokázalo, že společnost úmyslně vyvezla zakázané technologie do Íránu či KLDR, hrozí manažerům i vězení. 

Pro firmu samotnou pak prohřešek znamená obrovské reputační riziko: může skončit na tzv. blacklistu (seznamu nedůvěryhodných exportérů), obchodní partneři s ní přeruší spolupráci a v médiích je spojována s podporou nedemokratických režimů či proliferace zbraní. Například známá kauza čínské firmy ZTE ukázala, že porušení amerických sankcí vedlo k zákazu dodávek klíčových součástek pro její produkty na 7 let – důsledek, který ohrozil samotnou existenci firmy. Jakkoli je tento příklad extrémní, jasně ilustruje, že compliance v oblasti dual-use není jen formalita, ale otázka životaschopnosti podniku na globálním trhu.

Na koho se můžete obrátit:

Jak může pomoci právní poradenství a compliance

Pro firmy v sektoru AI, dronů a dalších vyspělých technologií je dodržování exportních kontrol a sankčních předpisů náročné, ale nezbytné. Kvalitní právní poradenství a dobře nastavený compliance program mohou v této oblasti sehrát zásadní roli. 

Na co by se měla vaše firma zaměřit a jak jí mohou pomoci odborníci?

Identifikace a klasifikace produktů 

Právní experti vám pomohou určit, zda konkrétní software, hardware či komponenta spadá pod položky seznamu dual-use. Tato klasifikace podle číselných kódů (ECCN v terminologii USA či dle přílohy I nařízení EU) je výchozím krokem – bez správného určení není možné vědět, jakým omezením podléhá export. U rychle se vyvíjejících oblastí, jako je umělá inteligence, to může být složité a vyžaduje to aktuální znalost výkladu předpisů.

Žádosti o vývozní povolení

Pokud je váš produkt kontrolovaný, musíte pro vývoz mimo EU získat povolení od MPO. Právní zástupce vás provede procesem – pomůže s vyplněním žádosti, komunikací s úřady a doložením všech potřebných informací (účel, koncový uživatel, technické parametry atd.). Správně připravená dokumentace zvyšuje šanci na hladké a rychlé schválení. 

Chyby či opomenutí v žádosti mohou vést k zamítnutí nebo zdržení obchodů, což si mnoho firem nemůže dovolit.

Vnitropodnikový compliance program

Regulátoři kladou důraz na to, aby exportéři měli zavedeny interní kontrolní mechanismy – tzv. Internal Compliance Program (ICP). Ten zahrnuje školení zaměstnanců, postupy pro prověřování zákazníků, monitoring legislativních změn a podobně. Evropská komise vydala v roce 2021 doporučení k jednotnému přístupu k exportnímu compliance. 

Právní poradce vám pomůže nastavit ICP na míru vaší firmě – tak, aby odpovídal doporučením úřadů a pokrýval specifická rizika vašeho byznysu. To může zahrnovat například automatizované kontroly sankčních seznamů při každé nové objednávce, smluvní doložky o zákazu reexportu ze strany vašich zákazníků, nebo postupy pro eskalaci při podezření, že produkt by mohl být zneužit k nežádoucím účelům. 

Dobře nastavený compliance program nejen snižuje riziko porušení předpisů, ale může být i polehčující okolností, pokud by k incidentu došlo (prokazuje dobrou víru firmy).

Průběžné právní monitorování

Oblast dual-use a sankcí se neustále vyvíjí – vznikají nové kategorie (viz kybernetický dohled), mění se sankční režimy vzhledem k geopolitické situaci, každoročně se aktualizuje seznam kontrolovaných položek. 

Specializovaná právní kancelář sleduje tyto změny a upozorní vás včas na nová omezení, která by mohla dopadnout na vaše produkty či trhy. Tím získáte konkurenční výhodu – můžete v předstihu upravit produkt, změnit destinaci prodeje nebo požádat o licenci dříve, než ostatní zareagují.

Navíc platí, že ačkoli dodržování exportních kontrol může někdy obchod zpomalit, jeho ignorování by mohlo ohrozit existenci firmy. Regulatorní požadavky v konečném důsledku chrání i samotné exportéry – zabráněním neúmyslnému zapojení do nelegálních aktivit se vyhnete poškození svých obchodních zájmů a pověsti. Proto by řízení exportních rizik mělo být nedílnou součástí strategie každé technologické společnosti mířící na globální trhy.

ARWS – špičková expertiza v právu a AI

Advokátní kancelář ARWS patří ke špičce v oblasti práva moderních technologií a umělé inteligence, a to s výrazným mezinárodním přesahem. Naši specialisté rozumějí jak technickým aspektům AI a dronů, tak detailům mezinárodních předpisů – od nařízení EU, přes kontrolní režimy, až po sankční nařízení OSN. 

Pomůžeme vaší firmě nastavit efektivní compliance, posoudíme exportní rizika vašich produktů a zajistíme, že inovace, které vyvíjíte, budou moci bezpečně a legálně dobýt světové trhy. Neváhejte se na nás obrátit pro konzultaci – v oblasti práva a AI jsme vaším spolehlivým partnerem.

Nechcete tenhle problém řešit sami? Věří nám více než 2000 klientů a jsme oceněni jako Právnická firma roku 2024. Podívejte se ZDE na naše reference.