Otázka odpovědnosti při použití AI ve zdravotnictví

V předchozím článku jsme si nastínili možné přínosy AI v oblasti zdravotnictví, konkrétní obory, kde je prostor pro její užití, jakož i právní aspekty použití AI ve zdravotnictví. Jednou z největších otázek v inkorporaci AI do zdravotnictví je odpovědnost za její užití pro případ způsobení škody. V tomto článku si tak nastíníme jak evropské, tak vnitrostátní koncepce.

Roboti ve zdravotnictví

Mnozí z nás si jistě představí téměř až filmový scénář, kdy nás bude na operačním sále místo lékaře operovat stroj a ve zdravotnictví už nepotkáme jedinou lidskou bytost. Tento scénář je ale nereálného rázu, a to hlavně proto, že AI ani jiná robotika nejsou na takové úrovni, že bychom si mohli dovolit vynechat lidský prvek, a to zejména ve zdravotnictví.

Z Usnesení Evropského parlamentu ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2103(INL)) (dále jen “Občanskoprávní pravidla pro robotiku”) poté jednoznačně vyplývá požadavek na co nejvyšší odbornou průpravu a vhodné vzdělání zdravotnického personálu, a to právě i v případech kdy má být využíváno jakékoli robotické technologie, např. v rámci operace. Toto doporučení tedy vystupuje z premisy, že i v případě užívání robotických technologií ve zdravotnictví je stále nutný lidský aspekt a dohled nad prováděným zákrokem.

Evropský parlament tímto usnesením vyzval Evropskou komisi k tomu, aby předložila legislativní návrh, který nebude žádným způsobem omezovat druh nebo rozsah škody, jejíž nahrazení lze vymáhat, a neměl by ani omezovat formu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk. Zásadní je, že Evropský parlament sám podotýká, že alespoň v nynější fázi by měl odpovědnost nést člověk, a nikoli robot. Tato Občanskoprávní pravidla pro robotiku byla vydána již v roce 2017, významným nyní je zejména tzv. AI Act, který byl přijat 13. 3. 2024.

Regulace na úrovni EU

Na úrovni EU se v poslední době objevily tři významné prvky upravující odpovědnost za škodu způsobenou AI v oblasti zdravotnictví, a to konkrétně Akt o umělé inteligenci (tzv. AI Act), nová směrnice o odpovědnosti za vadné výrobky, která má nahradit dosud stále účinnou směrnici (85/374/EHS) a směrnice o odpovědnosti za umělou inteligenci. Tyto významné dokumenty mají vést ke sjednocení pravidel odpovědnosti na národních úrovních v oblasti umělé inteligence, což by mělo zjednodušit proces nárokování odškodnění pro oběti, které utrpěly škodu v souvislosti s použitím umělé inteligence.

Vzhledem k tomu, že AI disponuje velice specifickými vlastnostmi, ať už se jedná o její komplexnost, autonomii či neprůhlednost, poškozené osoby mohou narazit na neúměrně znesnadněnou identifikaci povinné osoby a úspěšné uplatnění nároku na náhradu škody se tedy stává značně obtížným. Je zde tedy snaha o podstatné zlepšení pozice poškozených a případného dokazování v oblasti způsobení škody systémem AI.

Bude se zde typicky jednat o případ, kdy poškozený bude prokazovat, že systém AI nesplňuje požadavky nařízení o AI nebo jiných právních předpisů (tj. příslušných vnitrostátních nebo unijních právních předpisů), za užití domněnky, že žalovaný (tzn. systém umělé inteligence) zaviněně porušil příslušnou povinnost, a proto se bude předpokládat příčinná souvislost vzniklé škody.

Směrnice o odpovědnosti za umělou inteligenci posiluje pozici poškozeného tím, že zavádí tzv. „domněnku příčinné souvislosti” v případě, kdy bylo zjištěno příslušné zavinění a příčinná souvislost s výkonem umělé inteligence se jeví jako přiměřeně pravděpodobná. Poškození mají současně dle této směrnice právo na přístup k důkazům od společností a dodavatelů v případech, kdy se jedná o vysoce rizikové systémy umělé inteligence, což též značně zlepší jejich pozici v případném sporu. 

Česká právní úprava

Současná vnitrostátní úprava zaměřená na náhradu škody není vhodná pro řešení nároků na odpovědnost za škody způsobené výrobky a službami v kontextu umělé inteligence.

V teoretické rovině pak připadají v úvahu hlavně následující ustanovení zákona č. 89/2012 Sb., občanský zákoník (dále jen “OZ”), a to hlavně z toho důvodu, že AI netvoří homogenní skupinu a není možné využít pouze jedno ustanovení.

V rámci poskytování zdravotních služeb tak bude možné využít ustanovení § 2936 OZ, které upravuje situace, kdy je škoda způsobena vadnou věcí. Věcmi, které byly použity, budou v případě poskytování zdravotních služeb pacientovi typicky různé zdravotnické přístroje a stroje (chirurgičtí roboti apod.). Praktickým problémem při aplikaci tohoto ustanovení bude prokazování samotné vady věci, tedy v případě AI se bude jednat o prokázání existence vady algoritmu AI, což bude pro poškozeného mnohdy velice těžké. 

Na škodu způsobenou při využívání aplikací na bázi AI by bylo možné uplatnit taktéž ustanovení § 2939 OZ upravující odpovědnost za škodu způsobenou vadou movité věci jako výrobku, kdy dle komentářové literatury má povahu výrobku i software. Za tuto škodu by pak tedy odpovídal ten, kdo výrobek nebo jeho součást vyrobil a společně a nerozdílně s ním i ten, kdo výrobek nebo jeho část označil svým jménem, ochrannou známkou nebo jiným způsobem, jakož i ten, kdo takový výrobek dovezl za účelem jeho uvedení na trh v rámci svého podnikání.

V úvahu by přicházela i odpovědnost za škodu způsobená provozem závodu nebo jiného zařízení sloužící k výdělečné činnosti dle ustanovení § 2924 OZ, kdy takovým zařízením mohou být právě nemocnice. Dle tohoto ustanovení provozovatel takového závodu nebo zařízení sloužící k výdělečné činnosti nahradí škodu vzniklou z provozu, ať již byla způsobena vlastní provozní činností, věcí při ní použitou nebo vlivem činnosti na okolí. Liberačním důvodem je tu vynaložení veškeré péče, kterou lze rozumně požadovat, aby ke škodě nedošlo.

Vnitrostátní právní úprava se tak stává využitelnou pouze do určité míry a s ohledem na to je nutné brát na zřetel i evropskou úpravu právě v podobě AI Actu, směrnice o odpovědnosti za umělou inteligenci, a nové směrnice o odpovědnosti za vadné výrobky, které však musí být teprve přijaty.

Na článku spolupracovala Kateřina Chaloupková.

Pokud máte dotazy v souvislosti se zdravotnickým právem či související problematikou, neváhejte se na nás obrátit. Rádi se o Vašem případu dozvíme více a poskytneme Vám příslušnou právní pomoc.