Cyberbezpieczeństwo a AI Act

Placówki medyczne w Republice Czeskiej stoją w obliczu bezprecedensowo złożonej sytuacji regulacyjnej. Dyrektywa NIS2, nowy AI Act, RODO oraz odpowiednie czeskie ustawy tworzą wielowarstwowe obowiązki, które wzajemnie się przenikają, uzupełniają, a czasem także ze sobą kolidują.

Szpitale, które chcą zminimalizować ryzyko kar, sankcji i awarii operacyjnych, muszą zrozumieć, jak te regulacje funkcjonują jako system. Oznacza to, że nie wystarczy postrzegać ich jedynie jako odrębnych przepisów, lecz jako złożoną sieć reguł. Niniejszy artykuł wyjaśnia rzeczywiste wymogi w zakresie compliance i pokazuje, gdzie najczęściej dochodzi do uchybień.

Dyrektywa NIS2 a placówki medyczne: nowy standard prawny

Dyrektywa NIS2 (dyrektywa (UE) 2022/2555 w sprawie środków na rzecz wysokiego wspólnego poziomu cyberbezpieczeństwa na terytorium Unii) to europejskie ramy prawne skoncentrowane na cyberbezpieczeństwie infrastruktury krytycznej i kluczowych usług. Nie chodzi o ogólny standard, lecz o obowiązek z wyraźnym priorytetem dla sektorów, które są „kluczowe” dla funkcjonowania społeczeństwa. 

Ochrona zdrowia jest w NIS2 wymieniona jako sektor uznawany za kluczowy, co oznacza, że mają do niej zastosowanie najsurowsze wymogi.

W Republice Czeskiej dyrektywa NIS2 weszła w życie poprzez transpozycję do prawa krajowego czeską ustawą nr 264/2025 Sb. o cyberbezpieczeństwie (dalej „Cybersecurity Act”), która weszła w życie 1 listopada 2025. 

Cybersecurity Act ma zastosowanie do tzw. podmiotów kluczowych i podmiotów ważnych. Szpital najczęściej należy do kategorii podmiotów kluczowych w sektorze krytycznym – ochronie zdrowia.

Placówka medyczna musi wdrożyć i utrzymywać kompleksowy system zarządzania ryzykiem cybernetycznym. Przy konfigurowaniu tych procesów (w tym governance i odpowiedzialności przy wdrażaniu narzędzi) pomocne może być również wsparcie prawne przy wdrażaniu sztucznej inteligencji (AI). System ten obejmuje identyfikację zagrożeń, ocenę ich skutków, wdrożenie środków bezpieczeństwa i bieżący monitoring. Nie jest to jedynie jednorazowa inwestycja w oprogramowanie, lecz nieprzerwany proces ograniczania ryzyka.

Szpitale muszą znacząco zmienić swoje podejście do zarządzania tożsamością i dostępem (Identity Access Management, IAM). Po rejestracji usługi regulowanej, najpóźniej w ciągu 1 roku od doręczenia decyzji czeskiego Narodowego Urzędu ds. Bezpieczeństwa Cybernetycznego i Informacyjnego (Národní úřad pro kybernetickou a informační bezpečnost, NÚKIB), obowiązkiem jest wdrożenie zasady „najmniejszych uprawnień”. Oznacza to, że każdy pracownik, aplikacja i system może mieć dostęp wyłącznie do tych informacji i funkcjonalności, których bezwzględnie potrzebuje do swojej pracy.

W praktyce oznacza to, że na przykład radiolog odczytujący zdjęcia CT nie powinien mieć dostępu do modułu administracyjnego faktur. Podobnie pielęgniarka na chirurgii nie powinna mieć dostępu do dokumentacji psychiatrycznej innego oddziału bez jasnego uzasadnienia. Zasady te są kluczowe dla ochrony danych wrażliwych. Przy praktycznym ustalaniu zasad wewnętrznych i postanowień umownych dla usług cyfrowych (w tym pracy z danymi) przydatne może być porównanie w artykule Platforma SaaS w UE: prawne uregulowanie OWU, RODO i postanowień licencyjnych dla wyników AI.

Środki wdrożeniowe w zakresie IAM zgodnie z Cybersecurity Act obejmują opracowanie i udokumentowanie polityki IAM oraz wdrożenie scentralizowanego systemu zarządzania tożsamością. Niezbędna jest ponadto zasada „najmniejszych uprawnień” dla wszystkich użytkowników oraz silne uwierzytelnianie, w tym uwierzytelnianie wieloskładnikowe (MFA), tam gdzie to możliwe.

Do dalszych środków należy prawidłowe logowanie wszystkich prób dostępu, w tym nieudanych. Istotne są również regularne audyty i przeglądy przyznanych uprawnień, aby zapewnić ich stałą adekwatność i bezpieczeństwo. Nie jest to ćwiczenie teoretyczne, lecz praktyczna konieczność.

Jeżeli szpital stwierdzi, że kierownik techniczny ma stałe uprawnienia do systemu, którego już nie używa, albo że personel medyczny może otworzyć cokolwiek w dokumentacji dowolnego pacjenta bez dalszych ograniczeń, to bezpośrednio narusza wymogi Cybersecurity Act.

W przypadku incydentów kluczowe jest szybkie zgłoszenie. W praktyce opłaca się jednocześnie uregulować także obowiązki wynikające z przepisów medycznych, czego dotyczą usługi z zakresu prawa medycznego. Jeżeli dojdzie do wycieku danych pacjentów, ataku na system informatyczny, uniemożliwienia dostępu do danych (np. ransomware) lub innego zdarzenia z zakresu cyberbezpieczeństwa, szpital musi bez zbędnej zwłoki zgłosić incydent do NÚKIB.

Zgłoszenie musi nastąpić najpóźniej w ciągu 72 godzin od chwili, gdy szpital dowiedział się o incydencie. W przypadku przepisów szczególnych konieczne jest poinformowanie także innych właściwych organów nadzoru. Dotrzymanie tego terminu ma zasadnicze znaczenie dla minimalizacji skutków i spełnienia wymogów regulacyjnych.

Naruszenie lub zaniedbanie tych obowiązków może prowadzić do kar w wysokości do 250 milionów CZK (ok. 10,3 mln EUR) lub 2 % całkowitego światowego obrotu organizacji w reżimie wyższych obowiązków, względnie do 175 milionów CZK (ok. 7,2 mln EUR) lub 1,4 % w reżimie niższych obowiązków, w zależności od tego, która kwota jest wyższa. Dla średniego szpitala oznacza to realne skutki finansowe, które mogą zagrozić jego funkcjonowaniu i ciągłości udzielania świadczeń zdrowotnych.

Praktyczny wpływ NIS2 na funkcjonowanie szpitala

Czym innym jest zrozumienie zasad na papierze. Czym innym zaś zrozumienie, co oznaczają one na co dzień w szpitalu.

Placówki medyczne charakteryzują się wysoką rotacją – personel sezonowy, urlopy macierzyńskie, przejścia na emeryturę. Każdy nowy pracownik musi otrzymać dostęp wyłącznie do systemów, których rzeczywiście potrzebuje, i tylko na czas, w którym pracuje. Skutki kadrowe (ustalanie ról, odpowiedzialności i dokumentacji przy przyjęciach i odejściach) dobrze ilustruje także tekst Partner kancelarii Jakub Oliva dla Hospodářské noviny: błędy w HR, największe ryzyka powstają w przypadku kluczowych osób i procesów wewnętrznych. NIS2 wymaga, aby każda zmiana była udokumentowana i regularnie audytowana. Jeżeli się tego nie robi, dostęp mają osoby, które w szpitalu już nie pracują.

Szpitale często korzystają z zewnętrznych dostawców IT, dostawców systemów diagnostycznych lub usług chmurowych do archiwizacji danych. Dyrektywa NIS2 wymaga, aby szpital miał z każdym takim dostawcą umownie uzgodnione zasady cyberbezpieczeństwa.

Jednocześnie szpital musi weryfikować przestrzeganie tych zasad, na przykład w drodze audytu technicznego lub kontroli. Jeżeli zewnętrzny dostawca nie ma wystarczających zabezpieczeń i dojdzie do wycieku danych, pierwotną odpowiedzialność ponosi szpital, nawet jeśli dane fizycznie przechowywał ktoś inny.

Nowoczesne urządzenia medyczne, takie jak monitory, respiratory, pompy infuzyjne czy aparaty diagnostyczne, są podłączone do sieci szpitala. NIS2 wymaga, aby stanowiły one część kompleksowej strategii cyberbezpieczeństwa placówki medycznej.

Starsze urządzenia, które nie dysponują nowoczesnymi zabezpieczeniami i nie można ich zaktualizować, stanowią znaczące ryzyko. Takim ryzykiem trzeba aktywnie zarządzać, na przykład poprzez odizolowanie tych urządzeń od reszty sieci, aby zminimalizować potencjalne zagrożenia.

Wszystkie te sytuacje wymagają rozwiązań menedżerskich i technicznych, z którymi przeciętny szpital bez specjalistycznej pomocy może sobie nie poradzić. Prawnicy kancelarii ARROWS koncentrują się w takich sytuacjach na audycie compliance, przygotowaniu dokumentacji oraz wsparciu w kontaktach z organami nadzoru.

Rozporządzenie UE w sprawie sztucznej inteligencji (AI Act) a instytucje medyczne: nowa warstwa regulacji dla algorytmów

Czym jest AI Act i dlaczego dotyczy ochrony zdrowia

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie sztucznej inteligencji), które weszło w życie 1 sierpnia 2024, jest pierwszą na świecie kompleksową regulacją prawną sztucznej inteligencji. Tekst stawia pytania: co, jeśli algorytm zawiedzie lub wprowadzi w błąd? Kto ponosi za to odpowiedzialność? Co, jeśli system AI nauczy się czegoś niepożądanego?

AI Act dzieli systemy AI na cztery kategorie według poziomu ryzyka, jakie stwarzają. Kategorie te to ryzyko niedopuszczalne, wysokie ryzyko, ograniczone ryzyko i minimalne ryzyko. Każda kategoria wiąże się z odmiennymi obowiązkami i wymogami regulacyjnymi.

Systemy o niedopuszczalnym ryzyku są całkowicie zakazane, na przykład scoring społeczny, manipulowanie zachowaniem lub rozpoznawanie emocji w miejscu pracy bez uzasadnienia medycznego. Systemy te uznaje się za zbyt niebezpieczne dla społeczeństwa.

Systemy AI wysokiego ryzyka podlegają surowym wymogom, zwłaszcza w medycynie. Należą do nich typowo narzędzia wspomagające diagnostykę, systemy wspomagania decyzji klinicznych oraz systemy wpływające na dostęp do usług, które mogą mieć zasadniczy wpływ na zdrowie i bezpieczeństwo.

Systemy o ograniczonym ryzyku podlegają obowiązkom przejrzystości, na przykład w przypadku chatbotów trzeba poinformować, że chodzi o AI. Systemy AI o minimalnym ryzyku, takie jak filtry antyspamowe, nie podlegają szczególnym obowiązkom i są uznawane za bezpieczne.

W szpitalach i instytucjach medycznych najczęściej spotkamy się z systemami AI wysokiego ryzyka, które wymagają szczególnej uwagi i przestrzegania surowych standardów regulacyjnych. Systemy te mają kluczowe znaczenie dla diagnostyki i leczenia.

Przepisy dotyczące systemów AI wysokiego ryzyka będą stosowane od 2 grudnia 2027 (załącznik III), względnie od 2 sierpnia 2028 (załącznik I, do którego należy także AI jako część wyrobów medycznych).

Przykłady systemów AI wysokiego ryzyka w szpitalach:

• AI do diagnostyki nowotworów na podstawie mammografii, zdjęć RTG, danych CT
• AI do wykrywania retinopatii cukrzycowej lub innych chorób oczu
• AI wspomagająca decyzje kliniczne (systemy wspomagania decyzji klinicznych – CDSS)
• AI do triażu pacjentów w nagłych przypadkach
• AI do prognozowania stanu pacjenta, przewidywania przebiegu choroby
• AI do alokacji zasobów medycznych

Konkretne wymogi dotyczące AI wysokiego ryzyka w medycynie

1. System zarządzania ryzykiem (Risk Management System)

Szpital musi zidentyfikować i przeanalizować wszystkie przewidywalne ryzyka, jakie system AI może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych pacjentów. Należą tu pytania, co się stanie, gdy algorytm zawiedzie lub popełni błąd, oraz jakie grupy pacjentów są bardziej zagrożone.

Należy ponadto rozważyć, co się stanie, gdy algorytm nauczy się czegoś niepożądanego lub jak przejawi się stronniczość danych. Analiza ta musi być prowadzona przez cały cykl życia systemu, czyli nie tylko przy wdrożeniu, ale na bieżąco, w miarę jak system jest używany i gromadzi nowe dane.

2. Zarządzanie danymi wysokiej jakości (High-Quality Data Governance)

Systemy AI uczą się na danych. Jeżeli dane treningowe są w jakiś sposób stronnicze (biased), system AI odziedziczy to zniekształcenie i przeniesie je do swoich wyników. Typowym przykładem jest algorytm oceniający ryzyko sercowo-naczyniowe, trenowany głównie na pacjentach rasy kaukaskiej.

Tak wytrenowany system jest znacznie mniej dokładny w przypadku pacjentów pochodzenia afrykańskiego czy azjatyckiego, co może prowadzić do błędnych diagnoz lub niewystarczającego leczenia. Szpital musi zatem zapewnić reprezentatywność danych.

Szpital musi zapewnić, aby dane treningowe były reprezentatywne dla populacji docelowej. Konieczne jest testowanie systemu na różnych grupach pacjentów i przejrzyste informowanie, gdzie system AI osiąga gorsze lub lepsze wyniki.

Ważne jest również dokumentowanie, skąd pochodzą dane, jak zostały oczyszczone i przetworzone. Częścią zarządzania danymi jest także identyfikacja i eliminowanie znanych zniekształceń w danych, aby zapobiec dyskryminacji i błędom w diagnostyce.

Jeżeli szpital wdroży algorytm, który był trenowany wyłącznie na danych mężczyzn, a następnie zastosuje go również u kobiet przy znacznie gorszej dokładności, naruszy przepisy AI Act. Może to mieć poważne konsekwencje dla opieki nad pacjentkami.

3. Dokumentacja techniczna

Przed wdrożeniem systemu AI konieczne jest posiadanie kompletnej dokumentacji technicznej. Musi ona zawierać szczegółowy opis systemu i jego przeznaczenia, a także opis wszystkich danych wejściowych, procesów i wyników. Dokumentacja jest kluczowa dla przejrzystości i możliwości przeprowadzenia audytu.

Dokumentacja techniczna musi ponadto zawierać sprawozdanie z zarządzania ryzykiem, informacje o danych treningowych i testowych oraz wyniki testów, w tym poziom błędów. Niezbędny jest także plan monitorowania systemu po jego wdrożeniu do eksploatacji.

Dokumentacja ta musi być dostępna w odpowiednim języku urzędowym i na żądanie udostępniana organom nadzoru. Jej brak lub niekompletność może prowadzić do poważnych sankcji.

4. Nadzór człowieka (Human Oversight)

Najważniejszą zasadą jest to, że algorytm nie może decydować samodzielnie. Lekarz musi zawsze być w stanie zrozumieć, jak algorytm działa i jakie są jego ograniczenia. Jednocześnie musi być w stanie kontrolować, czy algorytm działa prawidłowo.

Lekarz musi mieć również możliwość zignorowania lub nadpisania wyniku algorytmu, jeżeli uzna, że leży to w najlepszym interesie pacjenta. W przypadku, gdy system nie działa prawidłowo, lekarz musi być w stanie go wstrzymać, aby zapobiec potencjalnej szkodzie dla pacjenta.

Oznacza to, że AI do diagnostyki nie jest „drugą diagnostyką, którą można zignorować”. Jest to system, który jest aktywnie monitorowany i musi pozostawać pod kontrolą lekarza. Nadzór człowieka jest niezbędny do zapewnienia bezpieczeństwa i jakości opieki.

5. Przejrzystość i informowanie pacjentów

Pacjenci, wobec których stosuje się AI, muszą zostać o tym poinformowani. Nie ma obowiązku przekazywania im wszystkich szczegółów algorytmu. Powinni jednak mieć świadomość, że ich diagnostyka lub leczenie obejmuje element sztucznej inteligencji. Jest to kluczowe dla przejrzystości.

Wymóg ten nie dotyczy wyłącznie etyki, lecz ma konkretne skutki prawne. Jeżeli pacjent nie wiedział, że jego diagnostykę przeprowadzał algorytm, a później dowie się, że algorytm zawierał błąd, ma lepszą pozycję prawną w ewentualnym sporze sądowym.

Punkt styku AI Act z MDR i RODO

Tu sprawy stają się naprawdę złożone. Jeżeli Twój system AI jest częścią wyrobu medycznego, na przykład modułem AI w oprogramowaniu diagnostycznym, mają do niego zastosowanie jednocześnie trzy regulacje. Regulacje te wzajemnie się przenikają i uzupełniają.

Wszystkie trzy mają zastosowanie do jednego systemu jednocześnie. MDR odpowiada na pytania typu „Czy urządzenie jest bezpieczne i skuteczne?”, AI Act na pytanie „Czy algorytm nie manipuluje, jest przejrzysty i pozostaje pod kontrolą?”, a RODO na pytanie „Czy dane pacjentów są chronione?”. Ta złożoność wymaga skoordynowanego podejścia.

Prawnicy kancelarii ARROWS orientują się w tym potrójnym splocie regulacji i pomagają szpitalom zrozumieć, które obowiązki ich dotyczą, jak na siebie wzajemnie wpływają i co konkretnie muszą zrobić.

RODO, NIS2 i AI Act: jak wzajemnie na siebie wpływają w przypadku danych medycznych

Dane medyczne pod presją trzech regulacji

Dane medyczne, takie jak dane dotyczące zdrowia, dane genetyczne i dane biometryczne, stanowią zgodnie z RODO szczególną kategorię danych osobowych. Dane te podlegają wzmocnionej ochronie, co stawia przed placówkami medycznymi podwyższone wymagania.

Placówka medyczna jest uważana za „administratora” tych danych i ponosi pełną odpowiedzialność za ich bezpieczeństwo. Przetwarzanie jest możliwe tylko na ściśle określonych warunkach, na przykład w celach leczniczych, za wyraźną zgodą pacjenta lub ze względu na ważny interes publiczny w dziedzinie zdrowia.

W przypadku naruszenia bezpieczeństwa, na przykład wycieku danych, szpital musi bez zbędnej zwłoki zgłosić naruszenie czeskiemu Urzędowi Ochrony Danych Osobowych (ÚOOÚ) oraz zawiadomić pacjentów, których ono dotyczy. Jest to kluczowe dla minimalizacji skutków i wypełnienia obowiązków prawnych.

Naruszenie RODO może prowadzić do kar w wysokości do 20 milionów euro lub 4 % całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Sankcje te podkreślają wagę nieprzestrzegania zasad ochrony danych osobowych.

Następnie pojawia się NIS2 i wymaga technicznej ochrony tych danych. Oznacza to wdrożenie odpowiedniego szyfrowania, uprawnień dostępu, logowania i zarządzania incydentami (incident management). NIS2 uzupełnia RODO w technicznych aspektach zabezpieczeń.

Następnie AI Act dodaje, że jeśli dane te są wykorzystywane do trenowania algorytmu AI, szpital musi zapewnić, aby algorytm nie był stronniczy, był przejrzysty i pozostawał pod kontrolą człowieka. AI Act rozszerza tym samym ochronę danych także na sferę sztucznej inteligencji.

W efekcie szpital musi patrzeć na dane jednocześnie jako na dane, które musi chronić zgodnie z RODO, technicznie zabezpieczyć zgodnie z NIS2, a także bezpiecznie zanonimizować na potrzeby trenowania AI bez naruszania praw pacjentów zgodnie z AI Act i RODO.

Anonimizacja a ponowna identyfikacja: problem w praktyce

Jednym z krytycznych punktów jest anonimizacja danych na potrzeby trenowania AI. Teoretycznie powinno być możliwe wzięcie danych medycznych, usunięcie danych identyfikujących pacjenta (imię i nazwisko, numer identyfikacyjny, adres), a następnie bezpieczne wykorzystanie ich do trenowania algorytmu bez naruszenia RODO.

W praktyce jest to jednak znacznie bardziej skomplikowane. Europejska Rada Ochrony Danych (EROD) wydała w grudniu 2024 opinię nr 28/2024, w której stwierdza, że w przypadku wielu danych medycznych ponowna identyfikacja jest możliwa, nawet jeśli dane są uważane za „anonimowe”.

Jeżeli masz dane pacjenta z rzadką chorobą, możesz go zidentyfikować wyłącznie na podstawie kombinacji wieku, płci, kodu powiatu i diagnozy. Pokazuje to, jak łatwo może dojść do ponownej identyfikacji nawet w przypadku pozornie anonimowych danych.

Oznacza to, że szpital, który uważa, że bezpiecznie trenuje AI na „anonimowych” danych, może się później dowiedzieć, że dane w rzeczywistości nie są anonimowe i że naruszył RODO. Takie sytuacje stanowią znaczące ryzyko prawne i wizerunkowe.

Powiązane pytania dotyczące ochrony danych medycznych w projektach AI:

1. Czy mogę wykorzystać te same dane medyczne zarówno w praktyce klinicznej, jak i do trenowania AI?
   Tak, ale w obu przypadkach potrzebujesz podstawy prawnej. W przypadku praktyki klinicznej jest to cel leczniczy; w przypadku trenowania AI może to być albo wyraźna zgoda, albo prawnie uzasadniony interes (jeśli spełnisz wszystkie warunki RODO i AI Act). Jeżeli pacjent nie zgodził się na wykorzystanie swoich danych do trenowania AI, nie możesz ich użyć bez nowej zgody.
2. Jeśli zanonimizuję dane, czy mogę je potem wykorzystywać w dowolnym momencie?
   Nie. Anonimizacja musi być przeprowadzona prawidłowo i musi być weryfikowalna. To, że usunąłeś imię i nazwisko, nie oznacza, że dane są rzeczywiście anonimowe. Musisz mieć pewność, że ponowna identyfikacja nie jest możliwa. Wymaga to analizy technicznej i dokumentacji. Bez tego ryzykujesz naruszenie RODO.
3. Co, jeśli zewnętrzny dostawca AI trenuje AI na moich danych?
   Wówczas zewnętrzny dostawca jest „podmiotem przetwarzającym”, a Ty jesteś „administratorem”. Musisz zawrzeć z podmiotem przetwarzającym pisemną umowę powierzenia przetwarzania danych osobowych, która zapewni, że przestrzega on RODO. Jednocześnie odpowiadasz za bezpieczeństwo danych. Jeżeli dojdzie do wycieku, odpowiadasz Ty, nawet jeśli dane fizycznie znajdowały się u zewnętrznego dostawcy.

Kolizja regulacji w praktyce: studium przypadku

Sytuacja:

Wyobraźmy sobie konkretną sytuację, którą zajmowali się prawnicy kancelarii: szpital kliniczny chce wdrożyć system AI do wykrywania nowotworów na podstawie zdjęć mammograficznych. System będzie trenowany na danych 50 000 pacjentek szpitala z ostatnich 10 lat.

System ten zostanie wdrożony jako narzędzie wspomagające dla radiologów i zintegrowany z istniejącym systemem zarządzania obrazami medycznymi. System będzie wynajmowany od zewnętrznego dostawcy, konkretnie od startupu AI.

Jakie regulacje dotyczą tego projektu?

1. RODO:

Dane medyczne (zdjęcia, diagnozy, wiek, płeć) zostaną wykorzystane do trenowania. Jest to przetwarzanie danych osobowych, które wymaga podstawy prawnej. Szpital musi dysponować zgodą pacjentek lub prawnie uzasadnionym interesem.

Jednocześnie musi zapewnić ochronę danych, co obejmuje szyfrowanie, uprawnienia dostępu i zarządzanie incydentami. Jakiekolwiek naruszenie może mieć tu poważne konsekwencje dla prywatności pacjentek i dla szpitala.

2. NIS2:

Dane będą przechowywane w chmurze u zewnętrznego dostawcy, a dostęp do nich będzie miało wiele osób w szpitalu. Należy zatem wdrożyć IAM, logowanie i zarządzanie incydentami. W razie wycieku danych incydent trzeba zgłosić właściwym organom.

3. AI Act:

System jest systemem wysokiego ryzyka, ponieważ chodzi o zastosowanie medyczne. Musi przejść ocenę ryzyka (risk assessment), testy pod kątem stronniczości (bias) i mieć zapewniony nadzór człowieka (human oversight). Niezbędna jest ponadto kompletna dokumentacja techniczna.

Pacjentki muszą zostać poinformowane, że stosuje się wobec nich AI. System musi być także regularnie monitorowany, aby wykryć, czy algorytm nie zaczyna być mniej dokładny w określonych grupach pacjentek, co mogłoby prowadzić do dyskryminacji.

4. MDR:

Jeżeli system jest częścią regulowanego wyrobu medycznego, musi być również zgodny z rozporządzeniem w sprawie wyrobów medycznych (MDR). Obejmuje to ocenę kliniczną, nadzór po wprowadzeniu do obrotu oraz zgłaszanie incydentów.

5. Czeskie przepisy prawne:

Oprócz rozporządzeń europejskich zastosowanie mają także czeskie przepisy prawne. Chodzi o czeską ustawę o usługach zdrowotnych i warunkach ich świadczenia, rozporządzenia wykonawcze oraz wewnętrzne regulacje szpitala dotyczące ochrony danych i bezpieczeństwa informacji. Wszystkie muszą być ze sobą spójne.

Co powinien zrobić szpital?

Szpital powinien najpierw zlecić prawnikom kancelarii przygotowanie oceny skutków dla praw podstawowych (Fundamental Rights Impact Assessment) oraz oceny skutków dla ochrony danych osobowych (Data Protection Impact Assessment). Analizy te są kluczowe dla identyfikacji ryzyk.

Niezbędne jest ponadto przygotowanie i zatwierdzenie polityki AI szpitala, która jasno określi, w jaki sposób sztuczna inteligencja będzie wykorzystywana w danej placówce medycznej. Polityka ta zapewni jednolite i bezpieczne podejście do technologii AI.

Kluczowe jest również podpisanie z dostawcą AI umowy, która będzie zawierać jasne określenie odpowiedzialności, bezpieczeństwa danych i poufności. Należy zapewnić, aby dane medyczne były właściwie chronione.

Obejmuje to szyfrowanie danych w transmisji i w spoczynku, ustawienie odpowiednich uprawnień dostępu oraz tworzenie kopii zapasowych. Niezbędne jest także wdrożenie nadzoru człowieka (human oversight), w ramach którego radiolodzy przejdą szkolenie dotyczące działania systemu, jego ograniczeń i postępowania w razie awarii.

Szpital musi testować system pod kątem stronniczości (bias) i obserwować, jak działa w różnych grupach wiekowych, przy różnym kolorze skóry czy BMI. Ważne jest wdrożenie monitorowania po wprowadzeniu do obrotu (post-market monitoring).

Monitorowanie po wprowadzeniu do obrotu oznacza bieżące sprawdzanie, czy algorytm nadal działa prawidłowo. Częścią tego jest również informowanie pacjentek, albo ogólnie w poczekalni, albo indywidualnie w procesie diagnostyki. Musi zostać przygotowany plan reagowania na incydenty (incident response plan).

Taki projekt jest skomplikowany i bez pomocy prawnej oraz technicznej szpital może nie osiągnąć właściwego rezultatu.

Prawnicy kancelarii ARROWS pomagają szpitalom w takich projektach – od wczesnego planowania, przez kontrolę zgodności, aż po wdrożenie i monitorowanie po wprowadzeniu do obrotu.

Sankcje za naruszenia: realne liczby i skutki

Naruszenia dyrektywy NIS2, AI Act lub RODO nie są zwykłymi wykroczeniami administracyjnymi. Są to poważne naruszenia o realnych skutkach finansowych i operacyjnych, które mogą zagrozić samemu funkcjonowaniu placówki medycznej.

Sankcje za naruszenie NIS2 (Cybersecurity Act) mogą sięgać do 250 milionów CZK lub 2 % całkowitego rocznego światowego obrotu organizacji w reżimie wyższych obowiązków, względnie do 175 milionów CZK lub 1,4 % w reżimie niższych obowiązków, w zależności od tego, która kwota jest wyższa. Wysokość tych kar stanowi znaczne ryzyko finansowe.

Oprócz kar grozi również osobista odpowiedzialność członków organów statutowych. Oznacza to, że ukarane mogą zostać nie tylko same organizacje, ale także poszczególne osoby odpowiedzialne za bezpieczeństwo, co zwiększa presję na przestrzeganie przepisów.

Sankcje za naruszenie AI Act (rozporządzenie (UE) 2024/1689) różnią się w zależności od wagi naruszenia. Za naruszenie zakazanych praktyk (art. 5) grożą kary do 35 milionów euro lub 7 % całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa.

Za naruszenie pozostałych obowiązków, takich jak te dotyczące systemów zarządzania ryzykiem, jakości danych, dokumentacji technicznej, nadzoru człowieka, dokładności, solidności i cyberbezpieczeństwa (art. 10–50), mogą zostać nałożone kary do 15 milionów euro lub 3 % całkowitego rocznego światowego obrotu.

Nieprzekazanie prawidłowych informacji zgodnie z AI Act może prowadzić do kar do 7,5 miliona euro lub 1 % całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Sankcje te odzwierciedlają znaczenie przejrzystości i należytego informowania.

Za naruszenie RODO, na przykład podstawowych zasad ochrony danych lub uzyskanie niewystarczającej zgody, grożą kary do 20 milionów euro lub 4 % całkowitego rocznego światowego obrotu. Sankcje te należą do najwyższych w regulacjach UE.

Dla szpitala o rocznym obrocie 100 milionów CZK (ok. 4,1 mln EUR) oznacza to kary rzędu dziesiątek milionów koron czeskich za poszczególne naruszenia. Jeżeli naruszane są jednocześnie trzy regulacje, co nie jest rzadkością, kary mogą się sumować, co mogłoby zagrozić samemu istnieniu szpitala.

Skutki finansowe to jednak tylko jedna strona medalu. Gorsze mogą być dalsze konsekwencje, takie jak przerwanie świadczenia usług, utrata zaufania, spory sądowe i blokada transakcji, które mogą mieć długotrwały negatywny wpływ na szpital.

Przerwanie świadczenia usług: jeżeli dojdzie do incydentu cybernetycznego w wyniku słabych zabezpieczeń (brak zgodności z NIS2), systemy operacyjne mogą przestać działać, a szpital nie będzie mógł leczyć pacjentów. Sale operacyjne pozostaną bez systemów, magazyny farmaceutyczne będą niedostępne.

Utrata zaufania: gdy tylko wyjdzie na jaw, że szpital miał słabe zabezpieczenia lub korzystał z systemu AI bez przejrzystości, pacjenci i lekarze tracą zaufanie. Ma to długotrwały wpływ na reputację.

Spory sądowe: pacjenci, których dotyczyło naruszenie RODO lub AI Act, mogą pozwać o odszkodowanie. Jeżeli pacjent został zdiagnozowany przez system AI z zaobserwowaną stronniczością i ma gorsze wyniki leczenia, może dochodzić odszkodowania na drodze sądowej.

Blokada transakcji: jeżeli szpital jest częścią większej organizacji lub podlega kontroli inwestorów, naruszenia compliance w obszarach takich jak RODO, NIS2 i AI Act mogą blokować fuzje, przejęcia lub finansowanie.

Praktyczne kroki do compliance: co szpital powinien zrobić od razu

Audyt stanu compliance

Pierwszą rzeczą, którą szpital musi zrobić, jest ustalenie, gdzie się znajduje. Powinien zlecić audyt compliance, który oceni kluczowe obszary. Obejmuje to identyfikację wszystkich stosowanych systemów AI i ich poziomu ryzyka według AI Act.

Audyt powinien ponadto zweryfikować, czy dla tych systemów prowadzona jest odpowiednia dokumentacja, taka jak oceny ryzyka i dokumentacja techniczna, oraz czy zapewniona jest zgoda pacjentów. Ważna jest także ochrona danych medycznych zgodnie z RODO.

Należy ocenić poziom cyberbezpieczeństwa, w tym zarządzanie tożsamością i dostępem (IAM), logowanie i zarządzanie incydentami. Audyt sprawdzi również, czy systemy AI są testowane pod kątem stronniczości (bias).

Kluczowe jest ponadto sprawdzenie, czy lekarze przeszli szkolenie, aby wiedzieli, jak prawidłowo korzystać z systemów AI. Bez gruntownego audytu szpital działa po omacku i nie wie, gdzie kryją się rzeczywiste ryzyka ani jak skutecznie im przeciwdziałać.

Governance i polityka

Szpital powinien przyjąć pisemną politykę AI, ponieważ niespisane zasady wewnętrzne i zwyczaje nie wystarczą. Polityka ta powinna jasno określać, co AI oznacza w kontekście szpitala i które systemy są dla niego systemami wysokiego ryzyka.

Polityka AI musi określać, jak nowe systemy AI są zatwierdzane przed wdrożeniem, w tym wskazanie odpowiedzialnej komisji lub wymóg zatwierdzenia przez dyrektora. Musi być również jasno określone, kto odpowiada za compliance, na przykład AI officer, dział prawny lub IT.

Polityka powinna ponadto określać, jak postępuje się w przypadku incydentów związanych z AI, na przykład błędnej diagnozy lub wycieku danych. Ważne jest także określenie, w jaki sposób komunikuje się z pacjentami na temat wykorzystania AI.

Wreszcie polityka musi opisywać, jak systemy AI są monitorowane po wdrożeniu. Bez takiej polityki decyzje są chaotyczne, a ryzyka nie są właściwie zarządzane, co może mieć poważne konsekwencje dla funkcjonowania szpitala.

Szkolenia i świadomość

Lekarze i personel medyczny pracujący z systemami AI muszą dokładnie wiedzieć, co robią. Nie powinni ślepo ufać wynikom systemu AI, lecz rozumieć jego działanie i ograniczenia. Jest to podstawa bezpiecznego korzystania z AI.

Muszą ponadto wiedzieć, w jakich sytuacjach algorytm nie jest wiarygodny, na przykład w przypadku pacjentów w określonym wieku. Niezbędne jest, aby wiedzieli, że mogą nadpisać lub zignorować wynik AI, oraz jak zgłaszać sytuacje, w których uważają, że algorytm nie działa prawidłowo.

Wymaga to szkoleń, które nie są jednorazowe, lecz odbywają się na bieżąco. W przypadku aktualizacji algorytmu personel musi ponownie przejść szkolenie, aby zawsze był w pełni poinformowany o nowych funkcjach i potencjalnych ryzykach.

Zarządzanie danymi i ich bezpieczeństwo (Data Governance)

Dane medyczne w projektach AI muszą być chronione zgodnie z RODO i NIS2. Kluczowe jest szyfrowanie danych w transmisji i w spoczynku oraz wprowadzenie uprawnień dostępu, dzięki którym dostęp do informacji wrażliwych mają tylko ci, którzy go potrzebują.

Niezbędne jest także logowanie, które rejestruje, kto uzyskał dostęp do danych, kiedy i co z nimi zrobił. Ważne jest ponadto skuteczne zarządzanie incydentami na wypadek wycieku danych oraz polityka przechowywania danych (Retention policy) określająca okres ich przechowywania.

Jednocześnie dane muszą mieć odpowiednią jakość na potrzeby trenowania AI. Muszą być reprezentatywne dla populacji docelowej, a nie tylko dla mężczyzn czy pacjentów z zamożniejszych środowisk. Konieczne jest testowanie ich pod kątem stronniczości (bias).

Testy pozwalają ustalić, jak AI działa w różnych grupach pacjentów. Dane muszą być również należycie udokumentowane, w tym informacje o pochodzeniu, oczyszczaniu i przyjętych założeniach. Przejrzystość w tym obszarze jest kluczowa.

Monitoring i audyt po wdrożeniu

Gdy system AI zostanie wdrożony, praca dopiero się zaczyna. Szpital musi na bieżąco monitorować wydajność algorytmu i sprawdzać, czy z czasem zachowuje on tę samą dokładność. Ważne jest wyszukiwanie nowych zniekształceń.

Należy ponadto ustalić, czy algorytm zachowuje się tak samo we wszystkich grupach pacjentów. Ważna jest również informacja zwrotna od lekarzy oraz przeprowadzanie audytów, które zweryfikują, jak system jest faktycznie używany. W przypadku problemów należy je rozwiązywać poprzez aktualizacje.

Bez monitorowania po wprowadzeniu do obrotu (post-market monitoring) szpital nie wie, czy algorytm nadal służy mu prawidłowo i bezpiecznie. Regularny monitoring jest zatem niezbędny do utrzymania zgodności z wymogami regulacyjnymi i zapewnienia jakości opieki.

Dokumentacja i ścieżka audytu

Dla wszystkich powyższych kroków musi być dostępna kompletna dokumentacja. Jeżeli dojdzie do kontroli lub rozprawy sądowej, szpital musi być w stanie wykazać swoje decyzje i podjęte środki. Dokumentacja służy jako dowód zgodności.

Szpital musi być w stanie pokazać, jaka decyzja została podjęta i dlaczego, jakie ryzyka oceniono i jakie środki przyjęto. Ważne jest również odnotowanie, kto i kiedy podejmował decyzje oraz jakie audyty przeprowadzono i jakie były ich wyniki.

Bez odpowiedniej dokumentacji szpital nie jest w stanie wykazać, że działał zgodnie z przepisami. Dysponując gruntowną dokumentacją, ma natomiast szansę się obronić i wykazać swoją compliance, co w dzisiejszym otoczeniu regulacyjnym jest kluczowe.

Prawnicy kancelarii ARROWS współpracują ze szpitalami przy wszystkich tych krokach. Pomagają przy audycie, przygotowaniu polityk, szkoleniu kadry zarządzającej, przygotowaniu umów z dostawcami AI, monitorowaniu compliance oraz reprezentacji podczas kontroli organów regulacyjnych.

Najczęstsze błędy i jak ich unikać

Błąd 1: ignorowanie AI Act w przekonaniu, że nie dotyczy on „sztucznej inteligencji”

Wiele szpitali błędnie uważa, że AI Act dotyczy wyłącznie robotyki lub chatbotów. W rzeczywistości AI Act ma zastosowanie do każdego algorytmu, który jest wykorzystywany do wspomagania lub podejmowania decyzji w określonym kontekście.

Takie algorytmy mają potencjalny wpływ na prawa podstawowe. Szpitale typowo ignorują AI Act w przypadku algorytmów do diagnostyki obrazowej, systemów wspomagania decyzji klinicznych lub starszych systemów do przewidywania śmiertelności.

Systemy te są według AI Act systemami wysokiego ryzyka, nawet jeśli szpital uważa je jedynie za „oprogramowanie” lub „zwykłe narzędzie pomocnicze”. W rezultacie szpital faktycznie narusza przepisy, nie zdając sobie z tego sprawy, co prowadzi do nieoczekiwanych kontroli.

Potem przychodzi kontrola inspektora i okazuje się, że system nie ma zarządzania ryzykiem, nie jest udokumentowany, a pacjenci nie są informowani. Ma to poważne konsekwencje dla funkcjonowania i reputacji placówki medycznej.

Jak tego uniknąć: zleć gruntowny audyt, który zidentyfikuje, które systemy są systemami wysokiego ryzyka według AI Act. Dopiero na podstawie tych ustaleń można skutecznie zaplanować strategię compliance i zminimalizować ryzyka.

Błąd 2: przekonanie, że anonimizacja rozwiązuje problem z RODO

Wiele szpitali myśli: „Przekażemy dane treningowe bez imion i adresów – po prostu je zanonimizujemy – i potem możemy bez problemu wykorzystać je do trenowania AI”. Takie przekonanie jest jednak w praktyce często błędne.

W rzeczywistości anonimizacja jest bardzo trudna, zwłaszcza w przypadku danych medycznych. Jak już wspomniano, Europejska Rada Ochrony Danych (EROD) w opinii 28/2024 stwierdza, że w wielu przypadkach dane można ponownie zidentyfikować. To komplikuje sytuację.

Bezpieczna anonimizacja danych medycznych wymaga specjalistycznych kompetencji technicznych i naukowej rzetelności. Bez tego szpital ryzykuje, że będzie przekonany o swojej zgodności z RODO, choć w rzeczywistości jej nie zapewnia, co może prowadzić do sankcji.

Jak tego uniknąć: zleć audyt ekspertom w zakresie privacy engineering i RODO, którzy ocenią, czy Twoje środki anonimizacyjne są rzeczywiście skuteczne. Jeżeli nie masz pewności, lepiej uzyskaj wyraźną zgodę pacjentów, co jest rozwiązaniem bezpieczniejszym i solidniejszym.

Błąd 3: niewdrożenie nadzoru człowieka (Human Oversight)

Zgodnie z AI Act system AI wysokiego ryzyka musi podlegać nadzorowi człowieka. Lekarze muszą być w stanie zrozumieć, jak działa AI, i mogą go wyłączyć, jeśli widzą, że nie działa prawidłowo. Wiele szpitali jednak to ignoruje.

Niektóre szpitale uważają, że nadzór człowieka jest zbędny albo że lekarze będą monitorować systemy automatycznie. Często brakuje im też czasu lub zasobów na niezbędne szkolenia, co prowadzi do niewystarczającego wdrożenia tego kluczowego obowiązku.

W rzeczywistości bez nadzoru człowieka nie można wykazać zgodności z AI Act. A jeśli wydarzy się coś złego, na przykład błędna diagnoza prowadząca do szkody pacjenta, szpital nie może bronić się przed sądem argumentem, że „system zrobił to sam”.

Jak tego uniknąć: wdrażaj nadzór człowieka jako obowiązkowy i integralny element każdego projektu AI. Obejmuje to systematyczne szkolenia, jasne procedury monitorowania i interwencji oraz regularne audyty, a nie jedynie dodatkowy środek.

Błąd 4: niedocenianie wymogów NIS2

Cybersecurity Act jest nowy i wiele szpitali jeszcze się z nim dokładnie nie zapoznało. Wiele z nich zakłada, że dotychczasowe systemy bezpieczeństwa IT wystarczą, co jest zasadniczym błędem o potencjalnie poważnych konsekwencjach.

W rzeczywistości NIS2 wymaga nowego podejścia, takiego jak zarządzanie tożsamością i dostępem (IAM) z zasadą „najmniejszych uprawnień”. Konieczne jest ponadto scentralizowane logowanie, skuteczne zarządzanie incydentami oraz kompleksowe środki techniczne i organizacyjne.

Dla średniego i dużego szpitala nie jest to kwestia samej aktualizacji firewalla. Chodzi o kompletną reorganizację infrastruktury IT i procesów, która wymaga znaczących inwestycji i nakładu czasu.

Środki bezpieczeństwa dostawca usługi regulowanej musi wdrożyć najpóźniej w ciągu 1 roku od doręczenia decyzji o rejestracji (§ 13 ust. 4 Cybersecurity Act); w przeciwnym razie grożą mu wysokie kary. Dlatego szybka reakcja ma absolutnie kluczowe znaczenie.

Jak tego uniknąć: niezwłocznie zleć audyt zgodności z NIS2, aby uzyskać obraz aktualnego stanu. Następnie przygotuj szczegółowy 12–18-miesięczny plan wdrożenia. Krytyczne jest, aby nie czekać do ostatniej chwili, ponieważ proces jest czasochłonny.

Błąd 5: słaba umowa z dostawcą AI

Szpitale często wynajmują system AI od zewnętrznego dostawcy. Umowa jest jednak często zbyt krótka i zawiera jedynie podstawowe informacje, takie jak cena, okres obowiązywania i termin wypowiedzenia, a nic więcej o odpowiedzialności.

W rzeczywistości, gdy coś zawiedzie, szpital zakłada, że pozwie dostawcę. Jeżeli jednak umowa nie obejmuje odpowiedzialności za dane, bezpieczeństwo, dokładność algorytmu czy zarządzanie incydentami, szpital w ewentualnym sporze sądowym ponosi cały ciężar sam.

Prawidłowa umowa musi zawierać kluczowe klauzule. Chodzi o odpowiedzialność za dane, w tym ich szyfrowanie i usuwanie, oraz o dokładność i wydajność (Accuracy and performance), które określają minimalny poziom funkcjonalności systemu AI.

Niezbędne są ponadto reagowanie na incydenty (Incident response) i prawo do audytu, które umożliwią szpitalowi kontrolę bezpieczeństwa i compliance. Umowa musi określać okresy gwarancyjne i prawa własności intelektualnej (IP rights), aby było jasne, kto jest właścicielem czego.

Jak tego uniknąć: zleć przygotowanie lub weryfikację umowy z dostawcą AI prawnikom kancelarii ARROWS. Eksperci ci rozumieją zarówno specyfikę sztucznej inteligencji, jak i prawo medyczne, i zapewnią kompleksową ochronę Twoich interesów.

Tabela ryzyk: problemy praktyczne i rozwiązania

Instytucje publiczne: specyfika compliance w publicznej ochronie zdrowia

Rejestracja systemów AI

Jeżeli szpital jest instytucją publiczną i eksploatuje system AI wysokiego ryzyka, musi go zarejestrować w ogólnoeuropejskiej bazie danych systemów AI zgodnie z AI Act. Baza ta ma stać się publicznie dostępna, przynajmniej częściowo.

Baza danych będzie służyć jako przegląd systemów AI stosowanych w Europie. Rejestracja nie jest dobrowolna, lecz stanowi obowiązek w przypadku niektórych systemów wysokiego ryzyka. Jeżeli szpital go nie wypełni, narusza AI Act.

Ocena skutków dla praw podstawowych (Fundamental Rights Impact Assessment)

Publiczne instytucje medyczne mają szczególny obowiązek – przed wdrożeniem systemu AI wysokiego ryzyka muszą przeprowadzić ocenę skutków dla praw podstawowych (Fundamental Rights Impact Assessment). Analiza ta jest kluczowa dla ochrony praw pacjentów.

Oznacza to, że szpital musi formalnie przeanalizować, jakie grupy pacjentów mogłyby zostać niekorzystnie dotknięte przez system AI. Konieczna jest ponadto ocena ryzyk dla praw podstawowych, takich jak prawo do ochrony zdrowia, niedyskryminacja i prywatność.

Należy również określić środki przyjmowane w celu zminimalizowania tych ryzyk. Ocenę tę trzeba przekazać organowi nadzoru, co zapewnia przejrzystość i rozliczalność.

Governance i odpowiedzialność

Instytucje publiczne mają jasno określone łańcuchy odpowiedzialności, obejmujące dyrektora, radę i kierownictwo. Zarządzanie AI (AI governance) musi zatem stanowić integralną część struktury zarządczej instytucji. Jest to kluczowe dla skutecznego nadzoru.

Powiązane pytania: compliance publicznych instytucji medycznych:

1. Kto ponosi odpowiedzialność, jeśli system AI zawiedzie, a pacjent dozna szkody?
   Odpowiedzialność nie skupia się na jednej osobie. Jest to kombinacja – dostawca AI (sprzedał system bez wystarczających zabezpieczeń?), szpital jako podmiot stosujący (nie zapewnił nadzoru człowieka?), lekarz (zignorował sygnał ostrzegawczy z AI?). Sąd w sporze zbada rolę każdego z nich. Dlatego dokumentacja jest tak ważna – aby było jasne, kto co robił.
2. Czym różni się zarządzanie AI (AI governance) w szpitalu prywatnym i publicznym?
   Szpitale publiczne mają więcej biurokracji i mechanizmów kontrolnych, ale także większą odpowiedzialność wobec społeczeństwa. Muszą być przejrzyste i rozliczalne (accountable), co oznacza więcej dokumentacji i audytów. Szpitale prywatne mogą działać sprawniej, ale w większym stopniu same odpowiadają za ryzyka.
3. Czy od AI Act można zastosować wyjątek ze względu na „interes publiczny w dziedzinie zdrowia”?
   AI Act przewiduje pewne wyjątki dla celów medycznych, ale nie są to „prawa” do naruszania przepisów. Wyjątki dotyczą raczej interpretacji tego, co jest systemem wysokiego ryzyka, lub warunków przetwarzania danych. Obie regulacje opierają się na tym, że zdrowie jest interesem publicznym, dlatego ochrona jest tu większa, a nie mniejsza.

Podsumowanie

Instytucje medyczne w Republice Czeskiej stoją w obliczu bezprecedensowo złożonej sytuacji regulacyjnej, na którą składają się co najmniej trzy wzajemnie powiązane regulacje – NIS2, AI Act i RODO. Do tego dochodzą punkty styku z prawem krajowym i normami sektorowymi (MDR).

Ta złożona sytuacja wymaga proaktywnego podejścia i głębokiego zrozumienia wszystkich wymogów regulacyjnych, aby zminimalizować ryzyka i zapewnić płynne i bezpieczne udzielanie świadczeń zdrowotnych zgodnie z prawem.

Dyrektywa NIS2 i Cybersecurity Act, który wszedł w życie 1 listopada 2025, wymagają, aby instytucje medyczne wdrożyły rygorystyczne cyberbezpieczeństwo. Obejmuje to zarządzanie tożsamością i dostępem (IAM) z zasadą „najmniejszych uprawnień”.

Konieczne jest ponadto wprowadzenie scentralizowanego logowania, skutecznego zarządzania incydentami i regularnych audytów. Za naruszenia grożą kary do 250 milionów CZK i dalsze konsekwencje prawne, co podkreśla wagę przestrzegania tych przepisów.

Rozporządzenie UE w sprawie sztucznej inteligencji (AI Act), które weszło w życie 1 sierpnia 2024 i którego przepisy dotyczące systemów wysokiego ryzyka będą stosowane od 2 grudnia 2027 (załącznik III), względnie od 2 sierpnia 2028 (załącznik I), wprowadza kompleksową regulację sztucznej inteligencji.

Systemy AI wysokiego ryzyka w medycynie, takie jak systemy do diagnostyki, wspomagania decyzji klinicznych czy triażu, muszą podlegać zarządzaniu ryzykiem, testom pod kątem stronniczości, dokumentacji oraz mieć zapewniony nadzór człowieka. Za naruszenia grożą kary do 35 milionów euro.

RODO i dane medyczne jako szczególna kategoria danych osobowych wymagają wzmocnionej ochrony, przejrzystości i kontroli. Anonimizacja nie jest prostym rozwiązaniem. Współczesna interpretacja (opinia EROD 28/2024) wskazuje, że dane można ponownie zidentyfikować.

Możliwość ponownej identyfikacji zwiększa wymagania w zakresie ochrony danych. W praktyce oznacza to, że szpital musi zrozumieć, które z jego systemów AI są systemami wysokiego ryzyka, oraz wdrożyć zarządzanie ryzykiem i nadzór człowieka, aby zapewnić zgodność z przepisami.

W praktyce oznacza to, że szpitale muszą:

• Zrozumieć, które z ich systemów AI są systemami wysokiego ryzyka.
• Wdrożyć zarządzanie ryzykiem i nadzór człowieka.
• Zapewnić, aby dane medyczne były chronione i bezpieczne.
• Jeżeli trenują AI na danych pacjentów, zapewnić właściwe podstawy prawne i bezpieczeństwo.
• Regularnie monitorować i audytować compliance.
• Szkolić personel i prowadzić dokumentację.
• Mieć przygotowany plan reagowania na incydenty.
• Rejestrować (jeżeli są instytucjami publicznymi) systemy AI w bazie danych UE.

Bez takiej strategii i bez specjalistycznego wsparcia prawnego i technicznego szpital jest narażony na wysokie ryzyko kar, przerw w świadczeniu usług, sporów sądowych i utraty zaufania pacjentów.

Prawnicy i doradcy kancelarii ARROWS mają doświadczenie we wszystkich aspektach compliance. Orientują się w przenikających się regulacjach, pomogą szpitalowi zrozumieć konkretne obowiązki, zaprojektować strategię i jej wdrożenie.

Jeżeli dojdzie do kontroli lub incydentu, pomogą w obronie i rozwiązaniu sytuacji. Jeśli chcesz zminimalizować ryzyko i mieć pewność, że Twoja instytucja medyczna działa zgodnie z prawem, skontaktuj się z kancelarią ARROWS – konsultacja@arws.cz.

Najczęstsze pytania: cyberbezpieczeństwo i AI Act w szpitalach 

1. Co mam zrobić, jeśli nie mam czasu, by się tym wszystkim zająć, i nie mam ani specjalistów IT ds. bezpieczeństwa, ani prawników?
   Najpierw zleć audyt – zewnętrzna firma powie Ci, w jakim punkcie jesteś i co Ci grozi. Następnie zwróć się do prawników kancelarii ARROWS (konsultacja@arws.cz), którzy pomogą Ci w kwestiach prawnych i planowaniu. Bez audytu i wsparcia prawnego będziesz działać po omacku.
2. Jeśli mam system AI, który działał 5 lat bez problemów, czy muszę go dostosować do nowego AI Act?
   Do systemów wysokiego ryzyka wprowadzonych do obrotu przed datą rozpoczęcia stosowania AI Act ma zastosowanie tylko wtedy, gdy po tej dacie przejdą istotną zmianę projektu; systemy przeznaczone dla organów publicznych muszą być zgodne najpóźniej do 2 sierpnia 2030 (art. 111 ust. 2). Jeżeli system spełnia kryteria AI wysokiego ryzyka (co systemy diagnostyczne typowo robią), musi być zgodny z AI Act. Oznacza to zarządzanie ryzykiem, dokumentację, nadzór człowieka, monitoring. Prawnicy ARROWS pomogą Ci ocenić, co konkretnie należy zrobić.
3. Jak ocenić, czy nasz system AI jest systemem wysokiego ryzyka?
   Systemem wysokiego ryzyka jest system wykorzystywany do wspomagania lub podejmowania decyzji, który ma znaczący wpływ na zdrowie lub prawa podstawowe pacjentów. Typowo: diagnostyka obrazowa, wspomaganie decyzji klinicznych, triaż, prognozowanie, alokacja zasobów. Najprościej jest zlecić taką ocenę – prawnicy ARROWS mają w tym doświadczenie.
4. Czy pacjenci muszą formalnie wyrazić zgodę, jeśli AI zostanie zastosowana na ich danych?
   To zależy od sytuacji. Jeżeli AI jest wykorzystywana jako narzędzie wspomagające bezpośrednio w ich leczeniu (np. narzędzie AI do diagnostyki ich zdjęcia), muszą zostać poinformowani (AI Act). Jeżeli ich dane mają zostać wykorzystane do trenowania AI i nie chodzi o ich własne leczenie, potrzebujesz zgody (RODO) lub prawnie uzasadnionego interesu (z zastrzeżeniem warunków). Prawnicy ARROWS pomogą Ci rozróżnić te sytuacje i zaproponować sposób postępowania.
5. Jeśli wdrożymy AI bez compliance i wyjdzie to na jaw, jakiej kary możemy się spodziewać?
   To zależy od wagi naruszenia. W przypadku mniejszej administracyjnej AI bez dużego wpływu może skończyć się na upomnieniu i wezwaniu do usunięcia nieprawidłowości. W przypadku diagnostycznej AI bez nadzoru człowieka, stosowanej u tysięcy pacjentów, grożą sankcje w milionach koron czeskich lub euro, zgłoszenie incydentu, audyty, a nawet nagłośnienie w mediach. Najprościej jest zająć się compliance od początku – nie jest to drogie.
6. Ile trwa zaprojektowanie i wdrożenie compliance?
   To zależy od zakresu. Prosty audyt i raport – kilka miesięcy. Pełne wdrożenie IAM zgodnie z NIS2, polityka AI, szkolenia – 12–18 miesięcy. Prawnicy ARROWS pomogą Ci w kwestiach prawnych, część techniczną realizuje Twój dział IT lub zewnętrzne firmy IT. Nie jest to jednorazowe zadanie – compliance to proces ciągły.

Masz dodatkowe pytania? Skontaktuj się z prawnikami kancelarii ARROWS – konsultacja@arws.cz. Chętnie pomożemy Ci zrozumieć Twoją konkretną sytuację i zaproponujemy rozwiązanie.