Zgodność z AI Act i RODO

Główne wymogi AI Act i RODO

Rozporządzenie dzieli aplikacje AI na cztery kategorie:

• zakazane (niedopuszczalne zastosowania, np. techniki manipulacyjne, scoring społeczny itp.),
• wysokiego ryzyka (systemy AI o istotnym wpływie na bezpieczeństwo lub prawa osób, np. w ochronie zdrowia, transporcie, finansach, edukacji czy rekrutacji pracowników),
• ograniczonego ryzyka (np. generatywna AI typu ChatGPT – obowiązek stosowania określonych środków przejrzystości, takich jak oznaczanie treści wygenerowanych przez AI)
• minimalnego ryzyka lub braku ryzyka (zwykłe aplikacje AI, których AI Act szczególnie nie reguluje)​.

Systemy AI wysokiego ryzyka będą podlegać surowym wymogom – m.in. certyfikacji i ocenie zgodności przed wprowadzeniem do obrotu, prowadzeniu dokumentacji technicznej, zapewnieniu nadzoru człowieka nad ich decyzjami, środkom dotyczącym jakości danych i zapobiegania stronniczości (dyskryminacji) czy zabezpieczeniu systemu​.

Dostawcy tych systemów muszą również liczyć się z rejestracją w bazie danych UE, bieżącym monitorowaniem i aktualizacjami oraz ponoszą odpowiedzialność za ewentualne szkody​. Również dla AI o niższym ryzyku AI Act ustanawia jednak pewne obowiązki – np. zapewnienie, by użytkownicy wiedzieli, że komunikują się z AI (jeśli nie jest to oczywiste), oraz oznaczanie treści wygenerowanych przez AI (tzw. przejrzystość AI)​.

Ważne jest, że AI Act dotyczy nie tylko twórców i dostawców AI, ale w pewnym zakresie także firm jako użytkowników – jeśli przedsiębiorstwo korzysta z systemu AI objętego regulacją, musi przestrzegać określonych zasad jego używania.

RODO koncentruje się na ochronie danych osobowych i dotyczy wszystkich podmiotów, które przetwarzają dane osobowe obywateli UE. Dla firm oznacza to przede wszystkim obowiązek przetwarzania danych osobowych zgodnie z prawem i w sposób przejrzysty – posiadanie dla każdego przetwarzania ważnej podstawy prawnej (zgoda, umowa, prawnie uzasadniony interes itp.), informowanie osób, których dane dotyczą, o celu i sposobie przetwarzania oraz respektowanie ich praw (np. prawa dostępu do danych, usunięcia, sprzeciwu czy ograniczenia przetwarzania).

RODO wymaga także wdrożenia środków organizacyjnych i technicznych w celu zabezpieczenia danych i minimalizacji ryzyk (szyfrowanie, pseudonimizacja, ograniczenie dostępu itp.), a w przypadku naruszenia ochrony danych (data breach) nakazuje zgłoszenie incydentu organom, a często również osobom, których dotyczy.

Kluczowe dla obszaru AI jest zautomatyzowane podejmowanie decyzji i profilowanie – RODO (w art. 22) przyznaje osobom fizycznym prawo do niepodlegania decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu (w tym AI), jeżeli wywołuje ona skutki prawne lub w podobny sposób istotnie na nie wpływa.

Innymi słowy, jeśli firma wykorzystuje AI do zautomatyzowanego podejmowania decyzji wpływających na osoby fizyczne (np. scoring klientów, automatyczne odrzucanie wniosków kredytowych czy selekcja kandydatów do pracy), musi albo uzyskać wyraźną zgodę, albo zapewnić udział czynnika ludzkiego w procesie, ewentualnie umożliwić osobom, których to dotyczy, zakwestionowanie decyzji i jej weryfikację przez człowieka.

RODO i AI przenikają się w sytuacjach, gdy systemy AI przetwarzają dane osobowe – wówczas trzeba przestrzegać obu regulacji jednocześnie. Przykładowo AI Act kładzie nacisk na poszanowanie praw podstawowych i wprost wymaga zgodności systemu AI z RODO​, co oznacza, że dane wykorzystywane do trenowania AI lub podejmowania przez nią decyzji muszą być pozyskiwane i wykorzystywane w granicach przepisów o ochronie danych.

Praktyczne kroki do zapewnienia zgodności

Jak zatem konkretnie postępować, aby firma spełniła wymogi zarówno AI Act, jak i RODO? Kluczowe są proaktywność i systematyczne podejście. Poniżej przedstawiamy praktyczne kroki i środki, które średnie i duże przedsiębiorstwa powinny rozważyć, aby osiągnąć i utrzymać zgodność:

Ustalenie wewnętrznych procesów i odpowiedzialności

Pierwszym krokiem jest wprowadzenie w organizacji governance AI – jasnych zasad i procesów rozwoju lub używania systemów sztucznej inteligencji. Kierownictwo powinno określić, kto będzie odpowiedzialny za obszar AI compliance (np. rozszerzyć kompetencje dotychczasowego inspektora ochrony danych – IOD/DPO – na obszar AI lub utworzyć nową funkcję ds. etyki i zgodności AI).

Następnie warto przeprowadzić audyt wewnętrzny lub inwentaryzację wszystkich narzędzi i projektów AI, które firma wykorzystuje lub rozwija, i ocenić ich poziom ryzyka z perspektywy AI Act i RODO. Taki przegląd pozwoli skupić się na istotnych obszarach.

Należy również zaktualizować wewnętrzne regulaminy i polityki – np. dodać zasady korzystania z generatywnej AI (co pracownicy mogą, a czego nie mogą wprowadzać do narzędzi typu ChatGPT), określić proces zatwierdzania nowych rozwiązań AI i ustalić procedury zgłaszania incydentów związanych z AI.

Wreszcie należą tu regularne szkolenia pracowników – AI Act wprowadza wymóg tzw. kompetencji w zakresie AI, czyli zapewnienia, by pracownicy korzystający z AI mieli odpowiednią wiedzę o zasadach i ryzykach. Szkolenia powinny zapoznać pracowników ze skutkami AI Act i RODO, z zasadami etycznymi AI oraz nauczyć ich rozpoznawać i rozwiązywać ryzykowne sytuacje.

Identyfikacja systemów AI podlegających regulacji

Nie wszystkie narzędzia AI w firmie będą należeć do kategorii wysokiego lub ograniczonego ryzyka według AI Act. Dlatego konieczne jest podzielenie systemów AI według kategorii ryzyka.

Zadajcie sobie pytanie: Czy korzystamy z AI w obszarze, który AI Act określa jako obszar wysokiego ryzyka?

Typowe przykłady w firmach obejmują: AI w rekrutacji i HR (selekcja CV, automatyczna ocena kandydatów), ocenie pracowników, a także AI w usługach finansowych (scoring klientów, wykrywanie oszustw), w ochronie zdrowia (algorytmy diagnostyczne), w produkcji i utrzymaniu ruchu (np. AI do zarządzania infrastrukturą krytyczną) itp.

Jeśli firma rozwija własny produkt oparty na AI, jest dostawcą systemu AI – musi wtedy zająć się także ewentualną certyfikacją i zgłoszeniem zgodnie z AI Act. Natomiast zwykłe wykorzystanie AI w marketingu (np. algorytmy rekomendacyjne sklepu internetowego), analityce danych czy obsłudze klienta (chatboty) prawdopodobnie zostanie zakwalifikowane do kategorii ograniczonego lub minimalnego ryzyka.

Każde zidentyfikowane narzędzie AI warto ocenić pod kątem celu, rodzaju przetwarzanych danych oraz potencjalnych skutków. Jeśli przetwarza dane osobowe, podlega RODO; jeśli mieści się w definicjach AI Act, zanotujcie, jakie konkretne obowiązki będą go dotyczyć.

Postępowanie z aplikacjami AI wysokiego ryzyka

W przypadku systemów AI, które należą do kategorii wysokiego ryzyka według AI Act, firmy powinny wprowadzić szczególne środki.

W praktyce oznacza to opracowanie szczegółowego planu zgodności dla każdego takiego systemu. Obejmuje to przeprowadzenie oceny zgodności (conformity assessment) – czyli weryfikację, że system spełnia wszystkie techniczne i proceduralne wymogi AI Act jeszcze przed jego wdrożeniem. Wiele z tych wymogów będą musieli zapewnić przede wszystkim dostawcy/twórcy (np. sporządzić dokumentację techniczną, zapewnić testowanie i minimalizację ryzyk).

Jeśli jednak firma nabywa system AI wysokiego ryzyka od podmiotu trzeciego, nie jest zwolniona z obowiązków – jako użytkownik ma obowiązek sprawdzić, czy system posiada niezbędne certyfikaty i spełnia wymogi prawne, a sama może go używać wyłącznie zgodnie z instrukcją i ograniczeniami określonymi przez dostawcę​. Firmy powinny zawierać z dostawcami AI umowy obejmujące zobowiązania w zakresie compliance, aby było jasne, kto za co odpowiada (podobnie jak w przypadku umów powierzenia przetwarzania na gruncie RODO).

Ponadto konieczne jest ustanowienie nadzoru człowieka nad wynikami AI – w przypadku decyzji o istotnym wpływie na ludzi (np. odrzuconych kandydatów czy klientów) powinien istnieć proces kontroli przez człowieka lub możliwość odwołania. Monitorowanie i testowanie systemu AI nie powinno kończyć się na jego uruchomieniu – AI wysokiego ryzyka wymaga bieżącego monitorowania wydajności, dokładności i niepożądanych skutków.

W razie incydentu (np. AI zawiedzie i wyrządzi szkodę albo okaże się, że nie spełnia wymogów) trzeba umieć zgłosić problem organom nadzoru (podobnie jak zgłasza się naruszenia ochrony danych na gruncie RODO)​. Krótko mówiąc, systemy AI wysokiego ryzyka powinny podlegać takiemu samemu reżimowi zarządzania ryzykiem jak np. bezpieczeństwo pracy czy ryzyka finansowe – z jasno określoną odpowiedzialnością, dokumentacją i kontrolami.

Zapewnienie przejrzystości i rozliczalności systemów AI

Niezależnie od tego, czy chodzi o system AI wysokiego, czy niższego ryzyka, przejrzystość wobec użytkowników, klientów i pracowników ma kluczowe znaczenie. Firma powinna być przygotowana, by wyjaśnić, jak działa system AI, przynajmniej w ogólnym zarysie – zwłaszcza w przypadku algorytmów decyzyjnych dobrze jest mieć wewnętrznie udokumentowane, jakie dane i kryteria są brane pod uwagę przy podejmowaniu decyzji.

Dla podmiotów zewnętrznych (np. klientów) powinna być następnie dostępna, w zrozumiałej formie, informacja, że decyzja została podjęta z pomocą AI, a na żądanie także podstawowe wyjaśnienie logiki (oczywiście bez ujawniania tajemnicy przedsiębiorstwa czy chronionego know-how).

Ta przejrzystość jest wymogiem zarówno AI Act, jak i RODO – RODO nakazuje informować osoby o zautomatyzowanym podejmowaniu decyzji i przyjętych środkach, a AI Act idzie dalej, wymagając w przypadku niektórych systemów udostępnienia dokumentacji dla użytkownika i ewentualnie publikacji informacji w rejestrze systemów wysokiego ryzyka.

Dobrym krokiem jest opracowanie kodeksu etyki AI dla firmy, w którym kierownictwo zobowiąże się do odpowiedzialnego korzystania z AI (bez dyskryminacji, z poszanowaniem prywatności itd.), oraz publiczne komunikowanie tego zobowiązania – wzmocni to zaufanie klientów i pracowników.

Rozliczalność oznacza także gotowość do poniesienia konsekwencji: jeśli system AI popełni błąd, firma powinna być w stanie zareagować – zbadać incydent, zapewnić zadośćuczynienie poszkodowanym (np. rekompensatę, możliwość powtórzenia procesu decyzyjnego w inny sposób) i dostosować system lub proces, aby sytuacja się nie powtórzyła.

W praktyce zalecamy powołanie w przedsiębiorstwie komisji lub komitetu ds. AI, który będzie nadzorował wszystkie większe projekty AI, zatwierdzał je pod kątem zgodności i etyki oraz pełnił funkcję organu doradczego w sytuacjach spornych.

Uzgodnienie wymogów AI Act z RODO

Choć AI Act i RODO są odrębnymi regulacjami, w praktyce się przenikają i wzajemnie uzupełniają. Dla firm korzystne jest kompleksowe podejście do compliance – ustanowienie jednolitego procesu oceny ryzyka dla projektów AI, uwzględniającego ochronę prywatności i wpływ na prawa podstawowe.

RODO już teraz wymaga przeprowadzania oceny skutków dla ochrony danych (DPIA) w przypadku ryzykownych operacji przetwarzania; AI Act dodaje do tego dla systemów AI wysokiego ryzyka wymóg oceny skutków dla praw podstawowych.

Analizy te można połączyć – planując wdrożenie AI, która będzie przetwarzać dane osobowe, firma przeprowadza rozszerzoną analizę ryzyka, w której ocenia zarówno ryzyka dla prywatności (RODO), jak i szersze ryzyka etyczne i społeczne (AI Act). Informacje uzyskane z dotychczasowych DPIA można wykorzystać w nowej ocenie według AI Act​, co pozwala uniknąć powielania pracy i oszczędza czas.

Uzgadnianie odbywa się również na poziomie środków technicznych – np. wymóg AI Act dotyczący wysokiej jakości danych treningowych bez zniekształceń uzupełnia zasadę RODO dotyczącą minimalizacji i prawidłowości danych; obowiązek przechowywania rejestrów działania AI (logów) spotyka się z obowiązkiem RODO dokumentowania czynności przetwarzania.

W zakresie praw osób, których dane dotyczą, obowiązuje zasada, że jeśli AI przetwarza dane osobowe, firma musi być w stanie spełnić żądania tych osób zgodnie z RODO (udostępnić ich dane, sprostować je, usunąć) – już na etapie projektowania systemu AI trzeba więc myśleć o tzw. privacy by design i privacy by default.

Praktyczną wskazówką jest stworzenie macierzy zgodności: w jednej kolumnie wymogi RODO, w drugiej AI Act, oraz zaznaczenie, jak dany obszar jest uregulowany wewnętrznie. Na przykład: „Informowanie osób – realizowane w ramach RODO poprzez klauzulę informacyjną, jednocześnie spełnia wymóg przejrzystości według AI Act” itp. Taka macierz pomoże wykryć ewentualne luki i podwójne wykonywanie obowiązków.

Nie zapominajmy też, że RODO oraz czeska ustawa o przetwarzaniu danych osobowych (ustawa nr 110/2019 Sb.) mają zastosowanie do systemów AI bez wyjątku. Ujednolicenie procesów tak, aby spełniały obie regulacje jednocześnie, jest najskuteczniejszą drogą do rzeczywistej compliance.

Przykłady z praktyki – typowe błędy i jak ich unikać

Doświadczenia z praktyki pokazują, że firmy przy wdrażaniu AI często pomijają niektóre obowiązki.

Oto cztery częste błędy, których warto unikać:

Błąd 1: Udostępnianie wrażliwych danych publicznym narzędziom AI.

Zdarza się, że pracownicy zachwyceni AI bez wahania wprowadzają dane firmowe lub osobowe do ogólnodostępnych usług (np. korzystają z ChatGPT do wygenerowania raportu na podstawie rzeczywistych danych klientów). W ten sposób mogą jednak nieumyślnie naruszyć RODO (jeśli przekazują dane podmiotowi trzeciemu bez odpowiednich gwarancji) i narazić firmę na ryzyko wycieku know-how.

Jak tego uniknąć? 

Ustalcie jasne zasady korzystania z AI dla pracowników. Wyjaśnijcie, jakich treści nie wolno wprowadzać do zewnętrznych systemów AI (np. danych osobowych klientów, wewnętrznych dokumentów strategicznych) i dlaczego. Rozważcie także środki techniczne, które uniemożliwią wysyłanie wrażliwych danych do internetu (filtry, ograniczenia dostępu). Uświadamiajcie pracownikom, że dane wprowadzone do AI mogą być przechowywane przez operatora i mogą już nigdy nie wrócić pod pełną kontrolę firmy.

Błąd 2: Zautomatyzowane decyzje bez możliwości interwencji człowieka.

Niektóre firmy kusi wizja w pełni zautomatyzowanego podejmowania decyzji (np. system z AI sam ocenia wniosek kredytowy lub CV kandydata). Jeśli jednak brakuje możliwości weryfikacji przez człowieka, grozi naruszenie art. 22 RODO oraz ryzyko niesprawiedliwych lub niezweryfikowanych wyników AI.

Rozwiązanie? 

W każdym procesie decyzyjnym opartym na AI wprowadźcie zasadę „human in the loop” – ustalcie procedurę, w której sporne lub negatywne decyzje AI zawsze zatwierdza człowiek, albo przynajmniej klient/kandydat może zakwestionować decyzję i wnioskować o jej ręczną weryfikację. W ten sposób nie tylko spełnicie wymogi prawne, ale również podniesiecie jakość wyników (AI może się mylić lub być stronnicza). Jednocześnie regularnie testujcie algorytm pod kątem stronniczości – np. czy nie dyskryminuje określonej grupy – i dokumentujcie wyniki testów.

Błąd 3: Poleganie na dostawcy bez własnej kontroli.

Firma kupuje na przykład oprogramowanie AI od znanego producenta i zakłada, że ma tym samym „zapewnioną” compliance. Jednak również przy korzystaniu z zewnętrznej AI obowiązuje zasada odpowiedzialności użytkownika. Jeśli narzędzie AI wyrządzi szkodę klientom lub pracownikom, ucierpi reputacja firmy, niezależnie od tego, że technologia pochodziła z zewnątrz.

Zalecenie? 

Przed wdrożeniem AI od dostawcy poproście o informacje o jego zgodności – czy dany system posiada certyfikację lub deklarację zgodności z AI Act? Czy przeprowadzono ocenę skutków dla prywatności? Jakie gwarancje daje umowa w zakresie odpowiedzialności za błędy? Najlepiej przeprowadzić własny audyt dostarczonego rozwiązania w trybie testowym – sprawdzić, jak przetwarza dane, jakie ma zabezpieczenia i czy realizuje obiecane funkcje. W umowie z dostawcą zamieśćcie postanowienia o odpowiedzialności i odszkodowaniu na wypadek, gdyby jego AI spowodowała naruszenie prawa lub szkodę osobom trzecim.

Błąd 4: Niedocenianie dokumentacji i zgody osób, których dane dotyczą.

Przy wdrażaniu AI przetwarzającej dane osobowe firmy często zapominają zaktualizować swoją politykę prywatności i uzyskać niezbędne zgody. Przykładowo firma zaczyna korzystać z analitycznego narzędzia AI do szczegółowego profilowania klientów, ale nie dostosowuje odpowiednio informacji dla klientów ani podstawy prawnej przetwarzania.

Jak zrobić to prawidłowo? 

Każdy nowy sposób wykorzystania danych osobowych – w tym wdrożenie AI – musi zostać w przejrzysty sposób zakomunikowany osobom, których dane dotyczą. Przed wdrożeniem AI zrewidujcie więc swoje obowiązki informacyjne (polityki, klauzule informacyjne) i dodajcie wzmiankę o wykorzystaniu AI, w tym o jej celu i logice.

Sprawdźcie podstawę prawną: jeśli AI robi coś wykraczającego poza pierwotny cel zbierania danych, może być konieczne uzyskanie zgody osób, których dane dotyczą (np. na przetwarzanie danych do zautomatyzowanego profilowania). W bardziej złożonych przypadkach wykorzystania danych rozważcie konsultację z IOD lub prawnikiem, ewentualnie także uprzednie konsultacje z czeskim Urzędem Ochrony Danych Osobowych (Úřad pro ochranu osobních údajů, ÚOOÚ), zwłaszcza jeśli DPIA wykaże wysokie ryzyko, którego nie da się w pełni ograniczyć.