Jak prawnie zabezpieczyć asystenta AI z dostępem do systemów firmy?

Dlaczego asystent z dostępem do systemów oznacza inne ryzyko niż zwykły czat

Różnica między narzędziem czatowym a asystentem AI podłączonym do systemów firmy polega na tym, kto decyduje o danych. Do zwykłego czatu pracownik wkleja tekst ręcznie i sam wybiera, co opuści firmę. Asystent z dostępem do poczty, dysku współdzielonego, księgowości lub CRM sam wyszukuje informacje. Czyta umowy, korespondencję z klientami, a nawet akta osobowe, jeśli ma do nich uprawnienia. Firma traci więc kontrolę nad tym, co dokładnie narzędzie przetworzyło.

Technicznie asystenta łączą z systemami konektory. Coraz częściej są to konektory oparte na standardzie MCP (Model Context Protocol), czyli otwartym protokole, za pomocą którego model językowy odczytuje dane z innych aplikacji i wykonuje w nich czynności. Każdy konektor poszerza zakres danych i czynności dostępnych dla asystenta. To, czy dane te trafią również do dostawcy modelu, zależy od architektury rozwiązania: gdzie działa konektor, co z danych trafia do modelu i co zapisuje się w logach. Firma musi więc zweryfikować przepływy danych każdego elementu, a nie tylko samego modelu.

Dla zarządu wynika z tego prosty wniosek. Kto włącza asystenta z dostępem do wszystkiego, udostępnia mu naraz dane osobowe pracowników, klientów i dostawców, a do tego know-how firmy. Ogólne szanse i ryzyka wdrożenia sztucznej inteligencji w firmie podsumowuje artykuł o szansach i wyzwaniach prawnych sztucznej inteligencji w biznesie. Ten tekst koncentruje się na umowie, danych osobowych i odpowiedzialności.

Kto odpowiada, gdy asystent popełni błąd

Za przetwarzanie danych osobowych odpowiada w pierwszej kolejności firma, która wdrożyła asystenta. Ogólne rozporządzenie o ochronie danych za administratora uznaje podmiot, który ustala cele i sposoby przetwarzania. Dostawca, który przetwarza dane w imieniu firmy i zgodnie z jej poleceniami, jest z reguły podmiotem przetwarzającym. Gdy asystent wyśle poufny dokument do niewłaściwego adresata lub udostępni wynagrodzenia całej firmie, firma musi ocenić incydent, ewentualnie zgłosić go organowi nadzorczemu i wyjaśnić go osobom, których dotyczy.

Dostawca nie pozostaje jednak bez odpowiedzialności. Jako podmiot przetwarzający musi zabezpieczyć dane, stosować się do poleceń firmy, angażować dalszych podmiotów przetwarzających tylko za jej zgodą i zgłaszać jej naruszenia ochrony danych. Jeśli naruszy te obowiązki, organ może nałożyć na niego karę, a wobec osób, których dane dotyczą, odpowiada za szkodę (art. 82). Jeżeli wykorzysta dane do własnych celów, na przykład do trenowania swojego modelu, rozporządzenie uznaje go w zakresie tego przetwarzania za administratora (art. 28 ust. 10). Nie zwalnia to jednak firmy z odpowiedzialności za wybór dostawcy bez wystarczających gwarancji.

Wobec klientów i partnerów handlowych firma odpowiada za wyniki pracy asystenta tak samo jak za pracę pracownika. Jeśli asystent przygotuje błędną ofertę lub wpisze do umowy nieprawidłowe dane, firma nie może się bronić tym, że tekst napisało oprogramowanie. Decyduje to, kto wynik zatwierdził i wysłał. Kontrahent działa z firmą, a nie z jej narzędziem, i roszczenie o odszkodowanie skieruje przeciwko niej.

Pracownik, który użył asystenta niewłaściwie, odpowiada wobec firmy tylko w ograniczonym zakresie. Przy szkodzie wyrządzonej nieumyślnie pracodawca może żądać od pracownika maksymalnie czterech i pół krotności jego przeciętnego miesięcznego wynagrodzenia. Ograniczenie nie obowiązuje, jeśli pracownik wyrządził szkodę umyślnie, w stanie nietrzeźwości lub po użyciu innych substancji odurzających. Gdy do szkody przyczyniła się również firma, na przykład uruchamiając asystenta bez zasad, pracownik pokryje tylko proporcjonalną część. Większą część straty z wycieku danych poniesie więc firma.

Zasada ta wynika z czeskiego Kodeksu pracy (ustawa nr 262/2006 Sb., dalej „KP”) (§ 257) i w praktyce oznacza, że prewencja jest tańsza niż późniejsze dochodzenie roszczeń. To, czy firma cokolwiek uzyska od pracownika, zależy od tego, czy naruszył on obowiązek pracowniczy, czy działał w sposób zawiniony i czy szkoda powstała właśnie w wyniku tego. Wewnętrzna polityka, szkolenia i techniczne ograniczenie dostępu zmniejszają zatem ryzyko szkody, której firma od nikogo nie wyegzekwuje.

Co musi zawierać umowa z dostawcą narzędzia AI

Umowa z dostawcą musi spełniać obowiązkowe wymogi umowy powierzenia przetwarzania zgodnie z ogólnym rozporządzeniem. Dostawca może przetwarzać dane osobowe wyłącznie na udokumentowane polecenie firmy i musi zobowiązać swoich ludzi do zachowania poufności. Dalszych podmiotów przetwarzających może angażować tylko za uprzednią zgodą. Po zakończeniu usługi musi dane usunąć lub zwrócić i musi umożliwić firmie audyt (art. 28 ust. 3). O pozycji dostawcy nie decyduje przy tym nazwa umowy, lecz to, kto faktycznie decyduje o celach i sposobach przetwarzania.

W przypadku asystenta AI nie wystarczy podpisać standardowego aneksu o powierzeniu przetwarzania bez zmian. Umowa powinna wyraźnie określać, czy dostawca może wykorzystywać firmowe dane wejściowe i wyjściowe do trenowania lub ulepszania swoich modeli. Prawo takiego zakazu nie nakazuje, ale w przypadku poufnych danych firmowych rozsądnie jest go uzgodnić. Każde dozwolone wykorzystanie do własnych celów dostawcy wymaga odrębnej oceny prawnej. Umowa powinna ponadto określać, gdzie dane są przechowywane, skąd dostawca ma do nich dostęp i jak długo przechowuje historię zapytań oraz logi aktywności asystenta.

Drugim obszarem jest lista dalszych podmiotów przetwarzających. Duzi dostawcy narzędzi AI powszechnie korzystają z dostawców chmury i własnych dostawców modeli językowych. Firma powinna mieć prawo wnieść sprzeciw wobec zmiany dalszego podmiotu przetwarzającego, a w ostateczności rozwiązać umowę. Przy zgodzie ogólnej dostawca musi z wyprzedzeniem informować firmę o każdej zamierzonej zmianie (art. 28 ust. 2). W przypadku danych przekazywanych poza Europejski Obszar Gospodarczy trzeba również zweryfikować podstawę prawną takiego transferu.

Trzecim obszarem jest odpowiedzialność dostawcy i jej ograniczenie. Dostawcy narzędzi AI często ograniczają odszkodowanie do kwoty zapłaconej za określony okres. Takie ograniczenie nie może obowiązywać w odniesieniu do szkody wyrządzonej umyślnie lub wskutek rażącego niedbalstwa. Sąd nie weźmie takiej części postanowienia pod uwagę. Firma powinna zatem wynegocjować odrębny, wyższy limit dla wycieku danych i naruszenia poufności, ponieważ właśnie tam powstaje największa szkoda.

Granica ograniczenia odpowiedzialności wynika z czeskiego Kodeksu cywilnego (ustawa nr 89/2012 Sb., dalej „KC”) (§ 2898). Obowiązuje w stosunkach między przedsiębiorcami, a strony nie mogą od niej odstąpić. Umowę z dostawcą warto uzupełnić o obowiązek niezwłocznego zgłaszania incydentu bezpieczeństwa, o odpowiednie ubezpieczenie odpowiedzialności oraz o zasady eksportu danych i zakończenia usługi.

Od pilotażu do pełnego wdrożenia: kolejność kroków

Wdrożenie asystenta zaczyna się od spisu tego, do czego ma mieć dostęp. Firma określa systemy, rodzaje danych i grupy pracowników, którzy będą korzystać z narzędzia. Często okazuje się, że asystent potrzebuje do pracy znacznie mniejszego zakresu danych, niż oferuje mu dostawca w ustawieniach domyślnych. Spis ten jest jednocześnie podstawą oceny ryzyka i umowy z dostawcą.

Drugim krokiem jest ocena ryzyka przetwarzania danych osobowych. Firma sprawdza, czy przetwarzanie ze względu na swój charakter, zakres, kontekst i cele może powodować wysokie ryzyko naruszenia praw osób. Jeśli tak, musi jeszcze przed uruchomieniem przeprowadzić ocenę skutków: pisemną analizę opisującą przetwarzanie, jego niezbędność, ryzyka i środki (art. 35). W przypadku asystenta z szerokim dostępem do akt osobowych lub danych wrażliwych będzie to z reguły konieczne. W przypadku narzędzia ograniczonego do zwykłych danych operacyjnych obowiązek ten może nie powstać.

Trzecim krokiem jest pilotaż w ograniczonej grupie użytkowników z ograniczonym dostępem. W trakcie pilotażu firma monitoruje, jakie dane asystent faktycznie odczytuje i jakie błędy popełnia. Dopiero potem decyduje o rozszerzeniu. Jak taki pilotaż przebiegł w kancelarii adwokackiej, gdzie chodzi o dane objęte obowiązkową tajemnicą, opisują doświadczenia z wdrażania sztucznej inteligencji w naszej kancelarii.

Czwartym krokiem jest wewnętrzna polityka i szkolenie pracowników. Polityka określa, do których systemów asystent ma dostęp, jakich informacji pracownicy do niego nie wprowadzają i kto kontroluje wyniki przed wysłaniem ich na zewnątrz. Szkolenie pomaga firmie spełnić również obowiązek wynikający z aktu w sprawie sztucznej inteligencji. Wymaga on od firm podejmowania środków wspierających kompetencje w zakresie AI u osób pracujących ze sztuczną inteligencją.

Po uruchomieniu trzeba regularnie kontrolować zakres dostępów, ponieważ dostawcy dodają nowe konektory i funkcje, które włączają się automatycznie. Jaki zakres dostępu i jakie kontrole są odpowiednie w przypadku konkretnego asystenta, zależy od tego, do jakich danych ma dostęp i czy jego wyniki trafiają bezpośrednio do klientów. Dlatego prawnicy kancelarii adwokackiej ARROWS oceniają go przy każdym wdrożeniu oddzielnie.

Co dostawcy zwykle oferują, a co jest sygnałem ostrzegawczym

Firmowe plany narzędzi AI zazwyczaj obejmują umowę powierzenia przetwarzania i zobowiązanie, że dostawca nie trenuje na danych klientów. Różnica między konsumencką a firmową wersją tego samego narzędzia często polega właśnie na tych punktach. Firma nie powinna więc dopuszczać, aby pracownicy używali do celów służbowych prywatnych kont, nawet jeśli chodzi o ten sam produkt.

Sygnałem ostrzegawczym jest umowa, która jedynie umożliwia wyłączenie trenowania na danych. Jeśli stanem domyślnym jest zgoda, a firma musi ją aktywnie odrzucić w ustawieniach, wystarczy jeden błąd administratora konta i dane trafiają do dostawcy. Równie podejrzana jest umowa, która odsyła do listy dalszych podmiotów przetwarzających na stronie internetowej, ale nie przyznaje firmie prawa do sprzeciwu wobec jej zmiany.

Kolejnym sygnałem jest niejasny okres przechowywania danych. Dostawcy często przechowują historię rozmów i logi aktywności asystenta ze względów bezpieczeństwa i w celu wykrywania nadużyć. Może to być uzasadnione, ale umowa musi określać, jak długo i kto ma dostęp do tych zapisów. Jeśli dostawca nie odpowie na takie pytanie na piśmie, firma nie ma jak wykazać, że przestrzega zasady ograniczenia przechowywania.

Firmy, którym wdrożenie się udaje, oddzielają uprawnienia dostępu asystenta od uprawnień użytkownika. Asystent nie otrzymuje automatycznie wszystkiego, co widzi pracownik, lecz tylko wybrane foldery i systemy. Czynności, które coś zmieniają, takie jak wysłanie e-maila czy edycja rekordu w CRM, zatwierdza człowiek. Takie podejście ogranicza skutki błędu, a także skutki ewentualnego nadużycia konektora przez atakującego.

Gdzie prawo wyznacza granice: dane osobowe, sztuczna inteligencja i cyberbezpieczeństwo

Najwyższe sankcje grożą za naruszenie ochrony danych osobowych. Za naruszenie obowiązków administratora i podmiotu przetwarzającego, do których należą umowa powierzenia przetwarzania, zabezpieczenie i ocena skutków, można nałożyć karę do 10 milionów euro lub 2 % całkowitego rocznego światowego obrotu. Za naruszenie podstawowych zasad i podstawy prawnej przetwarzania górna granica wynosi 20 milionów euro lub 4 % obrotu, w zależności od tego, która kwota jest wyższa (art. 83 ogólnego rozporządzenia).

Wyciek danych przez asystenta AI jest naruszeniem ochrony danych, które firma powinna zgłosić organowi nadzorczemu. Administrator zgłasza je czeskiemu Urzędowi Ochrony Danych Osobowych (ÚOOÚ) bez zbędnej zwłoki, w miarę możliwości w ciągu 72 godzin od stwierdzenia naruszenia. Wyjątkiem jest sytuacja, gdy jest mało prawdopodobne, by naruszenie skutkowało ryzykiem dla osób, których dane dotyczą (art. 33). Dostawca musi zgłosić firmie naruszenie bez zbędnej zwłoki, dlatego warto ten obowiązek doprecyzować w umowie.

Akt w sprawie sztucznej inteligencji

Firma, która korzysta z asystenta, jest zgodnie z aktem w sprawie sztucznej inteligencji podmiotem stosującym, czyli użytkownikiem systemu, a nie jego producentem. Od lutego 2025 roku musi podejmować środki wspierające u pracowników kompetencje w zakresie sztucznej inteligencji (art. 4). Nowelizacja z 2026 roku wyraźnie stanowi, że firma nie musi zapewnić określonego poziomu wiedzy każdej osoby. Zwykły asystent biurowy z reguły nie należy do systemów wysokiego ryzyka. Może się nim jednak stać, jeśli firma użyje go do celów wymienionych w załączniku III, na przykład do selekcji kandydatów do pracy lub oceny wyników pracowników.

Terminy dla systemów wysokiego ryzyka przesunęło rozporządzenie (UE) 2026/1744, tzw. omnibus cyfrowy, które weszło w życie 27 lipca 2026. Obowiązki podmiotów stosujących w odniesieniu do systemów z załącznika III, np. nadzór ze strony człowieka i przechowywanie rejestrów zdarzeń, będą zatem stosowane od 2 grudnia 2027. O klasyfikacji decyduje konkretne zamierzone zastosowanie oraz wyjątki z art. 6 ust. 3, np. dla wąskich zadań proceduralnych. Za naruszenie grozi kara do 15 milionów euro lub 3 % obrotu, w przypadku małych i średnich przedsiębiorstw niższa z tych wartości (art. 99).

Relację między aktem w sprawie sztucznej inteligencji a ochroną danych osobowych szczegółowo omawia artykuł o zgodności z AI Act i RODO. Jeśli asystent tworzy teksty lub obrazy przeznaczone dla odbiorców zewnętrznych, zastosowanie ma również obowiązek oznaczania treści wygenerowanych przez sztuczną inteligencję. Obowiązek ten dotyczy treści, a nie wewnętrznej pracy z dokumentami.

Cyberbezpieczeństwo

Firma świadcząca usługę regulowaną zgodnie z czeską ustawą o cyberbezpieczeństwie musi dobierać dostawców i wpisywać do umów z nimi wymogi dotyczące środków bezpieczeństwa, jeżeli za ich pośrednictwem te środki wdraża lub realizuje (§ 13 ust. 5). Ustawa obowiązuje od 1 listopada 2025 i dotyczy przede wszystkim średnich i dużych przedsiębiorstw w wymienionych sektorach, np. w energetyce, przemyśle wytwórczym lub transporcie.

Samo podłączenie asystenta AI do systemów zapewniających usługę regulowaną nie oznacza jeszcze, że jego dostawca jest dostawcą w rozumieniu tego przepisu. Jeśli jednak asystent pracuje z aktywami, które firma objęła zarządzaniem cyberbezpieczeństwem, musi go uwzględnić w zarządzaniu aktywami i ryzykiem. To, czy za pośrednictwem jego dostawcy firma realizuje środki bezpieczeństwa, zależy od tego, do których systemów asystent ma dostęp i jaką rolę te systemy odgrywają w świadczeniu usługi. Prawnicy kancelarii adwokackiej ARROWS oceniają to, zanim firma podpisze umowę z dostawcą.

Tajemnica przedsiębiorstwa w rękach asystenta AI

Ochrona tajemnicy przedsiębiorstwa nie jest automatyczna. Tajemnicę przedsiębiorstwa stanowią tylko informacje, których poufność właściciel odpowiednio zapewnia (§ 504 KC). Jeśli firma bez zasad wprowadzi do narzędzia AI kalkulacje cenowe, dokumentację techniczną lub listy klientów, osłabia właśnie tę przesłankę. W ewentualnym sporze z konkurentem strona przeciwna może wówczas podnieść, że firma sama tych informacji nie chroniła.

Sądy oceniają poufność na podstawie tego, co firma faktycznie robi. Sąd Najwyższy Republiki Czeskiej (Nejvyšší soud) w postanowieniu 23 Cdo 2736/2024 powtórzył, że przedsiębiorca musi zapewniać poufność skutecznie, i to za pomocą środków organizacyjnych i technicznych. W sporze o dokumentację rysunkową obroniła się firma, która miała wewnętrzne regulaminy z zasadami wypożyczania i kopiowania dokumentacji. W przypadku asystenta AI tę samą rolę pełnią wewnętrzna polityka, ograniczenie uprawnień dostępu i umowny zakaz trenowania na danych.

Firma powinna zatem określić, które kategorie informacji w ogóle nie mogą trafić do asystenta, a które tylko do narzędzia objętego umową firmową. Lista powinna być krótka i zrozumiała, aby pracownicy faktycznie jej przestrzegali. Uzupełnia ją ograniczenie techniczne, np. wyłączenie folderów z dokumentacją produkcyjną z zasięgu konektorów. Połączenie zasady i środka technicznego jest w późniejszym sporze najlepszym dowodem, że firma chroniła tajemnicę.

Pięć błędów powtarzających się przy wdrażaniu asystentów AI

Pierwszym błędem jest uruchomienie asystenta z pełnym dostępem do wszystkich systemów. Ustawienia domyślne wielu narzędzi kopiują uprawnienia użytkownika, więc asystent dyrektora widzi całą firmę. Jedno nieprecyzyjnie sformułowane pytanie wystarczy wtedy, by w wyniku pojawiły się wynagrodzenia lub poufne negocjacje. Naprawa po incydencie kosztuje więcej niż ograniczenie dostępu na początku.

Drugim błędem jest prywatne konto pracownika używane do pracy dla firmy. Konsumenckie wersje narzędzi z reguły nie są objęte umową powierzenia przetwarzania, a dostawca może wykorzystać dane do ulepszania swoich modeli. Firma traci wówczas kontrolę nad danymi i nie ma jak wykazać, dokąd trafiły. Rozwiązaniem jest zapewnienie pracownikom firmowego narzędzia i wyraźny zakaz używania prywatnych kont do pracy.

Trzecim błędem jest brak oceny ryzyka przetwarzania. Firma często odkłada ją na czas, gdy wdrożenie będzie gotowe, a jeśli ocena skutków była obowiązkowa, musi potem wstecznie tłumaczyć, dlaczego uruchomiła przetwarzanie bez niej. Podczas kontroli organu wygląda to jak przyznanie, że nikt wcześniej nie ocenił ryzyka. Czwartym błędem jest przyjęcie umowy dostawcy bez sprawdzenia punktów dotyczących trenowania i dalszych podmiotów przetwarzających.

Piątym błędem jest wysłanie wyniku pracy asystenta na zewnątrz bez kontroli człowieka. Asystent potrafi w mgnieniu oka przygotować ofertę, odpowiedź na reklamację lub streszczenie umowy. Błąd w takim dokumencie wiąże jednak firmę tak samo, jakby popełnił go pracownik. To, które wyniki musi przed wysłaniem sprawdzić człowiek, a które mogą zostać wysłane automatycznie, zależy od tego, czy rodzą zobowiązanie wobec osoby trzeciej. Dlatego prawnicy kancelarii adwokackiej ARROWS wyznaczają tę granicę zgodnie z konkretnymi procesami firmy.

Ryzyka asystenta AI dla firmy i jak je ograniczyć

Najważniejsze wnioski – podsumowanie końcowe

Asystent AI podłączony do systemów firmy niesie inne ryzyko niż zwykłe narzędzie czatowe, ponieważ sam wyszukuje dane. Za cel i sposób przetwarzania, za wyniki pracy asystenta i za wyciek informacji odpowiada przede wszystkim firma, która go wdrożyła. Dostawca jako podmiot przetwarzający odpowiada za własne obowiązki, a jeśli wykorzysta dane dla siebie, staje się w zakresie tego przetwarzania administratorem. Zabezpieczenie prawne opiera się zatem na umowie z dostawcą, ocenie ryzyka i zasadach wewnętrznych.

Dla zarządu kluczowa jest kolejność kroków: najpierw umowa i ocena ryzyka, dopiero potem uruchomienie w całej firmie. Firma, która najpierw włącza asystenta, a zasady dopisuje wstecznie, nie potrafi wykazać, dokąd trafiły dane. Podczas kontroli organu lub w sporze z konkurentem nie ma wtedy czym udowodnić, że chroniła dane i tajemnicę przedsiębiorstwa. Odkładanie tych kroków zwiększa ryzyko kary i szkody, której firma od nikogo nie wyegzekwuje.

Zarząd powinien zatem rozstrzygnąć trzy kwestie: które systemy i dane asystent może odczytywać, który dostawca spełni wymogi umowy powierzenia przetwarzania bez trenowania na danych firmy oraz kto w firmie kontroluje wyniki wysyłane na zewnątrz. Bez tych decyzji wdrożenie asystenta pozostaje eksperymentem na danych produkcyjnych.

Prawnicy kancelarii adwokackiej ARROWS sprawdzą umowę z dostawcą narzędzia AI i wynegocjują brakujące punkty. Ocenią ryzyka przetwarzania i przygotują ocenę skutków, wewnętrzną politykę pracy z asystentem oraz szkolenie dla pracowników. Napisz do nas na konsultacja@arws.cz lub zapoznaj się z naszą usługą Prawo IT i oprogramowania, cyberbezpieczeństwo.