Systemy wykrywania celów oparte na uczeniu maszynowym

Potrzebują Państwo porady w tej sprawie? Prosimy o kontakt z kancelarią adwokacką ARROWS pod adresem e-mail konsultacja@arws.cz lub pod numerem telefonu +420 245 007 740. Na Państwa pytanie chętnie odpowie „JUDr. Jakub Dohnal, Ph.D.,LL.M.”, ekspert w tej dziedzinie.

Czym jest uczenie maszynowe do wykrywania celów i dlaczego dotyczy ono Państwa firmy?

Mówiąc najprościej, uczenie maszynowe (Machine Learning, ML) to dziedzina sztucznej inteligencji (AI), która pozwala komputerom samodzielnie uczyć się na podstawie danych, bez konieczności wyraźnego programowania każdego kroku. Zaawansowaną formą jest uczenie głębokie (Deep Learning), które wykorzystuje sieci neuronowe do rozwiązywania bardziej złożonych zadań, takich jak właśnie widzenie maszynowe.

Dla Państwa firmy oznacza to technologię, która potrafi automatycznie identyfikować, klasyfikować i śledzić obiekty, anomalie, a nawet osoby.

Być może już rozważają Państwo takie systemy lub z nich korzystają. Praktyczne przykłady widzimy wszędzie:

• Produkcja: Wykrywanie mikroskopijnych wad produktów na linii, kontrola prawidłowego montażu części lub predykcyjna konserwacja maszyn.
• Bezpieczeństwo: Wykrywanie anomalii w ruchu sieciowym, ujawnianie oszustw w czasie rzeczywistym lub monitoring zakładów w celu zapewnienia BHP.
• Logistyka: Optymalizacja tras na podstawie prognozy ruchu i analizy danych z kamer.
• Handel i HR: Analiza wzorców zachowań klientów w sklepie internetowym lub analiza danych w procesach rekrutacyjnych.

Wszystkie te zastosowania mają wspólny mianownik: gromadzą i analizują ogromne ilości danych. Problem pojawia się w momencie, gdy dane te w jakikolwiek sposób dotyczą możliwych do zidentyfikowania osób – czy to Państwa pracowników na linii, kierowców w logistyce, czy klientów na stronie internetowej. W tej chwili przewaga technologiczna staje się ryzykiem prawnym.

Wdrożenie AI do wykrywania to nie tylko decyzja technologiczna, lecz przede wszystkim decyzja prawna i compliance, która musi zostać oceniona przed zakupem oprogramowania.

Ryzyko nr 1: Pułapka o nazwie RODO i monitoring

Wiele firm błędnie zakłada, że jeśli kamera jest skierowana na maszynę, RODO ich nie dotyczy. Jest dokładnie odwrotnie. Gdy tylko system kamer AI obejmuje również pracowników poruszających się wokół maszyny, dochodzi do gromadzenia i przetwarzania danych osobowych. Często są to ponadto wrażliwe dane biometryczne.

Przetwarzanie to musi spełniać rygorystyczne zasady RODO, w szczególności zasadę zgodności z prawem, rzetelności i przejrzystości. Największe ryzyko stanowi monitoring pracowników.

Czeski Kodeks pracy (ustawa nr 262/2006 Sb., dalej „KP”) oraz RODO wyznaczają monitoringowi pracowników ścisłe granice. Opieranie go na „zgodzie” jest praktycznie niemożliwe, ponieważ w stosunku pracy zgoda nie jest uważana za dobrowolną. Podstawą prawną musi więc niemal zawsze być tzw. prawnie uzasadniony interes pracodawcy.

Tu jednak pojawia się problem. Aby wykazać prawnie uzasadniony interes, muszą Państwo przeprowadzić test równowagi (LIA), w którym wykażą, że Państwa interes (np. ochrona mienia lub bezpieczeństwo) przeważa nad prawem pracownika do prywatności.

Tak, zdecydowanie. Zasada przejrzystości wymaga, aby informowali Państwo osoby, których dane dotyczą, zwięźle, zrozumiale i wyczerpująco. Zatajenie faktu, że system przeprowadza analizę AI, stanowi poważne naruszenie RODO. Dla firm, które faktycznie wdrażają AI, przydatne jest również ustalenie procesów i odpowiedzialności w ramach AI governance w firmach. Pomożemy Państwu przygotować zrozumiałą klauzulę informacyjną. Prosimy pisać na adres konsultacja@arws.cz.

I właśnie tu AI komplikuje sytuację. Podczas gdy zwykła kamera jest mniej inwazyjna, kamera AI nie tylko nagrywa, ale aktywnie analizuje – wykrywa twarze, mierzy czas bezczynności, śledzi ruch. To znacznie poważniejsza ingerencja w prywatność, dlatego przed sądem lub podczas kontroli znacznie trudniej obronić tezę, że taki monitoring jest proporcjonalny.

Spory sądowe, takie jak znana sprawa Bărbulescu, jasno pokazują, że sądy europejskie intensywnie chronią prywatność pracowników. Wdrożenie monitoringu AI bez starannej analizy prawnej to bomba z opóźnionym zapłonem. Przy wprowadzaniu takich systemów często konieczne jest również uregulowanie kwestii umownych, odpowiedzialności dostawcy i wewnętrznego compliance w ramach wdrożenia sztucznej inteligencji (AI).

Nie zapominajmy o sankcjach. Za naruszenie RODO grożą kary do wysokości 20 milionów EUR lub 4 % całkowitego rocznego światowego obrotu. 

Monitoring pracowników za pomocą AI to jeden z najbardziej ryzykownych obszarów RODO, którym w ARROWS bardzo często zajmujemy się na rzecz naszych klientów korporacyjnych. Pomożemy Państwu przygotować wewnętrzne regulaminy monitoringu, które jasno określą jego cel i zakres. Przeprowadzimy za Państwa niezbędny test równowagi (LIA) i przygotujemy ocenę skutków dla ochrony danych osobowych (DPIA), aby byli Państwo chronieni w razie ewentualnej kontroli.

Potrzebują Państwo pomocy prawnej przy konfiguracji monitoringu? Prosimy o kontakt pod adresem konsultacja@arws.cz.

Wykrywanie a ryzyka wynikające z RODO

Poniższa tabela przedstawia typowe ryzyka przy wdrażaniu systemów wykrywania oraz konkretne usługi prawne, dzięki którym ARROWS pomaga im zapobiegać.

Ryzyko nr 2: EU AI Act – nowy władca europejskiej regulacji

Jeśli sądzili Państwo, że RODO jest skomplikowane, proszę przygotować się na AI Act. Rozporządzenie UE 2024/1689, znane jako AI Act, to pierwsze na świecie kompleksowe ramy prawne dla sztucznej inteligencji. Większość jego kluczowych przepisów zaczyna obowiązywać w ciągu 2026 roku.

Kluczową informacją dla wszystkich firm jest eksterytorialny zakres stosowania rozporządzenia. AI Act ma zastosowanie do każdego, kto wprowadza system AI do obrotu w UE lub którego wynik jest wykorzystywany w UE, niezależnie od tego, gdzie firma ma siedzibę.

Rozporządzenie dzieli systemy AI na cztery kategorie według ryzyka: niedopuszczalne (zakazane), wysokiego ryzyka, ograniczonego i minimalnego ryzyka. Podczas gdy systemy o minimalnym ryzyku są niemal nieregulowane, wiele systemów wykrywania B2B trafi do kategorii „wysokiego ryzyka” (High-Risk).

Dotyczy to Państwa, jeśli wykorzystują Państwo AI w takich obszarach jak:

• HR i zarządzanie pracownikami: narzędzia do rekrutacji, oceny wyników lub monitorowania zachowań pracowników.
• Infrastruktura krytyczna: zarządzanie ruchem, sieci energetyczne.
• Identyfikacja biometryczna: większość zaawansowanych systemów kamer do wykrywania osób.
• Ocena zdolności kredytowej

Jeśli Państwa system należy do kategorii High-Risk, AI Act nakłada na Państwa zupełnie nowe obowiązki. Muszą Państwo wdrożyć system zarządzania ryzykiem przez cały cykl życia AI, zapewnić rygorystyczne zarządzanie danymi (Data Governance), prowadzić szczegółową dokumentację techniczną, rejestrować zdarzenia, a przede wszystkim zapewnić solidny nadzór człowieka.

Tu dochodzi do zasadniczego zderzenia biznesu z prawem. Głównym powodem zakupu AI jest automatyzacja i obniżenie kosztów pracy ludzkiej. AI Act jednak w przypadku systemów wysokiego ryzyka prawnie wymaga skutecznego nadzoru człowieka. Koszty compliance (w tym koszty obowiązkowego nadzoru człowieka) muszą więc zostać uwzględnione w business case przed inwestycją.

Wdrażanie AI Act będzie dla firm równie wymagające jak wdrożenie RODO. Nasi prawnicy w ARROWS specjalizują się w tej dziedzinie. Zapewniamy kompleksowe konsultacje prawne i audyty (Gap-analysis), które ustalą, czy Państwa systemy należą do kategorii „wysokiego ryzyka”. Pomożemy Państwu w przygotowaniu kompletnej obowiązkowej dokumentacji i ustanowieniu wewnętrznych systemów zarządzania ryzykiem. W celu natychmiastowego rozwiązania Państwa sytuacji prosimy pisać na adres konsultacja@arws.cz.

Ryzyko nr 3: Gdy AI zawiedzie, czyli kto zapłaci za szkodę?

Dotychczas odpowiedzialność za błędy oprogramowania stanowiła prawną „szarą strefę”. Zmieniło się to jednak radykalnie wraz z nową dyrektywą w sprawie odpowiedzialności za produkty wadliwe, opublikowaną w listopadzie 2024 roku.

Dyrektywa ta wprowadza rewolucyjną zmianę: wyraźnie definiuje oprogramowanie i systemy sztucznej inteligencji jako „produkt”.

Jeśli są Państwo firmą rozwijającą oprogramowanie AI lub producentem integrującym AI ze swoimi maszynami (np. z linią produkcyjną), stają się Państwo producentem „produktu”. Będą Państwo zatem ponosić odpowiedzialność na zasadzie ryzyka za szkodę (na zdrowiu, na mieniu), którą wyrządzi Państwa „wadliwa” AI.

AI uznaje się przy tym za „wadliwą”, jeśli nie zapewnia bezpieczeństwa, jakiego można od niej zasadnie oczekiwać. I teraz uwaga: dyrektywa uwzględnia również zdolność AI do dalszego uczenia się po wprowadzeniu do obrotu.

Wyobraźmy sobie, że dostarczają Państwo maszynę z AI do wykrywania wad. AI ta uczy się u klienta na nowych danych, ale tworzy błędną korelację i zaczyna przepuszczać wadliwe produkty. Produkty te wyrządzają szkodę konsumentowi końcowemu. Zgodnie z nową dyrektywą to Państwo jako producent AI odpowiadają za tę szkodę, nawet jeśli do „wady” doszło dopiero w wyniku uczenia się u klienta.

Te nowe ryzyka odpowiedzialności bezwzględnie trzeba uregulować w umowach. Prawnicy ARROWS mają bogate doświadczenie w przygotowywaniu i weryfikacji umów na dostawy technologii. Zadbamy o to, aby Państwa umowy handlowe (z dostawcami AI i z odbiorcami) jasno określały odpowiedzialność za szkody wyrządzone przez AI. Zachęcamy do kontaktu z naszą kancelarią – konsultacja@arws.cz.

AI Act i odpowiedzialność za szkody

Nowa regulacja przynosi nowe ryzyka i astronomiczne kary. Oto przegląd najpoważniejszych z nich.

Ukryte zagrożenia: dyskryminacja algorytmiczna (Bias) i własność intelektualna

Oprócz kar wynikających z RODO i AI Act na firmy czyhają także inne, mniej oczywiste ryzyka.

Ryzyko nr 4: Dyskryminacja algorytmiczna (Bias)

Systemy AI mogą działać dyskryminująco, nawet jeśli nie było to zamiarem programisty. Problem tkwi w danych treningowych. Jeśli AI uczy się na danych historycznych odzwierciedlających ludzkie uprzedzenia (np. że stanowiska kierownicze zajmowali w przeszłości głównie mężczyźni), AI nauczy się tego wzorca i będzie go powielać.

Przykładem jest system wykrywania w HR, który ocenia rozmowy kwalifikacyjne nagrywane na wideo i systematycznie przyznaje niższe wyniki kandydatom o innym kolorze skóry lub akcencie. To dyskryminacja algorytmiczna – i pozostaje ona w bezpośredniej sprzeczności z przepisami antydyskryminacyjnymi.

Ryzyko nr 5: Własność intelektualna (IP)

Kluczowe pytanie brzmi: do kogo należy to, co stworzy AI? Zgodnie z czeską ustawą o prawie autorskim (ustawa nr 121/2000 Sb.) autorem może być wyłącznie osoba fizyczna. Sama AI autorem być nie może.

Autorem wyniku jest więc zazwyczaj użytkownik, który przekazał AI twórcze i konkretne polecenia (tzw. prompty). Problem pojawia się jednak, jeśli AI trenowała na danych chronionych prawem autorskim, a wynik jest w istocie naśladownictwem cudzego utworu. Odpowiedzialność za naruszenie praw osób trzecich ponosi z reguły użytkownik, który wynik wykorzystał.

W ARROWS zajmujemy się tymi ryzykami. Przeprowadzimy specjalistyczne szkolenie dla Państwa pracowników (zwłaszcza HR i kadry zarządzającej), jak rozpoznawać ryzyka dyskryminacji algorytmicznej i im zapobiegać. Jednocześnie zweryfikujemy umowy licencyjne z dostawcami AI, aby zapewnić Państwu ochronę przed roszczeniami osób trzecich z tytułu naruszenia IP. Nasi prawnicy są gotowi Państwu pomóc – prosimy pisać na adres konsultacja@arws.cz.

AI nie zna granic: wsparcie prawne w skali międzynarodowej

Sztuczna inteligencja to globalny biznes. Mogą Państwo mieć dane trenowane w USA, oprogramowanie hostowane w Azji i klientów w Europie. Regulacje są jednak rozproszone.

Podczas gdy UE wprowadza najbardziej rygorystyczną, kompleksową regulację opartą na ryzyku (AI Act), USA wybierają raczej proinnowacyjne podejście oparte na standardach rynkowych i wytycznych (NIST). Azja jest podzielona – Chiny mają specyficzne, surowe przepisy, natomiast Singapur wspiera innowacje „miękkimi”, dobrowolnymi ramami.

Dla czeskiej firmy o globalnych ambicjach sytuacja ta jest prawnym koszmarem. Jakiego standardu przestrzegać? Odpowiedź jest prosta: najbardziej rygorystycznego. Dzięki eksterytorialnemu zakresowi AI Act standard europejski staje się de facto globalnym standardem dla każdego, kto chce wejść na rynek europejski.

Dla naszych klientów działających globalnie jest to kluczowe. Dzięki budowanej od dziesięciu lat sieci ARROWS International praktycznie codziennie zajmujemy się zgodnością prawną projektów AI z elementem międzynarodowym. Niezależnie od tego, czy chodzi o transgraniczny transfer danych do trenowania AI, umowy licencyjne z amerykańskim dostawcą, czy wejście na rynek azjatycki, nasz międzynarodowy zespół jest gotowy zapewnić Państwu pełne wsparcie prawne. Potrzebują Państwo pomocy prawnej o zasięgu międzynarodowym? Prosimy o kontakt pod adresem konsultacja@arws.cz.

Partnerstwo z ARROWS: od audytu prawnego po ochronę przed karami

Wdrożenie systemów wykrywania AI to nie wybór, lecz konieczność dla utrzymania konkurencyjności. Zrobienie tego bez najwyższej klasy zabezpieczenia prawnego to jednak hazard, na który nie mogą sobie Państwo pozwolić.

W ARROWS nie jesteśmy jedynie dostawcami opinii prawnych. Jesteśmy partnerami Państwa biznesu. Od lat świadczymy usługi na rzecz ponad 150 spółek akcyjnych, 250 spółek s.r.o. (czeska spółka z ograniczoną odpowiedzialnością) oraz 50 gmin i krajów (regionów). Stawiamy na szybkość i wysoką jakość.

Ponadto potrafimy łączyć naszych klientów, jeśli dostrzegamy interesujące możliwości inwestycyjne lub biznesowe. Chętnie wysłuchamy również Państwa pomysłów biznesowych.

Nasz zespół jest gotowy natychmiast Państwu pomóc, niezależnie od tego, czy potrzebują Państwo:

• Kompleksowego audytu AI/RODO i analizy luk (Gap-analysis)
• Opracowania wewnętrznych regulaminów dotyczących monitoringu i korzystania z AI
• Przygotowania lub weryfikacji umów z dostawcami technologii AI 
• Reprezentacji przed sądami i organami administracji (np. czeskim Urzędem Ochrony Danych Osobowych (ÚOOÚ))
• Specjalistycznych szkoleń dla kadry zarządzającej i pracowników.

Zapewnijcie swojemu innowacyjnemu biznesowi ochronę prawną, na jaką zasługuje. Nasi prawnicy są gotowi Państwu pomóc – prosimy pisać na adres konsultacja@arws.cz.

Nie chcą Państwo rozwiązywać tego problemu samodzielnie? Kancelarii adwokackiej ARROWS zaufało ponad 2000 klientów, a my zostaliśmy wyróżnieni tytułem Kancelaria Prawnicza Roku 2024. Zapraszamy TUTAJ do zapoznania się z naszymi referencjami – będzie dla nas zaszczytem pomóc Państwu w rozwiązaniu problemu. Zapytanie jest bezpłatne.