Sztuczna inteligencja w lekach

Korzyści AI w rozwoju leków: efektywność i szybkość, jakich dotąd nie znaliśmy

AI może zmienić każdy etap drogi leku:

• Odkrywanie i rozwój leków: Algorytmy AI potrafią przeszukiwać ogromne bazy związków chemicznych i wskazywać te o największym potencjale terapeutycznym. To radykalnie przyspiesza fazę odkrywania, obniża koszty screeningu i pozwala badaczom skupić się na obiecujących kandydatach. AI potrafi symulować interakcje cząsteczek i przewidywać ich stabilność oraz toksyczność jeszcze przed syntezą, co oszczędza czas i zasoby.
• Optymalizacja badań klinicznych: AI pomaga w doborze odpowiednich pacjentów do badań klinicznych, monitorowaniu ich stanu i analizie wyników. Zwiększa to efektywność badań i skraca czas ich trwania. AI potrafi wskazać pacjentów, którzy najprawdopodobniej zareagują na dane leczenie, co poprawia wyniki badań i usprawnia rekrutację. Predykcyjne modele AI mogą też wcześnie wykryć potencjalne problemy lub działania niepożądane, co pozwala na szybkie modyfikacje badania.
• Medycyna spersonalizowana: Dzięki analizie danych genetycznych, historii chorób i stylu życia pacjenta AI może pomóc lekarzom zaprojektować terapie „szyte na miarę”, które są skuteczniejsze i mają mniej skutków ubocznych. Zamiast podejścia „jeden rozmiar dla wszystkich” AI umożliwia leczenie celowane, maksymalizujące korzyści dla konkretnego pacjenta. Jest to szczególnie cenne w onkologii lub w leczeniu chorób rzadkich.
• Analiza predykcyjna i nadzór nad bezpieczeństwem farmakoterapii: AI potrafi przewidywać epidemie, śledzić rozprzestrzenianie się chorób i identyfikować czynniki ryzyka, co umożliwia wczesną interwencję i lepsze zarządzanie zdrowiem publicznym. W obszarze nadzoru nad bezpieczeństwem farmakoterapii AI monitoruje ogromne ilości danych ze zgłoszeń działań niepożądanych i mediów społecznościowych, aby szybciej wykrywać sygnały dotyczące bezpieczeństwa leków już dopuszczonych do obrotu. Zwiększa to bezpieczeństwo pacjentów i pozwala regulatorom szybciej reagować.

Nowe wyzwania dobrze znanych zasad: odpowiedzialność i regulacja w erze AI

Choć korzyści AI są niezaprzeczalne, wraz z jej rozwojem pojawiają się pytania, na które obecne przepisy często nie dają jednoznacznych odpowiedzi. Właśnie tu napotykamy największe wyzwania dla Twojej działalności.

1. Odpowiedzialność za wadliwy lek opracowany przez AI: kto poniesie konsekwencje?

Wyobraź sobie sytuację, w której AI zaprojektuje lek, który po wprowadzeniu na rynek okaże się szkodliwy. Kto w takim przypadku ponosi odpowiedzialność? Twórca AI? Firma farmaceutyczna, która lek wyprodukowała i wprowadziła na rynek? A może programista, który napisał system AI? To pytanie ma fundamentalne znaczenie, a jego rozstrzygnięcie jest kluczowe dla zaufania do AI w medycynie.

Czeskie i europejskie przepisy dotyczące odpowiedzialności za produkty niebezpieczne są złożone. Zazwyczaj stosuje się odpowiedzialność producenta na zasadzie ryzyka, co oznacza, że nie trzeba udowadniać jego winy. W przypadku AI pojawia się jednak pytanie, kto jest rzeczywistym „producentem” w kontekście autonomicznego podejmowania decyzji przez system. Gdyby wykazano, że system AI popełnił „błąd”, trzeba ocenić, czy jest to błąd projektowy, błąd w danych, na których AI się uczyła, czy w samym algorytmie. Czy AI jest narzędziem, czy samodzielnym podmiotem? A co, jeśli błąd wynika ze złożonej interakcji między kilkoma systemami AI albo między AI a człowiekiem?

Ryzyka i kary: Błędne ustalenie odpowiedzialności może prowadzić do ogromnych sankcji finansowych, które mogą sparaliżować nawet duże firmy. Grozi także utrata reputacji firmy, budowanej latami, a zniszczonej w ciągu kilku dni. W skrajnych przypadkach może dojść nawet do odpowiedzialności karnej osób odpowiedzialnych za wprowadzenie wadliwego produktu na rynek. Kluczowe jest jasne zrozumienie, jakie ryzyka ponosisz i jak skutecznie się przed nimi bronić.

Prawnicy ARROWS na co dzień zajmują się odpowiedzialnością za produkty niebezpieczne, w tym za produkty z komponentami AI, i są gotowi pomóc Ci w tych złożonych kwestiach. Dzięki naszemu doświadczeniu potrafimy wskazać słabe punkty w postanowieniach umownych i zaproponować rozwiązania minimalizujące Twoje ryzyka.

2. Własność intelektualna: do kogo należy wytwór AI?

Systemy AI potrafią generować nowe cząsteczki, algorytmy, procedury, a nawet całe plany terapeutyczne. Kto jest wówczas właścicielem praw własności intelektualnej do tych wytworów? Czy AI może być twórcą wynalazku objętego patentem?

Obecne prawo patentowe opiera się na koncepcji wynalazcy będącego człowiekiem. Koncepcja „wynalazku” lub „utworu” stworzonego przez AI jest nowością wymagającą ponownego przemyślenia. Większość jurysdykcji uznaje obecnie za autora lub wynalazcę wyłącznie osobę fizyczną. Oznacza to, że jeśli AI stworzy coś unikalnego bez istotnego udziału człowieka, ochrona prawna jest niepewna. Bez jasno określonej własności intelektualnej grozi utrata inwestycji w badania i rozwój oraz spory prawne z konkurentami, którzy mogliby swobodnie korzystać z Twoich innowacji.

Ryzyka i kary: Niepewność w obszarze własności intelektualnej może prowadzić do postępowań arbitrażowych, sporów sądowych i utraty cennych innowacji, jeśli Twoje prawa nie będą należycie chronione. Wyobraź sobie, że AI odkrywa przełomową cząsteczkę, ale nie możesz jej opatentować, ponieważ nie wiadomo, kto jest „wynalazcą”. Straciłbyś wyłączność i ogromne inwestycje.

Z prawnikami ARROWS możesz skonsultować, jak zapewnić ochronę własności intelektualnej także w czasach, gdy granica między twórczością człowieka a maszyny się zaciera. Pomagamy klientom tworzyć solidne ramy umowne z twórcami AI, które jasno określają własność praw IP do wyników AI, a jednocześnie śledzimy rozwój tej dziedziny, aby znaleźć dla Ciebie najlepsze możliwe rozwiązania.

3. Ochrona danych osobowych i cyberbezpieczeństwo: wrażliwe dane w rękach AI

Badania i rozwój w farmacji często wiążą się z przetwarzaniem niezwykle wrażliwych danych osobowych pacjentów, w tym historii zdrowia, informacji genetycznych, wyników leczenia i danych biometrycznych. Systemy AI analizują te dane na dużą skalę, co niesie ogromne ryzyka z punktu widzenia ochrony danych osobowych (RODO) i cyberbezpieczeństwa.

RODO stawia surowe wymogi dotyczące przetwarzania danych osobowych, zwłaszcza danych wrażliwych. Należą do nich zasady minimalizacji danych, ograniczenia celu, prawidłowości, przejrzystości i rozliczalności. Wykorzystanie AI w medycynie często wiąże się z przetwarzaniem ogromnych zbiorów danych, co zwiększa ryzyko wycieku danych, ich nadużycia lub nieuprawnionego dostępu.

Ryzyka i kary: Naruszenie RODO może skutkować astronomicznymi karami – do 20 milionów EUR lub 4 % całkowitego rocznego obrotu przedsiębiorstwa, w zależności od tego, która kwota jest wyższa. Ponadto grozi utrata reputacji oraz utrata zaufania pacjentów i partnerów, co może mieć długotrwałe negatywne skutki dla Twojej działalności. Zabezpieczenie danych przed cyberatakami jest absolutnie kluczowe. Każdy wyciek danych lub incydent cyberbezpieczeństwa może mieć fatalne konsekwencje. Wyobraź sobie, że do opinii publicznej trafiają wrażliwe dokumentacje medyczne tysięcy pacjentów. To koszmar każdej firmy i zagrożenie, które trzeba traktować bardzo poważnie.

Prawnicy ARROWS są ekspertami w zakresie ochrony danych osobowych i cyberbezpieczeństwa i pomogą Ci wdrożyć solidne systemy oraz procesy, aby uniknąć tych ryzyk. Na co dzień zajmujemy się zgodnością z RODO w branży farmaceutycznej i przy wdrażaniu AI, w tym przygotowaniem ocen skutków dla ochrony danych (DPIA), które są często niezbędne w przypadku systemów AI przetwarzających dane wrażliwe.

4. Aspekty etyczne i dyskryminacja: sprawiedliwość w świecie algorytmów

Poza kwestiami prawnymi AI w branży farmaceutycznej niesie także szereg głębokich dylematów etycznych, które trzeba aktywnie rozwiązywać.

Algorytmy AI uczą się na danych. Jeśli dane te są zniekształcone, niepełne lub niereprezentatywne, AI może powielać, a nawet pogłębiać istniejącą w nich dyskryminację i uprzedzenia. Na przykład, jeśli AI uczy się na danych, które nie reprezentują różnych grup etnicznych, kategorii wiekowych lub płci, leczenie zaproponowane przez AI może okazać się mniej skuteczne dla niektórych populacji lub prowadzić do błędnych diagnoz. Rodzi to poważne pytania etyczne i może prowadzić do sporów prawnych z tytułu dyskryminacji.

Stronniczość modeli AI to duży problem, zwłaszcza w ochronie zdrowia, ponieważ systemy trenowane na zniekształconych lub niereprezentatywnych danych mogą dawać zniekształcone wyniki, co prowadzi do nierówności w diagnostyce, leczeniu i odkrywaniu leków.

Jeśli model AI zbudowano lub wytrenowano na zniekształconych danych, zniekształcenia te mogą przejawiać się w jego wynikach i pogłębiać istniejące nierówności. Aby ograniczyć te ryzyka, modele AI muszą być trenowane na zróżnicowanych i reprezentatywnych zbiorach danych.  

Ważne jest także zapewnienie, aby procesy decyzyjne AI były przejrzyste i wyjaśnialne. Jednym z głównych problemów jest problem tzw. „czarnej skrzynki”, gdy systemy AI, zwłaszcza modele głębokiego uczenia, działają jak „czarne skrzynki”. Oznacza to, że ich procesy decyzyjne są nieprzejrzyste i trudne do zrozumienia dla człowieka. Taki brak przejrzystości jest szczególnie problematyczny w medycynie, ponieważ personel kliniczny musi rozumieć, w jaki sposób systemy AI doszły do swoich zaleceń, aby zapewnić bezpieczeństwo pacjenta.  

Koncepcja „czarnej skrzynki” AI, w której nie wiadomo, jak system doszedł do określonej decyzji, jest w medycynie nie do przyjęcia. Co, jeśli AI „zdecyduje”, że dany pacjent nie otrzyma określonego leczenia? Jak możemy zapewnić, że taka decyzja jest sprawiedliwa, etyczna i uzasadniona? Zarówno pacjenci, jak i lekarze muszą mieć pewność, że decyzje AI są obiektywne i oparte na najlepszych dostępnych informacjach.

Dla ograniczenia ryzyk i kwestii odpowiedzialności kluczowy jest nadzór człowieka, czyli model „człowiek w pętli” (human-in-the-loop). Unijny AI Act wymaga, aby systemy AI wysokiego ryzyka podlegały odpowiedniemu nadzorowi ze strony człowieka. Oznacza to, że ludzie muszą mieć zdolność i uprawnienia do zmiany decyzji AI, a nadzór musi być rzeczywisty, a nie tylko symboliczny. W branży farmaceutycznej AI musi uzupełniać (a nie zastępować) osąd kliniczny i regulacyjny.  

Ryzyka i kary: Dyskryminacja jest nie tylko etycznie niedopuszczalna, ale także zakazana przez przepisy antydyskryminacyjne i sankcjonowana. Może prowadzić do pozwów, ogromnych kar i nieodwracalnej utraty reputacji. Niezbędne jest zapewnienie, aby systemy AI były projektowane i testowane w sposób minimalizujący ryzyko dyskryminacji i zgodny ze standardami etycznymi. Obejmuje to staranny dobór i walidację danych treningowych, przejrzyste algorytmy oraz mechanizmy nadzoru i kontroli przez człowieka.

W ARROWS koncentrujemy się na etycznych aspektach AI i pomagamy klientom unikać pułapek związanych z dyskryminacją algorytmiczną, również poprzez audyty etyczne systemów AI.

5. Regulacja i procesy dopuszczenia do obrotu: nowe zasady dla nowych technologii

Obecne ramy regulacyjne dotyczące dopuszczania do obrotu leków i wyrobów medycznych zaprojektowano z myślą o tradycyjnych badaniach i rozwoju w farmacji. Pojawienie się AI wymaga jednak ich aktualizacji i dostosowania. Jak zapewnić, że leki opracowane lub testowane przez AI są bezpieczne i skuteczne? Jak weryfikować i walidować algorytmy, które z czasem mogą się uczyć i zmieniać swoje działanie? Istniejące badania kliniczne i procedury walidacji mogą nie wystarczać w przypadku AI.

W ramach rozporządzenia w sprawie sztucznej inteligencji (AI Act), które ma kompleksowo regulować systemy AI o różnym poziomie ryzyka, systemy AI wykorzystywane w medycynie i do opracowywania leków będą prawdopodobnie należeć do kategorii „wysokiego ryzyka”, co oznacza surowsze wymogi w zakresie przejrzystości, nadzoru człowieka, dokładności, cyberbezpieczeństwa i oceny zgodności przed wprowadzeniem do obrotu. Spełnienie tych wymogów będzie wymagać znacznego wysiłku i inwestycji.

Ryzyka i kary: Nieprzestrzeganie nowych wymogów regulacyjnych może prowadzić do odmowy dopuszczenia leków do obrotu (co może oznaczać utratę setek milionów, a nawet miliardów zainwestowanych w rozwój), wycofania produktów z rynku i ogromnych kar. Niezbędne jest przygotowanie się na te zmiany i proaktywne dostosowanie Twoich procesów badawczych, rozwojowych i rejestracyjnych.

Z prawnikami ARROWS zawsze będziesz mieć aktualne informacje o najnowszych zmianach regulacyjnych i możliwość szybkiej reakcji. Prawnicy ARROWS stale śledzą rozwój regulacji AI i jej wpływ na branżę farmaceutyczną, zarówno na poziomie UE, jak i ustawodawstwa krajowego. Możemy pomóc Ci w interpretacji nowych przepisów i w przygotowaniu do procesów certyfikacji i dopuszczenia do obrotu.

Proaktywne podejście do ochrony prawnej: Twój klucz do sukcesu z AI

Choć otoczenie prawne AI w lekach dopiero się kształtuje, jedno jest jasne: bierne podejście się nie opłaca. Przeciwnie, proaktywne doradztwo prawne pozwoli Ci nie tylko zminimalizować ryzyka, ale także w pełni wykorzystać potencjał, jaki AI oferuje w medycynie.

Co warto rozważyć i jak mogą Ci pomóc prawnicy ARROWS?

1. Gruntowny przegląd stosunków umownych: Każdy partner, z którym współpracujesz przy rozwoju AI (dostawcy danych, twórcy algorytmów, dostawcy usług chmurowych), musi mieć jasno określoną odpowiedzialność. Zadbaj o jasne klauzule umowne dotyczące odpowiedzialności za wady, własności intelektualnej do wyników AI (kto jest właścicielem danych, modeli, wynikających z nich odkryć?) oraz ochrony danych. Regularnie sprawdzaj, czy Twoje umowy odzwierciedlają specyfikę pracy z AI, w tym zasady aktualizacji i utrzymania systemów AI.
2. Audyt procesów ochrony danych osobowych i cyberbezpieczeństwa: Zanim zaczniesz wykorzystywać AI do pracy z danymi pacjentów, upewnij się, że Twoje procesy spełniają wymogi RODO i innych właściwych przepisów o ochronie prywatności. Obejmuje to wdrożenie zasad minimalizacji danych, anonimizacji i pseudonimizacji tam, gdzie to możliwe, solidne zabezpieczenie danych przed cyberatakami oraz przejrzyste informowanie pacjentów o tym, jak ich dane będą wykorzystywane. Regularne audyty, testy i szkolenia personelu są absolutnie niezbędne. Nie zapominaj o obowiązku przeprowadzania oceny skutków dla ochrony danych (DPIA) w przypadku operacji wysokiego ryzyka, takich jak przetwarzanie wrażliwych danych o zdrowiu z pomocą AI.
3. Ustanowienie wewnętrznych wytycznych etycznych i zarządzanie ryzykiem: Poza przepisami prawa ważne jest posiadanie wewnętrznych wytycznych etycznych dotyczących korzystania z AI. Zastanów się, jak zapewnić sprawiedliwość, przejrzystość i rozliczalność na wszystkich etapach rozwoju i wdrażania systemów AI. Obejmuje to określenie mechanizmów nadzoru człowieka nad decyzjami AI, zapewnienie wyjaśnialności algorytmów oraz wprowadzenie zasad postępowania w sytuacjach, gdy system AI zawiedzie lub zachowa się w nieoczekiwany sposób. Stworzenie kodeksu etyki AI i regularne szkolenia pracowników pomogą budować zaufanie i minimalizować ryzyka związane z kontrowersjami etycznymi lub dyskryminacją algorytmiczną.
4. Monitorowanie zmian legislacyjnych i proaktywna adaptacja: Przepisy dotyczące AI stale się zmieniają, zarówno na poziomie Unii Europejskiej (np. AI Act), jak i w poszczególnych państwach członkowskich. Kluczowe jest śledzenie przygotowywanych przepisów i odpowiednio wczesne przygotowanie się do nich. W ten sposób możesz proaktywnie dostosowywać swoje procedury, technologie i modele biznesowe do nowych wymogów i uniknąć nieprzyjemnych niespodzianek w postaci kar lub odmowy dopuszczenia do obrotu.

Przyszłość jest teraz: nie zostań w tyle

Sztuczna inteligencja w lekach to nie odległa przyszłość, lecz dynamiczna rzeczywistość dnia dzisiejszego. Ci, którzy w porę zrozumieją i opanują wyzwania prawne, jakie ze sobą niesie, zyskają ogromną przewagę konkurencyjną. Będą w stanie wprowadzać innowacje szybciej, efektywniej i przy mniejszym ryzyku. Ci, którzy będą zwlekać, ryzykują utratę udziału w rynku i potencjalne problemy prawne, które mogą zagrozić całemu ich istnieniu.

W ARROWS rozumiemy, że w tej szybko zmieniającej się dziedzinie możesz czuć się niepewnie. Naszą misją jest być Twoim niezawodnym partnerem, który pomoże Ci przejść przez zawiłości regulacji prawnych AI. Jesteśmy gotowi wspierać Cię na wszystkich etapach – od planowania strategicznego i ustalania procesów, przez rozwiązywanie konkretnych problemów prawnych, aż po reprezentację w ewentualnych sporach. Jesteśmy Twoim zabezpieczeniem dla innowacji.

Nie czekaj, aż pojawią się problemy. Bądź o krok przed nimi. Inwestycja w doradztwo prawne w zakresie AI zwróci Ci się wielokrotnie w postaci zminimalizowanych ryzyk i maksymalnego wykorzystania potencjału, jaki AI oferuje w medycynie.