Künstliche Intelligenz bei Arzneimitteln

Vorteile von KI in der Arzneimittelentwicklung: Effizienz und Geschwindigkeit wie nie zuvor

KI hat das Potenzial, jeden Schritt auf dem Weg eines Arzneimittels zu verändern:

• Entdeckung und Entwicklung von Arzneimitteln: KI-Algorithmen können riesige Datenbanken chemischer Verbindungen durchsuchen und diejenigen mit dem größten Potenzial für therapeutische Anwendungen identifizieren. Das beschleunigt die Entdeckungsphase erheblich, senkt die Kosten des Screenings und ermöglicht es Forschern, sich auf vielversprechende Kandidaten zu konzentrieren. KI kann Wechselwirkungen von Molekülen simulieren und deren Stabilität und Toxizität noch vor der Synthese vorhersagen, was Zeit und Ressourcen spart.
• Optimierung klinischer Studien: KI unterstützt bei der Auswahl geeigneter Patienten für klinische Studien, bei der Überwachung ihres Zustands und bei der Auswertung der Ergebnisse. Das steigert die Effizienz der Studien und verkürzt ihre Dauer. KI kann Patienten identifizieren, die voraussichtlich auf eine bestimmte Behandlung ansprechen, was die Studienergebnisse verbessert und die Rekrutierung effizienter macht. Prädiktive KI-Modelle können zudem potenzielle Probleme oder Nebenwirkungen frühzeitig erkennen und so rechtzeitige Anpassungen der Studie ermöglichen.
• Personalisierte Medizin: Durch die Analyse genetischer Daten, der Krankengeschichte und des Lebensstils eines Patienten kann KI Ärzten helfen, „maßgeschneiderte“ Therapien zu entwickeln, die wirksamer sind und weniger Nebenwirkungen haben. Statt eines „One size fits all“-Ansatzes ermöglicht KI eine gezielte Behandlung, die den Nutzen für den einzelnen Patienten maximiert. Das ist besonders in der Onkologie oder bei der Behandlung seltener Erkrankungen wertvoll.
• Prädiktive Analyse und Pharmakovigilanz: KI kann Epidemien vorhersagen, die Ausbreitung von Krankheiten verfolgen und Risikofaktoren identifizieren, was frühzeitige Interventionen und ein besseres Management der öffentlichen Gesundheit ermöglicht. Im Bereich der Pharmakovigilanz überwacht KI enorme Datenmengen aus Meldungen über Nebenwirkungen und aus sozialen Medien, um Sicherheitssignale bei bereits zugelassenen Arzneimitteln schneller zu erkennen. Das erhöht die Patientensicherheit und ermöglicht eine schnellere Reaktion der Regulierungsbehörden.

Neue Herausforderungen für altbekannte Regeln: Haftung und Regulierung im KI-Zeitalter

Auch wenn die Vorteile von KI unbestreitbar sind, entstehen mit ihrem Einsatz Fragen, auf die die geltende Rechtslage oft keine eindeutigen Antworten bietet. Genau hier liegen die größten Herausforderungen für Ihr Unternehmen.

1. Haftung für ein fehlerhaftes, von KI entwickeltes Arzneimittel: Wer trägt die Folgen?

Stellen Sie sich vor, eine KI entwirft ein Arzneimittel, das sich nach dem Inverkehrbringen als schädlich erweist. Wer haftet in diesem Fall? Der Entwickler der KI? Das Pharmaunternehmen, das das Arzneimittel hergestellt und in Verkehr gebracht hat? Oder der Programmierer, der das KI-System geschrieben hat? Diese Frage ist grundlegend, und ihre Klärung ist entscheidend für das Vertrauen in KI in der Medizin.

Die tschechische und europäische Gesetzgebung zur Haftung für fehlerhafte Produkte ist komplex. In der Regel gilt die verschuldensunabhängige Haftung des Herstellers, sein Verschulden muss also nicht nachgewiesen werden. Bei KI stellt sich jedoch die Frage, wer im Kontext autonomer Systementscheidungen der eigentliche „Hersteller“ ist. Sollte nachgewiesen werden, dass das KI-System einen „Fehler“ gemacht hat, ist zu prüfen, ob es sich um einen Fehler im Design, in den Trainingsdaten der KI oder im Algorithmus selbst handelt. Ist KI ein Werkzeug oder ein eigenständiger Akteur? Und was, wenn der Fehler aus einer komplexen Interaktion mehrerer KI-Systeme oder zwischen KI und Mensch resultiert?

Risiken und Sanktionen: Eine falsche Zuordnung der Haftung kann zu enormen finanziellen Sanktionen führen, die selbst große Unternehmen lähmen können. Zudem droht eine Rufschädigung des Unternehmens, dessen Ansehen über Jahre aufgebaut wird und binnen weniger Tage zerstört sein kann. Im äußersten Fall kann es sogar zur strafrechtlichen Verantwortlichkeit der Personen kommen, die für das Inverkehrbringen des fehlerhaften Produkts verantwortlich sind. Es ist entscheidend, genau zu wissen, welche Risiken Sie tragen und wie Sie sich wirksam dagegen schützen.

Die Anwälte von ARROWS befassen sich täglich mit der Produkthaftung, einschließlich Produkten mit KI-Komponenten, und helfen Ihnen gern, sich in diesen komplexen Fragen zurechtzufinden. Dank unserer Erfahrung erkennen wir Schwachstellen in vertraglichen Vereinbarungen und schlagen Lösungen vor, die Ihre Risiken minimieren.

2. Geistiges Eigentum: Wem gehört das Werk einer KI?

KI-Systeme können neue Moleküle, Algorithmen, Verfahren und sogar ganze Therapiepläne generieren. Wem steht dann das geistige Eigentum an diesen Ergebnissen zu? Kann eine KI Urheberin eines Patents sein?

Das geltende Patentrecht beruht auf dem Konzept des menschlichen Erfinders. Eine von KI geschaffene „Erfindung“ oder ein solches „Werk“ ist ein neues Phänomen, das ein Umdenken erfordert. Die meisten Rechtsordnungen erkennen derzeit nur natürliche Personen als Urheber oder Erfinder an. Schafft eine KI also etwas Einzigartiges ohne wesentliches menschliches Zutun, ist der rechtliche Schutz ungewiss. Ohne klare Eigentumsverhältnisse am geistigen Eigentum drohen der Verlust der Investitionen in Forschung und Entwicklung sowie Rechtsstreitigkeiten mit Wettbewerbern, die Ihre Innovationen frei nutzen könnten.

Risiken und Sanktionen: Unsicherheit im Bereich des geistigen Eigentums kann zu Schiedsverfahren, Gerichtsverfahren und dem Verlust wertvoller Innovationen führen, wenn Ihre Rechte nicht ordnungsgemäß geschützt sind. Stellen Sie sich vor, eine KI entdeckt ein bahnbrechendes Molekül, Sie können es aber nicht patentieren lassen, weil unklar ist, wer der „Erfinder“ ist. Damit verlören Sie die Exklusivität und massive Investitionen.

Mit den Anwälten von ARROWS können Sie besprechen, wie Sie Ihr geistiges Eigentum auch in einer Zeit schützen, in der die Grenze zwischen menschlichem und maschinellem Schaffen verschwimmt. Wir unterstützen Mandanten beim Aufbau belastbarer Vertragsrahmen mit KI-Entwicklern, die das Eigentum an IP-Rechten an KI-Ergebnissen klar regeln, und verfolgen zugleich die Entwicklungen in diesem Bereich, um für Sie die bestmöglichen Lösungen zu finden.

3. Datenschutz und Cybersicherheit: Sensible Daten in den Händen der KI

Pharmazeutische Forschung und Entwicklung arbeitet häufig mit äußerst sensiblen personenbezogenen Patientendaten, darunter Krankengeschichte, genetische Informationen, Behandlungsergebnisse und biometrische Daten. KI-Systeme analysieren diese Daten in großem Umfang, was enorme Risiken im Hinblick auf den Schutz personenbezogener Daten (DSGVO) und die Cybersicherheit mit sich bringt.

Die DSGVO stellt strenge Anforderungen an die Verarbeitung personenbezogener Daten, insbesondere sensibler Daten. Dazu gehören die Grundsätze der Datenminimierung, der Zweckbindung, der Richtigkeit, der Transparenz und der Rechenschaftspflicht. Der Einsatz von KI in der Medizin umfasst häufig die Verarbeitung riesiger Datensätze, was das Risiko von Datenlecks, Missbrauch oder unbefugtem Zugriff erhöht.

Risiken und Sanktionen: Verstöße gegen die DSGVO können zu astronomischen Bußgeldern führen – bis zu 20 Millionen EUR oder 4 % des gesamten weltweiten Jahresumsatzes des Unternehmens, je nachdem, welcher Betrag höher ist. Darüber hinaus drohen Rufschädigung und Vertrauensverlust bei Patienten und Partnern, was langfristig negative Folgen für Ihr Geschäft haben kann. Der Schutz der Daten vor Cyberangriffen ist absolut entscheidend. Jedes Datenleck und jeder Cybervorfall kann fatale Folgen haben. Stellen Sie sich vor, sensible Gesundheitsakten tausender Patienten gelangten an die Öffentlichkeit. Das ist der Albtraum jedes Unternehmens und eine Bedrohung, die sehr ernst genommen werden muss.

Die Anwälte von ARROWS sind Experten für Datenschutz und Cybersicherheit und helfen Ihnen, belastbare Systeme und Prozesse einzurichten, um diese Risiken zu vermeiden. Wir befassen uns regelmäßig mit der DSGVO-Compliance in der Pharmaindustrie und bei der Implementierung von KI, einschließlich der Erstellung von Datenschutz-Folgenabschätzungen (DPIA), die für KI-Systeme mit sensiblen Daten häufig erforderlich sind.

4. Ethische Aspekte und Diskriminierung: Gerechtigkeit in einer algorithmischen Welt

Neben rechtlichen Fragen bringt KI in der Pharmaindustrie auch eine Reihe tiefgreifender ethischer Dilemmata mit sich, die aktiv angegangen werden müssen.

KI-Algorithmen lernen aus Daten. Sind diese Daten verzerrt, unvollständig oder nicht repräsentativ, kann die KI bestehende Diskriminierung und Vorurteile, die in den Daten enthalten sind, reproduzieren oder sogar verstärken. Lernt eine KI beispielsweise aus Daten, die verschiedene ethnische Gruppen, Altersgruppen oder Geschlechter nicht abbilden, kann es passieren, dass die von der KI vorgeschlagene Behandlung bei bestimmten Bevölkerungsgruppen weniger wirksam ist oder zu Fehldiagnosen führt. Das wirft ernste ethische Fragen auf und kann zu Rechtsstreitigkeiten wegen Diskriminierung führen.

Voreingenommenheit in KI-Modellen ist ein großes Problem, insbesondere im Gesundheitswesen, da Systeme, die mit verzerrten oder nicht repräsentativen Daten trainiert wurden, verzerrte Ergebnisse liefern können, was zu Ungleichheiten bei Diagnostik, Behandlung und Arzneimittelforschung führt.

Wird ein KI-Modell auf verzerrten Daten aufgebaut oder trainiert, können sich diese Verzerrungen in seinen Ergebnissen niederschlagen und bestehende Ungleichheiten verschärfen. Um diese Risiken zu mindern, müssen KI-Modelle mit vielfältigen und repräsentativen Datensätzen trainiert werden.

Wichtig ist zudem, dass die Entscheidungsprozesse der KI transparent und erklärbar sind. Eines der Hauptprobleme ist das sogenannte „Black-Box“-Problem: KI-Systeme, insbesondere Deep-Learning-Modelle, funktionieren wie „Black Boxes“. Ihre Entscheidungsprozesse sind also undurchsichtig und für Menschen schwer nachvollziehbar. Dieser Mangel an Transparenz ist in der Medizin besonders problematisch, da klinisches Personal verstehen muss, wie KI-Systeme zu ihren Empfehlungen gelangt sind, um die Patientensicherheit zu gewährleisten.

Das Konzept einer „Black-Box“-KI, bei der unklar ist, wie das System zu einer bestimmten Entscheidung gelangt ist, ist in der Medizin inakzeptabel. Was, wenn die KI „entscheidet“, dass ein bestimmter Patient eine spezifische Behandlung nicht erhält? Wie können wir sicherstellen, dass diese Entscheidung fair, ethisch und begründbar ist? Patienten wie Ärzte müssen darauf vertrauen können, dass KI-Entscheidungen objektiv sind und auf den besten verfügbaren Informationen beruhen.

Zur Minderung von Risiken und Haftungsfragen ist menschliche Aufsicht bzw. das Modell „Mensch in der Schleife“ (human-in-the-loop) entscheidend. Der EU AI Act verlangt, dass Hochrisiko-KI-Systeme einer angemessenen menschlichen Aufsicht unterliegen. Menschen müssen also die Fähigkeit und die Befugnis haben, KI-Entscheidungen zu ändern, und die Aufsicht muss wirksam und nicht bloß symbolisch sein. In der Pharmaindustrie muss KI das klinische und regulatorische Urteil ergänzen (nicht ersetzen).

Risiken und Sanktionen: Diskriminierung ist nicht nur ethisch inakzeptabel, sondern nach Antidiskriminierungsgesetzen auch sanktionierbar. Sie kann zu Klagen, hohen Bußgeldern und irreparabler Rufschädigung führen. Es ist unerlässlich, KI-Systeme so zu konzipieren und zu testen, dass sie das Diskriminierungsrisiko minimieren und ethischen Standards entsprechen. Dazu gehören eine sorgfältige Auswahl und Validierung der Trainingsdaten, transparente Algorithmen sowie Mechanismen für menschliche Aufsicht und Kontrolle.

Bei ARROWS widmen wir uns den ethischen Aspekten von KI und helfen Mandanten, die Fallstricke algorithmischer Diskriminierung zu vermeiden, unter anderem durch ethische Audits von KI-Systemen.

5. Regulierung und Zulassungsverfahren: Neue Regeln für neue Technologien

Die bestehenden Regulierungsrahmen für die Zulassung von Arzneimitteln und Medizinprodukten wurden für die traditionelle pharmazeutische Forschung und Entwicklung konzipiert. Der Einzug der KI erfordert jedoch ihre Aktualisierung und Anpassung. Wie lässt sich sicherstellen, dass von KI entwickelte oder getestete Arzneimittel sicher und wirksam sind? Wie überprüft und validiert man Algorithmen, die im Laufe der Zeit lernen und ihr Verhalten ändern können? Bestehende klinische Prüfungen und Validierungsverfahren reichen für KI möglicherweise nicht aus.

Im Rahmen der Verordnung über künstliche Intelligenz (AI Act), die KI-Systeme mit unterschiedlichem Risikoniveau umfassend regeln soll, werden KI-Systeme in der Medizin und in der Arzneimittelentwicklung voraussichtlich in die Kategorie „Hochrisiko“ fallen. Das bedeutet strengere Anforderungen an Transparenz, menschliche Aufsicht, Genauigkeit, Cybersicherheit und Konformitätsbewertung vor dem Inverkehrbringen. Die Erfüllung dieser Anforderungen wird erheblichen Aufwand und Investitionen erfordern.

Risiken und Sanktionen: Die Nichteinhaltung neuer regulatorischer Anforderungen kann zur Versagung der Arzneimittelzulassung (was den Verlust von Entwicklungsinvestitionen in Höhe von Hunderten Millionen bis Milliarden bedeuten kann), zur Rücknahme von Produkten vom Markt und zu massiven Bußgeldern führen. Es ist unerlässlich, auf diese Veränderungen vorbereitet zu sein und Ihre Forschungs-, Entwicklungs- und Zulassungsprozesse proaktiv anzupassen.

Mit den Anwälten von ARROWS sind Sie stets über die neuesten regulatorischen Änderungen informiert und können rechtzeitig reagieren. Die Anwälte von ARROWS verfolgen laufend die Entwicklung der KI-Regulierung und ihre Auswirkungen auf die Pharmaindustrie, sowohl auf EU-Ebene als auch in der nationalen Gesetzgebung. Wir unterstützen Sie bei der Auslegung neuer Vorschriften und bei der Vorbereitung auf Zertifizierungs- und Zulassungsverfahren.

Proaktiver Rechtsschutz: Ihr Schlüssel zum Erfolg mit KI

Auch wenn sich die Rechtslandschaft für KI bei Arzneimitteln erst herausbildet, ist eines klar: Ein passiver Ansatz zahlt sich nicht aus. Im Gegenteil: Proaktive Rechtsberatung ermöglicht es Ihnen nicht nur, Risiken zu minimieren, sondern auch das Potenzial, das KI in der Medizin bietet, voll auszuschöpfen.

Was sollten Sie berücksichtigen, und wie können Ihnen die Anwälte von ARROWS helfen?

1. Gründliche Überprüfung der Vertragsbeziehungen: Für jeden Partner, mit dem Sie bei der KI-Entwicklung zusammenarbeiten (Datenlieferanten, Algorithmenentwickler, Cloud-Anbieter), muss die Verantwortung klar definiert sein. Sichern Sie sich in Verträgen eindeutige Klauseln zur Mängelhaftung, zum geistigen Eigentum an KI-Ergebnissen (wem gehören Daten, Modelle und daraus resultierende Entdeckungen?) und zum Datenschutz. Prüfen Sie regelmäßig, ob Ihre Verträge die Besonderheiten der Arbeit mit KI abbilden, einschließlich Regeln für Updates und Wartung von KI-Systemen.
2. Audit der Datenschutz- und Cybersicherheitsprozesse: Bevor Sie KI mit Patientendaten einsetzen, vergewissern Sie sich, dass Ihre Prozesse die Anforderungen der DSGVO und weiterer einschlägiger Datenschutzvorschriften erfüllen. Dazu gehören die Umsetzung der Grundsätze der Datenminimierung, Anonymisierung und Pseudonymisierung, wo möglich, eine gründliche Datensicherheit gegen Cyberangriffe sowie eine transparente Information der Patienten darüber, wie ihre Daten verwendet werden. Regelmäßige Audits, Tests und Schulungen des Personals sind unerlässlich. Denken Sie an die Pflicht zur Durchführung einer Datenschutz-Folgenabschätzung (DPIA) bei risikoreichen Verarbeitungen wie der Verarbeitung sensibler Gesundheitsdaten mittels KI.
3. Interne Ethikrichtlinien und Risikomanagement: Neben den gesetzlichen Vorschriften sind auch interne Ethikrichtlinien für den KI-Einsatz wichtig. Überlegen Sie, wie Sie Fairness, Transparenz und Verantwortlichkeit in allen Phasen der Entwicklung und des Einsatzes von KI-Systemen sicherstellen. Dazu gehören Mechanismen für die menschliche Aufsicht über KI-Entscheidungen, die Erklärbarkeit der Algorithmen und Regeln für den Umgang mit Situationen, in denen ein KI-System versagt oder sich unerwartet verhält. Ein Ethikkodex für KI und regelmäßige Mitarbeiterschulungen stärken das Vertrauen und minimieren Risiken ethischer Kontroversen oder algorithmischer Diskriminierung.
4. Beobachtung der Gesetzgebung und proaktive Anpassung: Die Gesetzgebung zu KI entwickelt sich ständig weiter, sowohl auf Ebene der Europäischen Union (z. B. AI Act) als auch in den einzelnen Mitgliedstaaten. Es ist entscheidend, über geplante Vorschriften informiert zu sein und sich rechtzeitig darauf vorzubereiten. So können Sie Ihre Verfahren, Technologien und Geschäftsmodelle proaktiv an die neuen Anforderungen anpassen und unangenehme Überraschungen in Form von Bußgeldern oder versagten Zulassungen vermeiden.

Die Zukunft ist jetzt: Bleiben Sie nicht zurück

Künstliche Intelligenz bei Arzneimitteln ist keine Zukunftsmusik, sondern dynamische Realität von heute. Wer die damit verbundenen rechtlichen Herausforderungen rechtzeitig versteht und meistert, verschafft sich einen enormen Wettbewerbsvorteil. Er kann schneller, effizienter und mit geringeren Risiken innovieren. Wer zögert, riskiert den Verlust von Marktanteilen und mögliche rechtliche Schwierigkeiten, die seine gesamte Existenz gefährden können.

Bei ARROWS verstehen wir, dass Sie sich in diesem sich rasch wandelnden Bereich möglicherweise unsicher fühlen. Unsere Aufgabe ist es, Ihr verlässlicher Partner zu sein, der Sie durch die Komplexität der KI-Regulierung führt. Wir unterstützen Sie in allen Phasen – von der strategischen Planung und Prozessgestaltung über die Lösung konkreter Rechtsprobleme bis hin zur Vertretung in etwaigen Streitigkeiten. Wir sind Ihre Absicherung für Innovation.

Warten Sie nicht, bis Probleme auftreten. Seien Sie einen Schritt voraus. Die Investition in Rechtsberatung im Bereich KI zahlt sich vielfach aus – durch minimierte Risiken und die maximale Nutzung des Potenzials, das KI in der Medizin bietet.