Cybersicherheit und AI Act

Gesundheitseinrichtungen in der Tschechischen Republik stehen vor einer beispiellos komplexen Regulierungslage. Die NIS2-Richtlinie, der neue AI Act, die DSGVO und die einschlägigen tschechischen Gesetze schaffen mehrschichtige Pflichten, die sich überschneiden, ergänzen und mitunter auch widersprechen.

Krankenhäuser, die das Risiko von Bußgeldern, Sanktionen und Betriebsausfällen minimieren wollen, müssen verstehen, wie diese Regelwerke als System funktionieren. Es reicht also nicht, sie als getrennte Vorschriften zu betrachten. Man muss sie als komplexes Regelgeflecht verstehen. Dieser Artikel erläutert die tatsächlichen Compliance-Anforderungen und zeigt, wo die häufigsten Versäumnisse liegen.

NIS2-Richtlinie und Gesundheitseinrichtungen: Ein neuer rechtlicher Standard

Die NIS2-Richtlinie (Richtlinie (EU) 2022/2555 über Maßnahmen für ein hohes gemeinsames Cybersicherheitsniveau in der Union) ist ein europäischer Rechtsrahmen für die Cybersicherheit kritischer Infrastrukturen und wesentlicher Dienste. Es handelt sich nicht um einen allgemeinen Standard. Sie begründet Pflichten mit ausdrücklichem Schwerpunkt auf Sektoren, die für das Funktionieren der Gesellschaft „grundlegend“ sind.

Das Gesundheitswesen wird in der NIS2 als wesentlicher Sektor aufgeführt. Für Gesundheitseinrichtungen gelten daher die strengsten Anforderungen.

In der Tschechischen Republik wurde die NIS2-Richtlinie durch das tschechische Gesetz Nr. 264/2025 Slg. über die Kybersicherheit (im Folgenden „Cybersecurity Act“) in nationales Recht umgesetzt. Es ist am 1. November 2025 in Kraft getreten.

Der Cybersecurity Act gilt für sogenannte wesentliche und wichtige Einrichtungen. Ein Krankenhaus fällt meist in die Kategorie der wesentlichen Einrichtungen im kritischen Sektor Gesundheitswesen.

Eine Gesundheitseinrichtung muss ein umfassendes System für das Management von Cyberrisiken einführen und aufrechterhalten. Bei der Einrichtung dieser Prozesse (einschließlich Governance und Verantwortlichkeiten beim Einsatz von Tools) kann auch rechtliche Unterstützung bei der Implementierung künstlicher Intelligenz (KI) helfen. Dieses System umfasst die Identifizierung von Bedrohungen, die Abschätzung ihrer Auswirkungen, die Umsetzung von Sicherheitsmaßnahmen und die laufende Überwachung. Es handelt sich nicht bloß um eine einmalige Investition in Software. Es ist ein kontinuierlicher Prozess der Risikominderung.

Krankenhäuser müssen ihren Ansatz beim Identitäts- und Zugriffsmanagement (Identity Access Management, IAM) grundlegend ändern. Seit November 2025 besteht die Pflicht, das Prinzip der „minimalen Rechte“ einzuführen. Das bedeutet, dass jeder Mitarbeiter, jede Anwendung und jedes System nur auf die Informationen und Funktionen zugreifen darf, die für die jeweilige Arbeit unbedingt erforderlich sind.

In der Praxis heißt das beispielsweise, dass ein Radiologe, der CT-Aufnahmen befundet, keinen Zugriff auf das Verwaltungsmodul für Rechnungen haben sollte. Ebenso sollte eine Pflegekraft in der Chirurgie ohne klare Begründung keinen Zugriff auf psychiatrische Aufzeichnungen einer anderen Abteilung haben. Diese Grundsätze sind für den Schutz sensibler Daten entscheidend. Für die praktische Gestaltung interner Regeln und vertraglicher Vereinbarungen für digitale Dienste (einschließlich des Umgangs mit Daten) kann ein Vergleich im Artikel SaaS-Plattform in der EU: Rechtliche Gestaltung von AGB, DSGVO und Lizenzvereinbarungen für KI-Ergebnisse nützlich sein.

Zu den Einführungsmaßnahmen für IAM nach dem Cybersecurity Act Nr. 264/2025 Slg. gehören die Erstellung und Dokumentation einer IAM-Richtlinie sowie die Implementierung eines zentralisierten Identitätsmanagementsystems. Außerdem sind das Prinzip der „minimalen Rechte“ für alle Nutzer und eine starke Authentifizierung erforderlich, wo möglich auch eine Mehr-Faktor-Authentifizierung (MFA).

Zu den weiteren Maßnahmen gehört die ordnungsgemäße Protokollierung aller Zugriffsversuche, auch der erfolglosen. Wichtig sind zudem regelmäßige Audits und Überprüfungen der vergebenen Zugriffsrechte, damit diese dauerhaft angemessen und sicher bleiben. Das ist keine theoretische Übung. Es ist eine praktische Notwendigkeit.

Stellt ein Krankenhaus fest, dass ein technischer Manager dauerhaft Rechte für ein System besitzt, das er nicht mehr nutzt, oder dass das medizinische Personal ohne weitere Einschränkung jede beliebige Patientenakte öffnen kann, verstößt es unmittelbar gegen die Anforderungen des Cybersecurity Act.

Bei Sicherheitsvorfällen ist eine schnelle Meldung entscheidend. In der Praxis lohnt es sich, gleichzeitig auch die Pflichten nach den gesundheitsrechtlichen Vorschriften abzudecken. Darauf beziehen sich unsere Leistungen im Bereich Gesundheitsrecht. Kommt es zu einem Abfluss von Patientendaten, einem Angriff auf das Informationssystem, einer Sperrung von Daten (z. B. durch Ransomware) oder einem anderen Cybersicherheitsereignis, muss das Krankenhaus den Vorfall unverzüglich der Nationalen Behörde für Cyber- und Informationssicherheit (Národní úřad pro kybernetickou a informační bezpečnost, NÚKIB) melden.

Diese Meldung muss spätestens 72 Stunden nach dem Zeitpunkt erfolgen, zu dem das Krankenhaus von dem Vorfall erfahren hat. Nach spezifischen Vorschriften sind außerdem weitere zuständige Aufsichtsbehörden zu informieren. Die Einhaltung dieser Frist ist wesentlich, um die Folgen zu minimieren und die regulatorischen Anforderungen zu erfüllen.

Verstöße gegen diese Pflichten oder deren Vernachlässigung können zu Bußgeldern von bis zu 250 Mio. CZK (ca. 10,3 Mio. EUR) oder 2 % des weltweiten Umsatzes der Organisation führen, je nachdem, welcher Betrag höher ist. Für ein mittelgroßes Krankenhaus bedeutet dies eine reale finanzielle Belastung, die den Betrieb und die Kontinuität der Gesundheitsversorgung gefährden kann.

Praktische Auswirkungen der NIS2 auf den Krankenhausbetrieb

Die Regeln auf dem Papier zu verstehen, ist eine Sache. Eine andere ist es, zu begreifen, was sie für den Alltag im Krankenhaus bedeuten.

Gesundheitseinrichtungen haben eine hohe Fluktuation: Saisonkräfte, Mutterschaftsurlaub, Renteneintritte. Jede neue Arbeitskraft darf nur Zugang zu den Systemen erhalten, die sie tatsächlich benötigt, und nur für die Dauer ihrer Tätigkeit. Die personellen Auswirkungen (Festlegung von Rollen, Verantwortlichkeiten und Dokumentation bei Eintritten und Austritten) veranschaulicht auch der Beitrag Kanzleipartner Jakub Oliva in Hospodářské noviny: Fehler im Personalwesen – die größten Risiken entstehen bei Schlüsselpersonen und internen Prozessen. NIS2 verlangt, dass jede Änderung dokumentiert und regelmäßig auditiert wird. Geschieht dies nicht, haben Personen Zugriff, die nicht mehr im Krankenhaus arbeiten.

Krankenhäuser nutzen häufig externe IT-Dienstleister, Anbieter von Diagnosesystemen oder Cloud-Dienste zur Datenarchivierung. Die NIS2-Richtlinie verlangt, dass das Krankenhaus mit jedem dieser Anbieter vertragliche Regeln zur Cybersicherheit vereinbart.

Zugleich muss das Krankenhaus die Einhaltung dieser Regeln überprüfen, etwa durch ein technisches Audit oder eine Kontrolle. Verfügt ein externer Anbieter über keine ausreichende Absicherung und kommt es zu einem Datenabfluss, trägt die primäre Verantwortung das Krankenhaus, auch wenn die Daten physisch von jemand anderem gespeichert wurden.

Moderne Medizingeräte wie Monitore, Beatmungsgeräte, Infusionspumpen oder Diagnosegeräte sind mit dem Krankenhausnetz verbunden. NIS2 verlangt, dass sie Teil einer umfassenden Cybersicherheitsstrategie der Gesundheitseinrichtung sind.

Ältere Geräte, die über keine modernen Sicherheitsfunktionen verfügen und nicht aktualisiert werden können, stellen ein erhebliches Risiko dar. Mit solchen Risiken muss aktiv umgegangen werden, etwa durch die Isolierung dieser Geräte vom übrigen Netz, um potenzielle Bedrohungen zu minimieren.

All diese Situationen erfordern managementseitige und technische Lösungen, die ein gewöhnliches Krankenhaus ohne fachliche Unterstützung möglicherweise nicht bewältigt. Die Anwälte der Anwaltskanzlei ARROWS konzentrieren sich in diesen Situationen auf Compliance-Audits, die Erstellung der Dokumentation und die Unterstützung im Umgang mit Aufsichtsbehörden.

EU-Verordnung über künstliche Intelligenz (AI Act) und Gesundheitseinrichtungen: Eine neue Regulierungsebene für Algorithmen

Was ist der AI Act und warum gilt er für das Gesundheitswesen?

Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (EU-Verordnung über künstliche Intelligenz), die am 1. August 2024 in Kraft getreten ist, ist die weltweit erste umfassende Regulierung künstlicher Intelligenz. Sie stellt die Frage: Was ist, wenn ein Algorithmus versagt oder in die Irre führt? Wer ist dafür verantwortlich? Was ist, wenn ein KI-System etwas Unerwünschtes lernt?

Der AI Act teilt KI-Systeme nach ihrem Risikoniveau in vier Kategorien ein: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Jede Kategorie bringt unterschiedliche regulatorische Pflichten und Anforderungen mit sich.

Systeme mit unannehmbarem Risiko sind vollständig verboten, zum Beispiel Social Scoring, Verhaltensmanipulation oder Emotionserkennung am Arbeitsplatz ohne medizinischen Grund. Diese Systeme gelten als zu gefährlich für die Gesellschaft.

KI-Systeme mit hohem Risiko unterliegen strengen Anforderungen, insbesondere in der Medizin. Dazu gehören typischerweise Diagnosehilfen, klinische Entscheidungsunterstützung und Systeme, die den Zugang zu Leistungen beeinflussen und erhebliche Auswirkungen auf Gesundheit und Sicherheit haben können.

Für Systeme mit begrenztem Risiko gelten Transparenzpflichten, bei Chatbots muss zum Beispiel darauf hingewiesen werden, dass es sich um KI handelt. KI-Systeme mit minimalem Risiko, etwa Spamfilter, unterliegen keinen besonderen Pflichten und gelten als sicher.

In Krankenhäusern und Gesundheitseinrichtungen begegnet man am häufigsten Hochrisiko-KI-Systemen, die besondere Aufmerksamkeit und die Einhaltung strenger regulatorischer Standards erfordern. Diese Systeme sind für Diagnostik und Behandlung von zentraler Bedeutung.

Die Vorschriften für Hochrisiko-KI-Systeme gelten in vollem Umfang ab dem 2. August 2026. Ab diesem Datum müssen alle betroffenen Einrichtungen die vollständige Konformität mit dem AI Act sicherstellen.

Beispiele für Hochrisiko-KI-Systeme in Krankenhäusern:

• KI zur Krebsdiagnostik anhand von Mammografien, Röntgenaufnahmen und CT-Daten
• KI zur Erkennung diabetischer Retinopathie oder anderer Augenerkrankungen
• KI zur Unterstützung klinischer Entscheidungen (Clinical Decision Support Systems – CDSS)
• KI zur Triage von Patienten in Notfällen
• KI zur Patientenprognose und Vorhersage des Krankheitsverlaufs
• KI zur Allokation medizinischer Ressourcen

Konkrete Anforderungen an Hochrisiko-KI in der Medizin

1. Risikomanagementsystem (Risk Management System)

Das Krankenhaus muss alle vorhersehbaren Risiken ermitteln und analysieren, die das KI-System für die Gesundheit, die Sicherheit oder die Grundrechte der Patienten darstellen kann. Dazu gehören Fragen wie: Was passiert, wenn der Algorithmus versagt oder einen Fehler macht, und welche Patientengruppen sind stärker gefährdet?

Weiter ist zu prüfen, was passiert, wenn der Algorithmus etwas Unerwünschtes lernt oder wie sich Verzerrungen in den Daten auswirken. Diese Analyse muss über den gesamten Lebenszyklus des Systems erfolgen, also nicht nur bei der Einführung, sondern laufend, während das System genutzt wird und neue Daten sammelt.

2. Hochwertige Daten-Governance (High-Quality Data Governance)

KI-Systeme lernen aus Daten. Sind die Trainingsdaten in irgendeiner Weise verzerrt (biased), übernimmt das KI-System diese Verzerrung und spiegelt sie in seinen Ergebnissen wider. Ein typisches Beispiel ist ein Algorithmus zum kardiovaskulären Risiko, der überwiegend mit Daten kaukasischer Patienten trainiert wurde.

Ein so trainiertes System ist bei Patienten afrikanischer oder asiatischer Herkunft deutlich ungenauer, was zu Fehldiagnosen oder unzureichender Behandlung führen kann. Das Krankenhaus muss daher die Repräsentativität der Daten sicherstellen.

Das Krankenhaus muss sicherstellen, dass die Trainingsdaten für die Zielpopulation repräsentativ sind. Das System muss an verschiedenen Patientengruppen getestet werden, und es ist transparent zu berichten, wo das KI-System schlechter oder besser abschneidet.

Wichtig ist auch zu dokumentieren, woher die Daten stammen und wie sie bereinigt und aufbereitet wurden. Zur Daten-Governance gehört ebenfalls die Identifizierung und Behandlung bekannter Verzerrungen in den Daten, um Diskriminierung und Diagnosefehler zu vermeiden.

Setzt ein Krankenhaus einen Algorithmus ein, der ausschließlich mit Daten von Männern trainiert wurde, und verwendet ihn anschließend auch bei Frauen mit deutlich geringerer Genauigkeit, verstößt es gegen die Vorschriften des AI Act. Das kann schwerwiegende Folgen für die Versorgung der Patientinnen haben.

3. Technische Dokumentation

Vor dem Einsatz eines KI-Systems muss eine vollständige technische Dokumentation vorliegen. Sie muss eine detaillierte Beschreibung des Systems und seines Zwecks sowie eine Beschreibung aller Eingaben, Prozesse und Ausgaben enthalten. Die Dokumentation ist für Transparenz und Auditierbarkeit entscheidend.

Die technische Dokumentation muss außerdem einen Bericht über das Risikomanagement, Angaben zu den Trainings- und Testdaten sowie die Testergebnisse einschließlich der Fehlerquote enthalten. Unverzichtbar ist auch ein Plan zur Überwachung des Systems nach seiner Inbetriebnahme.

Diese Dokumentation muss in der jeweiligen Amtssprache vorliegen und den Aufsichtsbehörden auf Verlangen zur Verfügung gestellt werden. Fehlt sie oder ist sie unzureichend, drohen erhebliche Sanktionen.

4. Menschliche Aufsicht (Human Oversight)

Der wichtigste Grundsatz lautet: Der Algorithmus darf nicht allein entscheiden. Der Arzt muss stets in der Lage sein zu verstehen, wie der Algorithmus arbeitet und wo seine Grenzen liegen. Zugleich muss er kontrollieren können, ob der Algorithmus korrekt funktioniert.

Der Arzt muss auch die Möglichkeit haben, das Ergebnis des Algorithmus zu ignorieren oder zu überschreiben, wenn er dies im besten Interesse des Patienten für richtig hält. Funktioniert das System nicht ordnungsgemäß, muss der Arzt es anhalten können, um eine mögliche Schädigung des Patienten zu verhindern.

Das bedeutet, dass diagnostische KI keine „zweite Diagnose, die man ignorieren kann“ ist. Es handelt sich um ein System, das aktiv überwacht wird und unter der Kontrolle des Arztes bleiben muss. Menschliche Aufsicht ist unerlässlich, um Sicherheit und Qualität der Versorgung zu gewährleisten.

5. Transparenz und Information der Patienten

Patienten, bei denen KI eingesetzt wird, müssen darüber informiert werden. Es besteht keine Pflicht, ihnen alle Einzelheiten des Algorithmus mitzuteilen. Sie sollten sich jedoch bewusst sein, dass ihre Diagnostik oder Behandlung ein Element künstlicher Intelligenz enthält. Das ist für die Transparenz entscheidend.

Diese Anforderung betrifft nicht nur die Ethik, sondern hat konkrete rechtliche Folgen. Wusste ein Patient nicht, dass seine Diagnostik von einem Algorithmus durchgeführt wurde, und erfährt er später, dass der Algorithmus fehlerhaft war, hat er in einem etwaigen Rechtsstreit eine bessere Position.

Schnittmenge des AI Act mit MDR und DSGVO

Hier wird es wirklich komplex. Ist Ihr KI-System Bestandteil eines Medizinprodukts, etwa ein KI-Modul in einer Diagnosesoftware, gelten für dieses System gleichzeitig drei Regelwerke. Diese Regelwerke überschneiden und ergänzen sich.

Alle drei gelten gleichzeitig für ein und dasselbe System. Die MDR fragt: „Ist das Produkt sicher und leistungsfähig?“, der AI Act fragt: „Manipuliert der Algorithmus nicht, ist er transparent und unter Kontrolle?“, die DSGVO fragt: „Sind die Patientendaten geschützt?“ Diese Komplexität erfordert ein koordiniertes Vorgehen.

Die Anwälte der Anwaltskanzlei ARROWS kennen sich in diesem dreifachen Regelungsgeflecht aus und helfen Krankenhäusern zu verstehen, welche Pflichten für sie gelten, wie sich diese gegenseitig beeinflussen und was konkret zu tun ist.

DSGVO, NIS2 und AI Act: Wie sie sich bei Gesundheitsdaten gegenseitig beeinflussen

Gesundheitsdaten unter dem Druck dreier Regelwerke

Gesundheitsdaten wie Angaben zum Gesundheitszustand, genetische und biometrische Daten sind nach der DSGVO eine besondere Kategorie personenbezogener Daten. Sie unterliegen einem verstärkten Schutz, was an Gesundheitseinrichtungen erhöhte Anforderungen stellt.

Die Gesundheitseinrichtung gilt als „Verantwortlicher“ für diese Daten und ist für ihre Sicherheit voll verantwortlich. Die Verarbeitung ist nur unter strengen Voraussetzungen zulässig, etwa zu Behandlungszwecken, mit ausdrücklicher Einwilligung des Patienten oder aus Gründen eines erheblichen öffentlichen Interesses im Bereich der Gesundheit.

Bei einer Verletzung der Sicherheit, etwa einem Datenabfluss, muss das Krankenhaus die Verletzung unverzüglich dem Amt für den Schutz personenbezogener Daten (ÚOOÚ) und den betroffenen Patienten melden. Das ist entscheidend, um die Folgen zu minimieren und die rechtlichen Pflichten zu erfüllen.

Verstöße gegen die DSGVO können zu Bußgeldern von bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes führen, je nachdem, welcher Betrag höher ist. Diese Sanktionen unterstreichen, wie schwer die Nichteinhaltung der Datenschutzvorschriften wiegt.

Hinzu kommt die NIS2, die einen technischen Schutz dieser Daten verlangt. Das bedeutet die Implementierung geeigneter Verschlüsselung, Zugriffsrechte, Protokollierung und eines Incident-Managements. NIS2 ergänzt die DSGVO in den technischen Aspekten der Sicherheit.

Der AI Act fügt schließlich hinzu, dass das Krankenhaus bei Verwendung dieser Daten zum Training eines KI-Algorithmus sicherstellen muss, dass der Algorithmus nicht verzerrt, transparent und unter menschlicher Kontrolle ist. Der AI Act erweitert den Datenschutz damit auch auf den Bereich der künstlichen Intelligenz.

Im Ergebnis muss das Krankenhaus die Daten gleichzeitig als Daten betrachten, die nach der DSGVO zu schützen und nach NIS2 technisch abzusichern sind, und die es zudem für das KI-Training sicher anonymisieren muss, ohne die Rechte der Patienten nach AI Act und DSGVO zu verletzen.

Anonymisierung vs. Re-Identifizierung: Das Problem in der Praxis

Einer der kritischen Punkte ist die Anonymisierung von Daten für das KI-Training. Theoretisch sollte es möglich sein, Gesundheitsdaten zu nehmen, die Identifikationsmerkmale des Patienten (Name, Geburtsnummer, Adresse) zu entfernen und sie dann ohne Verstoß gegen die DSGVO sicher zum Training eines Algorithmus zu verwenden.

In der Praxis ist es jedoch deutlich komplizierter. Der Europäische Datenschutzausschuss (EDSA) hat im Dezember 2024 die Stellungnahme Nr. 28/2024 veröffentlicht. Danach ist bei vielen Gesundheitsdaten eine Re-Identifizierung möglich, auch wenn die Daten als „anonym“ gelten.

Liegen Daten eines Patienten mit einer seltenen Erkrankung vor, lässt er sich allein aus der Kombination von Alter, Geschlecht, Bezirkscode und Diagnose identifizieren. Das zeigt, wie leicht es selbst bei scheinbar anonymen Daten zu einer Re-Identifizierung kommen kann.

Ein Krankenhaus, das glaubt, KI sicher mit „anonymen“ Daten zu trainieren, kann also später erfahren, dass die Daten in Wirklichkeit nicht anonym sind und es gegen die DSGVO verstoßen hat. Solche Situationen stellen ein erhebliches rechtliches und reputationsbezogenes Risiko dar.

Weitere Fragen zum Schutz von Gesundheitsdaten in KI-Projekten:

1. Kann ich dieselben Gesundheitsdaten für die klinische Praxis und für das KI-Training verwenden?
   Ja, aber in beiden Fällen benötigen Sie eine Rechtsgrundlage. Für die Klinik ist dies der Behandlungszweck. Für das KI-Training kann es entweder eine ausdrückliche Einwilligung oder ein berechtigtes Interesse sein (sofern Sie alle Voraussetzungen der DSGVO und des AI Act erfüllen). Hat ein Patient abgelehnt, im Zusammenhang mit dem KI-Training kontaktiert zu werden, dürfen Sie seine Daten ohne neue Einwilligung nicht verwenden.
2. Wenn ich die Daten anonymisiere, kann ich sie dann jederzeit verwenden?
   Nein. Die Anonymisierung muss korrekt durchgeführt werden und überprüfbar sein. Nur weil Sie den Namen entfernt haben, sind die Daten noch nicht wirklich anonym. Sie müssen sicher sein, dass keine Re-Identifizierung möglich ist. Das erfordert eine technische Analyse und Dokumentation. Ohne sie riskieren Sie einen Verstoß gegen die DSGVO.
3. Was ist, wenn ein externer KI-Anbieter die KI mit meinen Daten trainiert?
   Dann ist der externe Anbieter „Auftragsverarbeiter“ und Sie sind „Verantwortlicher“. Sie müssen mit dem Auftragsverarbeiter einen schriftlichen Auftragsverarbeitungsvertrag schließen, der sicherstellt, dass er die DSGVO einhält. Zugleich haften Sie für die Datensicherheit. Kommt es zu einem Datenabfluss, haften Sie, auch wenn die Daten physisch beim externen Anbieter lagen.

Kollision der Regelwerke in der Praxis: Eine Fallstudie

Ausgangslage:

Stellen wir uns eine konkrete Situation vor, mit der sich die Anwälte der Kanzlei befasst haben: Ein Universitätsklinikum möchte ein KI-System zur Krebserkennung auf Mammografieaufnahmen einführen. Das System soll mit Daten von 50 000 Patientinnen des Klinikums aus den letzten 10 Jahren trainiert werden.

Das System wird als unterstützendes Werkzeug für Radiologen eingesetzt und in das bestehende System zur Verwaltung medizinischer Bilder integriert. Es wird von einem Drittanbieter gemietet, konkret von einem KI-Start-up.

Welche Regelwerke betreffen dieses Projekt?

1. DSGVO:

Gesundheitsdaten (Aufnahmen, Diagnosen, Alter, Geschlecht) werden für das Training verwendet. Das ist eine Verarbeitung personenbezogener Daten, die eine Rechtsgrundlage erfordert. Das Klinikum benötigt die Einwilligung der Patientinnen oder ein berechtigtes Interesse.

Zugleich muss es den Schutz der Daten gewährleisten, was Verschlüsselung, Zugriffsrechte und Incident-Management umfasst. Jede Verletzung kann hier schwerwiegende Folgen für die Privatsphäre der Patientinnen und für das Klinikum haben.

2. NIS2:

Die Daten werden in der Cloud eines Drittanbieters gespeichert, und zahlreiche Personen im Klinikum werden darauf zugreifen. Daher müssen IAM, Protokollierung und Incident-Management eingeführt werden. Bei einem Datenabfluss ist der Vorfall den zuständigen Behörden zu melden.

3. AI Act:

Das System ist hochriskant, da es sich um eine medizinische Anwendung handelt. Es muss eine Risikobewertung (Risk Assessment) und Tests auf Verzerrungen (Bias) durchlaufen, und menschliche Aufsicht (Human Oversight) muss gewährleistet sein. Außerdem ist eine vollständige technische Dokumentation erforderlich.

Die Patientinnen müssen darüber informiert werden, dass bei ihnen KI eingesetzt wird. Zudem ist eine regelmäßige Überwachung notwendig, um festzustellen, ob der Algorithmus bei bestimmten Patientinnengruppen an Genauigkeit verliert, was zu Diskriminierung führen könnte.

4. MDR:

Ist das System Bestandteil eines regulierten Medizinprodukts, muss es auch der Medizinprodukteverordnung (MDR) entsprechen. Dies umfasst die klinische Bewertung, die Überwachung nach dem Inverkehrbringen und die Meldung von Vorkommnissen.

5. Tschechische Rechtsvorschriften:

Neben den europäischen Verordnungen gelten auch tschechische Rechtsvorschriften. Dazu gehören das tschechische Gesetz über Gesundheitsdienstleistungen und die Bedingungen ihrer Erbringung, die Durchführungsverordnungen sowie die internen Vorschriften des Krankenhauses zu Datenschutz und Informationssicherheit. Alle müssen miteinander im Einklang stehen.

Was sollte das Krankenhaus tun?

Das Krankenhaus sollte zunächst von Anwälten eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment) und eine Datenschutz-Folgenabschätzung (Data Protection Impact Assessment) erstellen lassen. Diese Analysen sind für die Identifizierung der Risiken entscheidend.

Weiter muss eine KI-Richtlinie des Krankenhauses erarbeitet und genehmigt werden, die klar festlegt, wie mit künstlicher Intelligenz in der jeweiligen Gesundheitseinrichtung umgegangen wird. Diese Richtlinie sichert einen einheitlichen und sicheren Umgang mit KI-Technologien.

Entscheidend ist außerdem der Abschluss eines Vertrags mit dem KI-Anbieter, der eine klare Abgrenzung der Verantwortlichkeiten sowie Regelungen zu Datensicherheit und Vertraulichkeit enthält. Es muss sichergestellt sein, dass die Gesundheitsdaten ordnungsgemäß geschützt sind.

Dazu gehören die Verschlüsselung der Daten bei der Übertragung und im Ruhezustand, die Festlegung geeigneter Zugriffsrechte und Backups. Unverzichtbar ist auch die Einführung menschlicher Aufsicht (Human Oversight): Radiologen werden über die Funktionsweise des Systems, seine Grenzen und das Vorgehen bei einem Versagen geschult.

Das Krankenhaus muss das System auf Verzerrungen (Bias) testen und beobachten, wie es bei verschiedenen Altersgruppen, Hautfarben oder BMI-Werten funktioniert. Wichtig ist die Einführung einer Überwachung nach dem Inverkehrbringen (Post-Market Monitoring).

Überwachung nach dem Inverkehrbringen bedeutet, laufend zu prüfen, ob der Algorithmus weiterhin korrekt funktioniert. Dazu gehört auch die Information der Patientinnen, entweder allgemein im Wartezimmer oder individuell im Rahmen der Diagnostik. Ein Plan zur Reaktion auf Vorfälle (Incident Response Plan) muss vorbereitet sein.

Ein solches Projekt ist komplex, und ohne rechtliche und technische Unterstützung erreicht das Krankenhaus möglicherweise nicht das richtige Ergebnis.

Die Anwälte der Anwaltskanzlei ARROWS unterstützen Krankenhäuser bei solchen Projekten – von der frühen Planung über die Konformitätsprüfung bis zur Implementierung und Überwachung nach dem Inverkehrbringen.

Sanktionen bei Verstößen: Reale Zahlen und Folgen

Verstöße gegen die NIS2-Richtlinie, den AI Act oder die DSGVO sind keine bloßen Verwaltungsübertretungen. Es handelt sich um schwerwiegende Verstöße mit realen finanziellen und betrieblichen Folgen, die den Betrieb der Gesundheitseinrichtung selbst gefährden können.

Sanktionen für Verstöße gegen die NIS2 (Cybersecurity Act Nr. 264/2025 Slg.) können bis zu 250 Mio. CZK oder 2 % des weltweiten Jahresumsatzes der Organisation erreichen, je nachdem, welcher Betrag höher ist. Diese Bußgeldhöhe stellt ein erhebliches finanzielles Risiko dar.

Zusätzlich zu den Bußgeldern droht auch eine persönliche Haftung der Mitglieder der Leitungsorgane. Betroffen sein können also nicht nur die Organisationen selbst, sondern auch einzelne für die Sicherheit verantwortliche Personen, was den Druck zur Einhaltung der Vorschriften erhöht.

Die Sanktionen für Verstöße gegen den AI Act (Verordnung (EU) 2024/1689) richten sich nach der Schwere. Für Verstöße gegen verbotene Praktiken (Artikel 5) drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Für Verstöße gegen sonstige Pflichten, etwa in Bezug auf Risikomanagementsysteme, Datenqualität, technische Dokumentation, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit (Artikel 10–50), können Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes verhängt werden.

Die Bereitstellung unrichtiger Informationen nach dem AI Act kann zu Bußgeldern von bis zu 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes führen, je nachdem, welcher Betrag höher ist. Diese Sanktionen spiegeln die Bedeutung von Transparenz und ordnungsgemäßer Information wider.

Für Verstöße gegen die DSGVO, etwa gegen die Grundsätze des Datenschutzes oder bei unzureichend eingeholter Einwilligung, drohen Bußgelder von bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes. Diese Sanktionen gehören zu den höchsten im EU-Regulierungsrecht.

Für ein Krankenhaus mit einem Jahresumsatz von 100 Mio. CZK (ca. 4,1 Mio. EUR) bedeutet dies Bußgelder in Höhe von zig Millionen Kronen pro Verstoß. Werden drei Regelwerke gleichzeitig verletzt, was nicht selten vorkommt, können sich die Bußgelder addieren und existenzbedrohend werden.

Die finanziellen Folgen sind jedoch nur eine Seite der Medaille. Schlimmer können weitere Konsequenzen sein, etwa Betriebsunterbrechungen, Vertrauensverlust, Rechtsstreitigkeiten und blockierte Transaktionen, die langfristig negative Auswirkungen auf das Krankenhaus haben können.

Betriebsunterbrechung: Kommt es aufgrund mangelhafter Sicherheit (NIS2-Compliance) zu einem Cybervorfall, können die Betriebssysteme ausfallen, und das Krankenhaus kann keine Patienten mehr behandeln. Operationssäle stehen ohne Systeme da, Arzneimittellager sind nicht zugänglich.

Vertrauensverlust: Sobald bekannt wird, dass ein Krankenhaus eine mangelhafte Sicherheit hatte oder ein KI-System ohne Transparenz eingesetzt hat, verlieren Patienten und Ärzte das Vertrauen. Das wirkt sich langfristig auf den Ruf aus.

Rechtsstreitigkeiten: Patienten, die von einem Verstoß gegen die DSGVO oder den AI Act betroffen sind, können auf Schadensersatz klagen. Wurde ein Patient mit einem KI-System mit festgestellter Verzerrung diagnostiziert und hat er schlechtere Behandlungsergebnisse, kann er auf Schadensersatz klagen.

Blockierte Transaktionen: Ist das Krankenhaus Teil einer größeren Organisation oder unterliegt es der Kontrolle von Investoren, können Compliance-Verstöße in Bereichen wie DSGVO, NIS2 und AI Act Fusionen, Übernahmen oder Finanzierungen blockieren.

Praktische Schritte zur Compliance: Was ein Krankenhaus jetzt tun sollte

Audit des Compliance-Status

Als Erstes muss das Krankenhaus feststellen, wo es steht. Es sollte ein Compliance-Audit durchführen lassen, das die zentralen Bereiche bewertet. Dazu gehört die Identifizierung aller eingesetzten KI-Systeme und ihrer Risikoeinstufung nach dem AI Act.

Das Audit sollte zudem prüfen, ob für diese Systeme die erforderlichen Unterlagen wie Risikobewertungen und technische Dokumentation geführt werden und ob die Einwilligung der Patienten sichergestellt ist. Wichtig ist auch der Schutz der Gesundheitsdaten nach der DSGVO.

Zu bewerten ist das Niveau der Cybersicherheit, einschließlich Identitäts- und Zugriffsmanagement (IAM), Protokollierung und Incident-Management. Das Audit prüft außerdem, ob die KI-Systeme auf Verzerrungen (Bias) getestet werden.

Entscheidend ist ferner zu prüfen, ob die Ärzte geschult sind und wissen, wie KI-Systeme richtig zu nutzen sind. Ohne gründliches Audit arbeitet das Krankenhaus im Blindflug und weiß nicht, wo die tatsächlichen Risiken liegen und wie sie wirksam zu behandeln sind.

Governance und Richtlinien

Das Krankenhaus sollte eine schriftliche KI-Richtlinie verabschieden, da ungeschriebene interne Regeln und Gepflogenheiten nicht ausreichen. Diese Richtlinie sollte klar definieren, was KI im Kontext des Krankenhauses bedeutet und welche Systeme für das Haus hochriskant sind.

Die KI-Richtlinie muss festlegen, wie neue KI-Systeme vor ihrem Einsatz genehmigt werden, einschließlich der zuständigen Kommission oder der Genehmigung durch die Direktion. Ebenso muss klar geregelt sein, wer für die Compliance verantwortlich ist, zum Beispiel ein AI Officer, die Rechtsabteilung oder die IT.

Weiter sollte die Richtlinie festlegen, wie mit KI-bezogenen Vorfällen umgegangen wird, etwa mit einer Fehldiagnose oder einem Datenabfluss. Wichtig ist auch festzulegen, wie mit Patienten über den Einsatz von KI kommuniziert wird.

Nicht zuletzt muss die Richtlinie beschreiben, wie KI-Systeme nach ihrem Einsatz überwacht werden. Ohne eine solche Richtlinie verlaufen Entscheidungen chaotisch und Risiken werden nicht ordnungsgemäß gesteuert, was schwerwiegende Folgen für den Krankenhausbetrieb haben kann.

Schulung und Sensibilisierung

Ärzte und medizinisches Personal, die mit KI-Systemen arbeiten, müssen genau wissen, was sie tun. Sie sollten dem Ergebnis eines KI-Systems nicht einfach blind vertrauen, sondern seine Funktionsweise und seine Grenzen verstehen. Das ist die Grundlage für einen sicheren Einsatz von KI.

Außerdem müssen sie wissen, in welchen Situationen der Algorithmus nicht zuverlässig ist, zum Beispiel bei bestimmten Altersgruppen. Sie müssen wissen, dass sie das KI-Ergebnis überschreiben oder ignorieren dürfen, und wie sie melden, wenn sie vermuten, dass der Algorithmus nicht korrekt funktioniert.

Das erfordert Schulungen, die nicht einmalig sind, sondern laufend stattfinden. Wird der Algorithmus aktualisiert, muss das Personal erneut geschult werden, damit es stets vollständig über neue Funktionen und potenzielle Risiken informiert ist.

Datenverwaltung und Datensicherheit (Data Governance)

Gesundheitsdaten in KI-Projekten müssen nach DSGVO und NIS2 geschützt werden. Entscheidend sind die Verschlüsselung der Daten bei der Übertragung und im Ruhezustand sowie Zugriffsrechte, mit denen nur diejenigen Zugang zu sensiblen Informationen erhalten, die ihn benötigen.

Unverzichtbar ist auch eine Protokollierung, die festhält, wer wann auf die Daten zugegriffen hat und was damit geschehen ist. Wichtig sind zudem ein wirksames Incident-Management für den Fall eines Datenabflusses und eine Richtlinie zur Datenaufbewahrung (Retention Policy), die die Aufbewahrungsdauer festlegt.

Zugleich müssen die Daten für das KI-Training von hoher Qualität sein. Sie müssen für die Zielpopulation repräsentativ sein, nicht nur für Männer oder Patienten aus wohlhabenderen Gegenden. Sie müssen auf Verzerrungen (Bias) getestet werden.

Die Tests zeigen, wie die KI bei verschiedenen Patientengruppen funktioniert. Die Daten müssen außerdem ordnungsgemäß dokumentiert werden, einschließlich Angaben zu Herkunft, Bereinigung und zugrunde gelegten Annahmen. Transparenz ist in diesem Bereich entscheidend.

Monitoring und Audit nach dem Einsatz

Sobald ein KI-System im Einsatz ist, beginnt die Arbeit erst richtig. Das Krankenhaus muss die Leistung des Algorithmus laufend überwachen und prüfen, ob er über die Zeit gleich genau bleibt. Wichtig ist, nach neuen Verzerrungen zu suchen.

Weiter ist festzustellen, ob sich der Algorithmus bei allen Patientengruppen gleich verhält. Wichtig sind auch das Feedback der Ärzte und Audits, die prüfen, wie das System tatsächlich genutzt wird. Treten Probleme auf, müssen sie durch Aktualisierungen behoben werden.

Ohne Überwachung nach dem Inverkehrbringen (Post-Market Monitoring) weiß das Krankenhaus nicht, ob der Algorithmus ihm weiterhin korrekt und sicher dient. Regelmäßiges Monitoring ist daher unerlässlich, um die Einhaltung der regulatorischen Anforderungen und die Qualität der Versorgung zu gewährleisten.

Dokumentation und Audit-Trail

Für alle genannten Schritte muss eine vollständige Dokumentation vorliegen. Kommt es zu einer Kontrolle oder einer Gerichtsverhandlung, muss das Krankenhaus seine Entscheidungen und die getroffenen Maßnahmen nachweisen können. Die Dokumentation dient als Nachweis der Konformität.

Das Krankenhaus muss zeigen können, welche Entscheidung warum getroffen wurde, welche Risiken bewertet und welche Maßnahmen ergriffen wurden. Wichtig ist auch festzuhalten, wer wann entschieden hat, welche Audits durchgeführt wurden und mit welchen Ergebnissen.

Ohne angemessene Dokumentation kann das Krankenhaus nicht nachweisen, dass es rechtskonform gehandelt hat. Mit einer gründlichen Dokumentation hat es dagegen die Chance, sich zu verteidigen und seine Compliance zu belegen, was im heutigen regulatorischen Umfeld entscheidend ist.

Die Anwälte der Anwaltskanzlei ARROWS begleiten Krankenhäuser bei all diesen Schritten. Sie unterstützen beim Audit, bei der Erstellung von Richtlinien, bei der Schulung des Managements, bei der Vorbereitung von Verträgen mit KI-Anbietern, beim Compliance-Monitoring und bei der Vertretung in behördlichen Kontrollen.

Die häufigsten Fehler und wie man sie vermeidet

Fehler 1: Den AI Act ignorieren, weil man meint, es gehe nicht um „künstliche Intelligenz“

Viele Krankenhäuser glauben irrtümlich, der AI Act betreffe nur Robotik oder Chatbots. In Wirklichkeit gilt der AI Act für jeden Algorithmus, der in einem bestimmten Kontext zur Unterstützung oder Entscheidungsfindung eingesetzt wird.

Solche Algorithmen haben potenzielle Auswirkungen auf Grundrechte. Typischerweise ignorieren Krankenhäuser den AI Act bei Algorithmen zur Bilddiagnostik, bei klinischer Entscheidungsunterstützung oder bei älteren Systemen zur Mortalitätsvorhersage.

Diese Systeme sind nach dem AI Act hochriskant, auch wenn das Krankenhaus sie lediglich als „Software“ oder „bloßes Hilfsmittel“ betrachtet. Im Ergebnis befindet sich das Krankenhaus faktisch im Verstoß, ohne es zu merken, was zu unerwarteten Kontrollen führt.

Dann kommt ein Inspektor und stellt fest, dass das System kein Risikomanagement hat, nicht dokumentiert ist und die Patienten nicht informiert werden. Das hat schwerwiegende Folgen für den Betrieb und den Ruf der Gesundheitseinrichtung.

So vermeiden Sie den Fehler: Lassen Sie ein gründliches Audit durchführen, das ermittelt, welche Systeme nach dem AI Act hochriskant sind. Erst auf Grundlage dieser Erkenntnisse können Sie Ihre Compliance-Strategie wirksam planen und Risiken minimieren.

Fehler 2: Die Überzeugung, dass Anonymisierung das DSGVO-Problem löst

Viele Krankenhäuser denken: „Wir nehmen die Trainingsdaten ohne Namen und Adressen – wir anonymisieren sie einfach – und können sie dann problemlos zum KI-Training verwenden.“ Diese Annahme ist in der Praxis jedoch häufig falsch.

Tatsächlich ist Anonymisierung sehr schwierig, insbesondere bei Gesundheitsdaten. Wie bereits erwähnt, geht der Europäische Datenschutzausschuss (EDSA) in der Stellungnahme 28/2024 davon aus, dass Daten in vielen Fällen re-identifiziert werden können. Das erschwert die Lage.

Gesundheitsdaten sicher zu anonymisieren, erfordert fachliche technische Kompetenz und wissenschaftliche Sorgfalt. Ohne sie riskiert das Krankenhaus, sich DSGVO-konform zu wähnen, obwohl es das in Wirklichkeit nicht ist, was zu Sanktionen führen kann.

So vermeiden Sie den Fehler: Lassen Sie ein Audit von Experten für Privacy Engineering und DSGVO durchführen, die beurteilen, ob Ihre Anonymisierungsmaßnahmen tatsächlich wirksam sind. Wenn Sie unsicher sind, holen Sie lieber die ausdrückliche Einwilligung der Patienten ein. Das ist die sicherere und robustere Lösung.

Fehler 3: Fehlende Umsetzung der menschlichen Aufsicht (Human Oversight)

Nach dem AI Act muss ein Hochrisiko-KI-System unter menschlicher Aufsicht stehen. Ärzte müssen verstehen können, wie die KI funktioniert, und sie außer Kraft setzen können, wenn sie sehen, dass sie nicht korrekt arbeitet. Viele Krankenhäuser ignorieren dies jedoch.

Manche Krankenhäuser halten menschliche Aufsicht für überflüssig oder gehen davon aus, dass Ärzte die Systeme ohnehin überwachen. Häufig fehlen auch Zeit oder Ressourcen für die notwendigen Schulungen, was zu einer unzureichenden Umsetzung dieser zentralen Pflicht führt.

Tatsächlich lässt sich ohne menschliche Aufsicht keine Konformität mit dem AI Act nachweisen. Und geht etwas schief, etwa eine Fehldiagnose, die zu einem Schaden beim Patienten führt, kann sich das Krankenhaus vor Gericht nicht damit verteidigen, dass „das System es selbst getan hat“.

So vermeiden Sie den Fehler: Setzen Sie menschliche Aufsicht als verpflichtenden und festen Bestandteil jedes KI-Projekts um. Dazu gehören systematische Schulungen, klare Verfahren für Überwachung und Eingreifen sowie regelmäßige Audits, nicht bloß nachträgliche Maßnahmen.

Fehler 4: Unterschätzung der NIS2-Anforderungen

Der Cybersecurity Act Nr. 264/2025 Slg. ist neu, und viele Krankenhäuser haben ihn noch nicht gründlich gelesen. Viele glauben, die alten IT-Sicherheitssysteme würden ausreichen. Das ist ein grundlegender Irrtum mit potenziell schwerwiegenden Folgen.

Tatsächlich verlangt NIS2 einen neuen Ansatz, etwa ein Identitäts- und Zugriffsmanagement (IAM) nach dem Prinzip der „minimalen Rechte“. Erforderlich sind außerdem eine zentralisierte Protokollierung, ein wirksames Incident-Management sowie umfassende technische und organisatorische Maßnahmen.

Für ein mittleres bis großes Krankenhaus geht es nicht nur um ein Firewall-Update. Es geht um eine vollständige Neuorganisation der IT-Infrastruktur und der Prozesse, die erhebliche Investitionen und Zeitaufwand erfordert.

Hat ein Krankenhaus diese Maßnahmen bis zum 1. November 2025 nicht umgesetzt, befindet es sich im Verstoß und muss mit hohen Bußgeldern rechnen, die seinen Betrieb gefährden können. Eine rechtzeitige Reaktion ist daher absolut entscheidend.

So vermeiden Sie den Fehler: Lassen Sie umgehend ein NIS2-Compliance-Audit durchführen, um sich einen Überblick über den aktuellen Stand zu verschaffen. Erstellen Sie anschließend einen detaillierten Umsetzungsplan für 12–18 Monate. Es ist entscheidend, nicht bis zum letzten Moment zu warten, denn der Prozess ist zeitaufwendig.

Fehler 5: Ein schwacher Vertrag mit dem KI-Anbieter

Krankenhäuser mieten KI-Systeme häufig von Drittanbietern. Der Vertrag ist jedoch oft zu kurz und enthält nur Grundangaben wie Preis, Laufzeit und Kündigungsfrist, aber nichts weiter zu den Verantwortlichkeiten.

Tatsächlich glaubt das Krankenhaus, es könne den Anbieter verklagen, wenn etwas schiefgeht. Regelt der Vertrag aber nicht die Haftung für Daten, Sicherheit, Genauigkeit des Algorithmus oder Incident-Management, trägt das Krankenhaus in einem etwaigen Rechtsstreit die gesamte Last allein.

Ein guter Vertrag muss zentrale Klauseln enthalten. Dazu gehören die Haftung für Daten, einschließlich ihrer Verschlüsselung und Löschung, sowie Genauigkeit und Leistung (Accuracy and Performance), die ein Mindestniveau der Funktionsfähigkeit des KI-Systems festlegen.

Unverzichtbar sind außerdem Regelungen zur Reaktion auf Vorfälle (Incident Response) und ein Auditrecht, das dem Krankenhaus ermöglicht, Sicherheit und Compliance zu kontrollieren. Der Vertrag muss Gewährleistungsfristen und Rechte des geistigen Eigentums (IP Rights) festlegen, damit klar ist, wem was gehört.

So vermeiden Sie den Fehler: Lassen Sie den Vertrag mit dem KI-Anbieter von den Anwälten der Anwaltskanzlei ARROWS erstellen oder prüfen. Diese Experten kennen sowohl die Besonderheiten der künstlichen Intelligenz als auch das Gesundheitsrecht und sorgen für einen umfassenden Schutz Ihrer Interessen.

Risikotabelle: Praktische Probleme und Lösungen

Öffentliche Einrichtungen: Besonderheiten der Compliance in der kommunalen Gesundheitsversorgung

Registrierung von KI-Systemen

Ist das Krankenhaus eine öffentliche Einrichtung und betreibt es ein Hochrisiko-KI-System, muss es dieses nach dem AI Act in der EU-weiten Datenbank für KI-Systeme registrieren. Diese Datenbank soll zumindest teilweise öffentlich zugänglich werden.

Die Datenbank soll einen Überblick darüber geben, welche KI-Systeme in Europa eingesetzt werden. Die Registrierung ist nicht freiwillig, sondern für bestimmte Hochrisikosysteme verpflichtend. Kommt das Krankenhaus ihr nicht nach, verstößt es gegen den AI Act.

Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment)

Öffentliche Gesundheitseinrichtungen haben eine besondere Pflicht: Vor dem Einsatz eines Hochrisiko-KI-Systems müssen sie eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment) durchführen. Diese Analyse ist für den Schutz der Patientenrechte entscheidend.

Das bedeutet, dass das Krankenhaus formell analysieren muss, welche Patientengruppen durch das KI-System benachteiligt werden könnten. Außerdem sind die Risiken für Grundrechte wie das Recht auf Gesundheit, Nichtdiskriminierung und Privatsphäre zu bewerten.

Ebenso müssen die Maßnahmen festgelegt werden, die zur Minimierung dieser Risiken ergriffen werden. Die Folgenabschätzung ist der Aufsichtsbehörde vorzulegen, was Transparenz und Rechenschaftspflicht sicherstellt.

Governance und Verantwortung

Öffentliche Einrichtungen haben klar definierte Verantwortungsketten, einschließlich Direktor, Aufsichtsgremium und Leitung. KI-Governance (AI Governance) muss daher fester Bestandteil der Leitungsstruktur der Einrichtung sein. Das ist für eine wirksame Aufsicht entscheidend.

Weitere Fragen: Compliance öffentlicher Gesundheitseinrichtungen:

1. Wer haftet, wenn ein KI-System versagt und ein Patient einen Schaden erleidet?
   Die Verantwortung liegt nicht bei einer einzelnen Person. Es ist eine Kombination – der KI-Anbieter (hat er das System ohne ausreichende Sicherheit verkauft?), das Krankenhaus als Betreiber (fehlte die menschliche Aufsicht?), der Arzt (hat er ein Warnsignal der KI ignoriert?). Ein Rechtsstreit wird die Rolle jedes Beteiligten prüfen. Deshalb ist die Dokumentation so wichtig – damit klar ist, wer was getan hat.
2. Wie unterscheidet sich die KI-Governance (AI Governance) in einem privaten und einem öffentlichen Krankenhaus?
   Öffentliche Krankenhäuser haben mehr Bürokratie und Kontrollmechanismen, aber auch mehr Verantwortung gegenüber der Öffentlichkeit. Sie müssen transparent und rechenschaftspflichtig (accountable) sein, was mehr Dokumentation und Audits bedeutet. Private Krankenhäuser können agiler sein, tragen die Risiken aber auch stärker selbst.
3. Lässt sich vom AI Act eine Ausnahme für das „öffentliche Interesse an der Gesundheit“ machen?
   Der AI Act enthält einige Ausnahmen für Gesundheitszwecke, diese sind jedoch keine „Rechte“ zum Regelverstoß. Die Ausnahmen betreffen eher die Auslegung dessen, was hochriskant ist, oder die Bedingungen der Datenverarbeitung. Beide Regelwerke beruhen darauf, dass Gesundheit ein öffentliches Interesse ist – deshalb gibt es dort mehr Schutz, nicht weniger.

Fazit

Gesundheitseinrichtungen in der Tschechischen Republik stehen vor einer beispiellos komplexen Regulierungslage, die aus mindestens drei eng miteinander verknüpften Regelwerken besteht – NIS2, AI Act und DSGVO. Hinzu kommen Überschneidungen mit nationalem Recht und sektoralen Normen (MDR).

Diese komplexe Lage erfordert einen proaktiven Ansatz und ein tiefes Verständnis aller regulatorischen Anforderungen, um Risiken zu minimieren und eine reibungslose, sichere und rechtskonforme Gesundheitsversorgung zu gewährleisten.

Die NIS2-Richtlinie und der Cybersecurity Act Nr. 264/2025 Slg., der am 1. November 2025 in Kraft getreten ist, verlangen von Gesundheitseinrichtungen eine konsequente Cybersicherheit. Dazu gehört ein Identitäts- und Zugriffsmanagement (IAM) nach dem Prinzip der „minimalen Rechte“.

Außerdem sind eine zentralisierte Protokollierung, ein wirksames Incident-Management und regelmäßige Audits einzuführen. Bei Verstößen drohen Bußgelder von bis zu 250 Mio. CZK und weitere rechtliche Folgen, was unterstreicht, wie wichtig die Einhaltung dieser Vorschriften ist.

Die EU-Verordnung über künstliche Intelligenz (AI Act), die am 1. August 2024 in Kraft getreten ist und für Hochrisikosysteme ab dem 2. August 2026 vollständig anwendbar ist, führt eine umfassende Regulierung künstlicher Intelligenz ein.

Hochrisiko-KI-Systeme in der Medizin, etwa für Diagnostik, klinische Entscheidungsunterstützung oder Triage, müssen Risikomanagement, Tests auf Verzerrungen und Dokumentation durchlaufen und unter menschlicher Aufsicht stehen. Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro.

Die DSGVO und Gesundheitsdaten als besondere Kategorie personenbezogener Daten erfordern verstärkten Schutz, Transparenz und Kontrolle. Anonymisierung ist keine einfache Lösung. Die aktuelle Auslegung (EDSA-Stellungnahme 28/2024) geht davon aus, dass Daten re-identifiziert werden können.

Die Möglichkeit der Re-Identifizierung erhöht die Anforderungen an den Datenschutz. Praktisch bedeutet das, dass Krankenhäuser verstehen müssen, welche ihrer KI-Systeme hochriskant sind, und Risikomanagement sowie menschliche Aufsicht umsetzen müssen, um die Rechtskonformität sicherzustellen.

In der Praxis bedeutet das, dass Krankenhäuser:

• verstehen müssen, welche ihrer KI-Systeme hochriskant sind,
• Risikomanagement und menschliche Aufsicht umsetzen müssen,
• sicherstellen müssen, dass Gesundheitsdaten geschützt und sicher sind,
• beim Training von KI mit Patientendaten für korrekte Rechtsgrundlagen und Sicherheit sorgen müssen,
• die Compliance regelmäßig überwachen und auditieren müssen,
• das Personal schulen und Dokumentation führen müssen,
• einen Plan zur Reaktion auf Vorfälle bereithalten müssen,
• KI-Systeme (sofern sie öffentliche Einrichtungen sind) in der EU-Datenbank registrieren müssen.

Ohne diese Strategie und ohne fachliche rechtliche und technische Unterstützung ist das Krankenhaus einem hohen Risiko von Bußgeldern, Betriebsunterbrechungen, Rechtsstreitigkeiten und dem Verlust des Patientenvertrauens ausgesetzt.

Die Anwälte und Berater der Anwaltskanzlei ARROWS verfügen über Erfahrung in allen Aspekten der Compliance. Sie kennen sich in den sich überschneidenden Regelwerken aus, helfen dem Krankenhaus, die konkreten Pflichten zu verstehen, und entwerfen Strategien und deren Umsetzung.

Kommt es zu einer Kontrolle oder einem Vorfall, unterstützen sie bei der Verteidigung und Lösung. Wenn Sie Risiken minimieren und sicher sein möchten, dass Ihre Gesundheitseinrichtung rechtskonform handelt, wenden Sie sich an die Anwaltskanzlei ARROWS – beratung@arws.cz.

Häufige Fragen zu: Cybersicherheit und AI Act in Krankenhäusern

1. Was soll ich tun, wenn ich keine Zeit habe, mich mit all dem zu befassen, und weder IT-Sicherheitsspezialisten noch Juristen habe?
   Lassen Sie zuerst ein Audit durchführen – ein externes Unternehmen sagt Ihnen, wo Sie stehen und welche Risiken drohen. Wenden Sie sich dann an die Anwälte der Anwaltskanzlei ARROWS (beratung@arws.cz), die Sie bei den rechtlichen Fragen und der Planung unterstützen. Ohne Audit und rechtliche Unterstützung arbeiten Sie im Blindflug.
2. Wenn ich ein KI-System habe, das seit 5 Jahren problemlos läuft, muss ich es an den neuen AI Act anpassen?
   Ja, der AI Act gilt für alle Hochrisiko-KI-Systeme, die nach dem 2. August 2026 genutzt werden, unabhängig von ihrem Alter. Erfüllt das System die Kriterien für Hochrisiko-KI (was Diagnosesysteme typischerweise tun), muss es dem AI Act entsprechen. Das bedeutet Risikomanagement, Dokumentation, menschliche Aufsicht und Monitoring. Die Anwälte von ARROWS helfen Ihnen zu beurteilen, was konkret zu tun ist.
3. Wie beurteile ich, ob unser KI-System hochriskant ist?
   Hochriskant ist ein System, das zur Unterstützung oder Entscheidungsfindung eingesetzt wird und erhebliche Auswirkungen auf die Gesundheit oder die Grundrechte der Patienten hat. Typisch sind: Bilddiagnostik, klinische Entscheidungsunterstützung, Triage, Prognose, Ressourcenallokation. Am einfachsten ist es, dies prüfen zu lassen – die Anwälte von ARROWS haben darin Erfahrung.
4. Müssen Patienten formell zustimmen, wenn KI auf ihre Daten angewendet wird?
   Das hängt von der Situation ab. Wird KI als unterstützendes Werkzeug unmittelbar in ihrer Behandlung eingesetzt (z. B. eine KI-Hilfe zur Diagnose ihrer Aufnahme), müssen sie informiert werden (AI Act). Werden ihre Daten zum Training von KI verwendet und geht es nicht um ihre eigene Behandlung, benötigen Sie eine Einwilligung (DSGVO) oder ein berechtigtes Interesse (unter Bedingungen). Die Anwälte von ARROWS helfen Ihnen, die Situationen zu unterscheiden und das Vorgehen festzulegen.
5. Welche Strafe müssen wir erwarten, wenn wir KI ohne Compliance einsetzen und das entdeckt wird?
   Das hängt von der Schwere ab. Bei einer kleineren administrativen KI ohne großen Einfluss vielleicht nur ein Hinweis und die Aufforderung zur Abhilfe. Bei einer diagnostischen KI ohne menschliche Aufsicht, die bei Tausenden Patienten eingesetzt wird, drohen Sanktionen in Millionenhöhe in Kronen oder Euro, Meldung des Vorfalls, Audits und möglicherweise mediale Aufmerksamkeit. Am einfachsten ist es, die Compliance von Anfang an zu regeln – das ist nicht teuer.
6. Wie lange dauert es, Compliance zu konzipieren und umzusetzen?
   Das hängt vom Umfang ab. Ein einfaches Audit mit Bericht – einige Monate. Vollständige Umsetzung von IAM nach NIS2, KI-Richtlinie, Schulungen – 12–18 Monate. Die Anwälte von ARROWS unterstützen Sie bei den rechtlichen Aspekten, den technischen Teil übernehmen Ihre IT oder externe IT-Unternehmen. Es ist keine einmalige Angelegenheit – Compliance ist ein fortlaufender Prozess.

Haben Sie weitere Fragen? Wenden Sie sich an die Anwälte der Anwaltskanzlei ARROWS – beratung@arws.cz. Gerne helfen wir Ihnen, Ihre konkrete Situation zu verstehen und eine Lösung zu entwickeln.