AI Act: Welche Pflichten haben Sie seit dem 2. Februar 2025?
Der AI Act verbietet seit dem 2. Februar 2025 ausgewählte riskante Praktiken und verpflichtet Anbieter wie Nutzer von KI, ein angemessenes Maß an KI-Kompetenz sicherzustellen. Die Verordnung gilt unmittelbar in der gesamten EU und damit auch in der Tschechischen Republik. So muss beispielsweise ein Unternehmen, das KI bei der Personalauswahl einsetzt, seine Mitarbeiter mit den Möglichkeiten und Risiken dieser Werkzeuge vertraut machen. Der Artikel erläutert die verbotenen Einsatzformen, die Verteilung der Verantwortung und praktische Schritte zur Einführung von Schulungen und internen Regeln.
Die erste umfassende KI-Regulierung in Europa
Verbotene Praktiken – was ist künftig nicht mehr möglich?
Die Verordnung AI Act legt strenge Verbote für bestimmte Einsatzformen von KI fest, die ein Risiko für die Grundrechte und die Sicherheit der Bürger darstellen können. Zu den wichtigsten verbotenen Praktiken gehören:
- Social Scoring – die Bewertung von Einzelpersonen auf der Grundlage ihres Verhaltens, ihrer wirtschaftlichen Lage oder persönlicher Merkmale,
- biometrische Identifizierung aus der Ferne in Echtzeit an öffentlichen Orten, mit Ausnahme des Einsatzes durch die Polizei zur Aufklärung schwerer Straftaten,
- manipulative KI-Techniken, die gezielt die Schutzbedürftigkeit von Einzelpersonen ausnutzen (etwa bei Kindern oder Menschen mit gesundheitlichen Beeinträchtigungen).
Was bedeutet das für Unternehmen? Fällt Ihre KI-Lösung in eine dieser Kategorien, muss sie angepasst oder ihre Nutzung vollständig eingestellt werden. Die Missachtung dieser Verbote kann bei KI-Anbietern und notifizierten Stellen künftig zu hohen Sanktionen führen, siehe unten.
Pflichten der Anbieter und Nutzer von KI
Der AI Act führt neue Pflichten nicht nur für KI-Entwickler ein, sondern auch für Unternehmen, die KI-Technologien nutzen. Ein Teil dieser Pflichten gilt bereits seit dem 2. Februar.
Was bedeutet das für Ihr Unternehmen? KI-Kompetenz ist keine Option mehr, sondern eine Notwendigkeit. Wenn Sie in Ihrem Unternehmen Systeme der künstlichen Intelligenz einführen oder deren Nutzung planen, kommen Sie an einer zentralen Pflicht nicht vorbei: der Pflicht, in Ihrem Unternehmen ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Wenn Sie vor einem ähnlichen Problem stehen, kontaktieren Sie uns unter beratung@arws.cz.
Dies betrifft nicht nur IT-Spezialisten oder die Geschäftsleitung, sondern alle, die mit KI in Berührung kommen – von den Verwaltungsmitarbeitern bis zur Vertriebsabteilung. Ziel ist, dass die Mitarbeiter nicht nur verstehen, wie KI funktioniert, sondern auch in der Lage sind, ihre Ergebnisse kritisch zu beurteilen, und sich der möglichen Risiken ihrer Nutzung bewusst sind.
Was bedeutet die Pflicht zur KI-Kompetenz konkret?
Sie müssen Maßnahmen einführen, die sicherstellen, dass die Menschen in Ihrem Unternehmen die Grundsätze der KI, ihre Möglichkeiten und ihre Risiken verstehen. Dazu können Schulungen gehören, die auf den Kenntnisstand der einzelnen Mitarbeiter zugeschnitten sind, sei es eine grundlegende Einführung in die künstliche Intelligenz oder spezialisierte Schulungen für technische Mitarbeiter. Unternehmen müssen dabei nicht nur die internen Abläufe berücksichtigen, sondern auch den Kontext, in dem ihre KI-Systeme eingesetzt werden.
Auch wenn unmittelbare Sanktionen für die Nichteinhaltung dieser Pflicht bislang nicht festgelegt sind, kann die Nichterfüllung der Pflicht zur KI-Kompetenz künftig ein entscheidender Umstand sein, der einem KI anbietenden Unternehmen hypothetisch etwa in einem Gerichtsverfahren entgegengehalten werden kann.
Unternehmen sollten daher so früh wie möglich mit der Vorbereitung und Umsetzung von Schulungsprogrammen zur KI-Kompetenz beginnen, um auf die bevorstehenden Änderungen vorbereitet zu sein und das Potenzial der künstlichen Intelligenz in ihrer Geschäftstätigkeit voll ausschöpfen zu können.
Weitere wichtige Meilensteine
2. August 2025 – Ausweitung der Regulierung auf weitere Sektoren, Einführung weiterer Pflichten für KI-Anbieter. Ab diesem Datum drohen KI-Anbietern (oder den nach der Verordnung notifizierten Stellen) bei Verstößen gegen den AI Act zudem hohe Sanktionen:
- bei Missachtung des Verbots von KI-Praktiken nach Artikel 5 des AI Act droht eine Geldbuße von bis zu 35 Millionen EUR oder im Falle eines Unternehmens von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist,
- bei Verstößen gegen Artikel 99 Abs. 4 des AI Act in Bezug auf KI-Anbieter oder notifizierte Stellen, die nicht unter Artikel 5 des AI Act fallen, droht eine Geldbuße von bis zu 15 Millionen EUR oder im Falle eines Unternehmens von bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist,
- bei Verletzung der Pflicht, notifizierten Stellen oder den zuständigen nationalen Behörden auf Anfrage richtige, vollständige und nicht irreführende Informationen zu erteilen, droht eine Geldbuße von bis zu 7,5 Millionen EUR oder im Falle eines Unternehmens von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist.
Ergänzend sei angemerkt, dass am 2. Februar 2027 die übrigen Bestimmungen des AI Act wirksam werden, einschließlich der Bestimmung über Sanktionen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Sie sind sich nicht sicher, wie sich der AI Act auf Ihr Unternehmen auswirkt? Kontaktieren Sie die Rechtsexperten von ARROWS, die Sie bei der Risikoanalyse und der Ausgestaltung Ihrer Compliance-Strategie unterstützen.