Künstliche Intelligenz im HR

Konkrete Einsatzbereiche von KI im HR-Bereich

Rekrutierung und Personalauswahl

Die Rekrutierung neuer Mitarbeiter ist für viele Unternehmen einer der ersten Bereiche, in denen sie KI einsetzen.

Automatisiertes Prescreening von Lebensläufen: KI-Systeme können in kürzester Zeit Hunderte von Lebensläufen durchsuchen, nach Schlüsselwörtern oder erforderlichen Qualifikationen filtern und so eine Vorauswahl der Kandidaten treffen. Dies spart Personalverantwortlichen Zeit und hilft, die am besten geeigneten Bewerber ohne menschliche Vorurteile zu identifizieren. Moderne Tools können zudem Vorstellungsgespräche planen und die Kommunikation mit den Kandidaten koordinieren – beispielsweise automatisch Einladungen an ausgewählte Bewerber versenden, passende Termine basierend auf den Kalendern vorschlagen oder Online-Tests verschicken. 

Chatbots und Voicebots übernehmen den ersten Kontakt: Sie beantworten häufige Fragen von Stelleninteressierten schnell und jederzeit, auch außerhalb der Arbeitszeiten. 

Nach Erfahrungen von Personalagenturen finden bis zu 47 % der Gespräche mit einem Rekrutierungs-Chatbot abends oder am Wochenende statt – Kandidaten müssen also nicht auf die Arbeitszeiten warten und erhalten sofort Antworten. 

Dies verbessert ihre Erfahrung im Bewerbungsprozess und entlastet das HR-Team gleichzeitig von Routinefragen. KI hilft auch bei der Erstellung von Stellenanzeigen – sie generiert Texte und sogar Bilder für Stellenangebote, die das Unternehmen dann auf Karriereseiten oder in sozialen Netzwerken nutzen kann. 

Dank KI lässt sich so ein breiterer Kreis von Kandidaten mit einer attraktiven, schnell und maßgeschneidert erstellten Anzeige ansprechen. Bei all diesen Anwendungen ist es jedoch entscheidend, darauf zu achten, dass Algorithmen bestimmte Bewerbergruppen weder bevorzugen noch benachteiligen – darauf werden wir im Abschnitt über Bias und Diskriminierung noch näher eingehen.

Die meisten der genannten KI-Anwendungen im HR-Bereich stehen im Einklang mit dem AI Act, sofern sie ethisch und transparent implementiert werden. Es ist jedoch wichtig sicherzustellen, dass keine Manipulation, Ausnutzung von Schwachstellen, Social Scoring oder Emotionserkennung von Mitarbeitern stattfindet, da diese Praktiken durch den AI Act verboten sind. Ich empfehle, jede KI-Anwendung im HR-Bereich sorgfältig auf die Konformität mit dem AI Act zu prüfen und gegebenenfalls ARROWS zu konsultieren.

Automatisierung von HR-Prozessen

Personalverantwortliche verbringen einen erheblichen Teil ihrer Zeit mit wiederkehrenden administrativen Aufgaben – genau hier kann KI eine große Hilfe sein.

• Bearbeitung der laufenden Personaladministration: KI kann Formulare und Anträge (z. B. Urlaubsanträge, Änderungen persönlicher Daten) automatisch verarbeiten und in die internen Systeme einpflegen. Ein Chatbot für den internen HR-Support kann Fragen der Mitarbeiter zu Benefits, Gehältern oder Unternehmensrichtlinien beantworten und so die HR-Abteilung entlasten.

• Schicht- und Dienstplanung: Fortgeschrittene Algorithmen können die Schichten der Mitarbeiter basierend auf Daten zu Anwesenheit, Verfügbarkeit und betrieblichen Anforderungen optimal planen. Dies spart Unternehmen Zeit bei der Erstellung von Dienstplänen und berücksichtigt gleichzeitig die Präferenzen der Mitarbeiter, sofern diese vorliegen.

• Onboarding neuer Mitarbeiter: KI kann neue Mitarbeiter durch die grundlegenden Aufgaben beim Einstieg führen – vom Ausfüllen der Eintrittsdokumente über das Kennenlernen interner Vorschriften bis hin zu einem virtuellen Rundgang durch den Arbeitsplatz in Form eines interaktiven Chatbots.

• Analyse von HR-Daten und Reporting: KI-Systeme generieren beispielsweise automatisch regelmäßige Berichte über Fluktuation, Krankenstand oder Personalkosten und identifizieren darin Muster oder Anomalien, denen das Management Aufmerksamkeit schenken sollte. Das Ergebnis ist eine Beschleunigung der Prozesse und eine Reduzierung von Fehlern, die durch routinemäßige manuelle Arbeit entstehen.

Untersuchungen zufolge gehört gerade die Automatisierung wiederkehrender Aufgaben zu den größten Vorteilen von KI im HR-Bereich. 

Unternehmen können die gewonnene Zeit so für strategischere Aktivitäten nutzen, bei denen menschliches Urteilsvermögen und Empathie unersetzlich sind.

Leistungsbeurteilung von Mitarbeitern

Der Bereich der Leistungsbeurteilung und des Performance Managements bewegt sich dank KI ebenfalls in eine neue Ära. Traditionelle jährliche Mitarbeitergespräche werden durch kontinuierliche Analysen von Leistungsdaten ergänzt, die teilweise automatisiert werden können.

Analyse von Arbeitsergebnissen: Bei Vertriebsteams kann KI Verkäufe und KPIs in Echtzeit überwachen und Manager auf Schwankungen aufmerksam machen – beispielsweise um Mitarbeiter mit sinkenden Zahlen zu identifizieren, damit diese rechtzeitig Unterstützung oder Schulungen erhalten können. In Kundencentern bewerten einige Systeme mithilfe von KI die Qualität von Telefongesprächen (Tone of Voice, Schlüsselwörter) oder die Geschwindigkeit der Bearbeitung von Anfragen und geben den Mitarbeitern sofortiges Feedback.

Prädiktive HR-Analytik verspricht sogar vorherzusagen, bei welchen Mitarbeitern das Risiko einer Kündigung besteht (sog. Flight Risk), basierend auf verschiedenen Indikatoren – Projektbeteiligung, Fehlzeiten, Stimmung im Team usw. Manager können dann proaktiv handeln, beispielsweise eine berufliche Weiterentwicklung anbieten oder die Zufriedenheit thematisieren, bevor ein wertvoller Kollege kündigt. Diese Tools können die Arbeit mit Talenten erheblich präzisieren und beschleunigen. Andererseits ist Vorsicht geboten: Ein „Black-Box“-Algorithmus, der ohne klare Kriterien selbstständig über Beförderungen oder die Höhe von Boni entscheidet, ist für das Unternehmen sowohl unter dem Gesichtspunkt der Fairness als auch rechtlich riskant. Es ist kein Zufall, dass der kommende europäische AI Act Systeme zur Leistungs- und Verhaltensbeurteilung von Mitarbeitern als hochriskant eingestuft und an sie strenge Anforderungen stellt. 

Das bedeutet, dass in der Praxis immer ein Mensch das letzte Wort haben sollte – KI sollte als unterstützendes Werkzeug dienen, das Daten und Empfehlungen liefert, aber die endgültige Entscheidung (z. B. wer befördert oder wie jemand bewertet wird) muss die Führungskraft unter Berücksichtigung des Kontexts und der menschlichen Perspektive treffen.

Mitarbeiterüberwachung

Die Mitarbeiterüberwachung ist ein sensibler Bereich, in den Technologien generell immer weiter vordringen – und KI bringt neue Möglichkeiten, aber auch Kontroversen mit sich. Unternehmen können KI zur Erfassung von Anwesenheit und Arbeitszeit nutzen – beispielsweise durch Kameras mit Gesichtserkennung beim Kommen und Gehen (anstelle von Stechuhren) oder durch die automatische Auswertung von Login-Protokollen zur Erfassung der Arbeit im Homeoffice.

Einige Unternehmen testen Tools, die die Aktivität am Computer überwachen (Tastaturanschläge, Mausbewegungen, geöffnete Anwendungen) und die Produktivität des Mitarbeiters auswerten. KI kann große Mengen solcher Daten analysieren und nach Mustern suchen – beispielsweise darauf hinweisen, dass ein bestimmter Mitarbeiter häufig Zeit mit nicht arbeitsbezogenen Online-Aktivitäten verbringt, oder umgekehrt überlastete Mitarbeiter identifizieren, die keine Pausen einlegen.

In der Logistik werden KI-Systeme zur Fahrzeug- und Fahrerüberwachung eingesetzt (GPS-Tracker kombiniert mit Algorithmen zur Routenoptimierung und Erkennung von Abweichungen), in der Produktion wiederum Kamerasysteme, die die Einhaltung von Sicherheitsregeln kontrollieren. Moderne KI-Kameras können beispielsweise automatisch erkennen, ob Mitarbeiter Helm und Weste tragen, und auf Verstöße hinweisen. Solche automatisierten Sicherheitsaudits können Unfälle verhindern.

Zudem gibt es Experimente mit der Analyse von Kommunikation – z. B. kann ein KI-Tool anonymisierte Zusammenfassungen von E-Mails oder Chats im Team auswerten und die „Stimmung“ oder das Engagement messen (Sentiment-Analyse), damit HR Unzufriedenheit am Arbeitsplatz frühzeitig erkennen kann. Diese Möglichkeiten stoßen jedoch an die Grenzen der Privatsphäre. Im tschechischen Umfeld legt das Gesetz klar fest, dass der Arbeitgeber ohne schwerwiegenden Grund die Privatsphäre des Mitarbeiters nicht durch systematische Überwachung oder Kontrolle der Kommunikation verletzen darf. Auch eine begründete Überwachung muss verhältnismäßig sein, und die Mitarbeiter müssen darüber vorab informiert werden – Details dazu werden wir im rechtlichen Teil besprechen. 

Vorerst gilt, dass KI bei der Überwachung helfen kann – aber Unternehmen müssen sehr sorgfältig abwägen, was und wie sie überwachen, um die gesetzlichen Grenzen nicht zu überschreiten und das Vertrauen ihrer Mitarbeiter nicht zu verlieren.

Schulung und Entwicklung

Künstliche Intelligenz kann auch die Weiterbildung von Mitarbeitern personalisieren und effizienter gestalten. Traditionelle Schulungen bieten oft allen das Gleiche, während KI die Bedürfnisse und Leistungen Einzelner analysieren und darauf basierend einen maßgeschneiderten Entwicklungsplan vorschlagen kann. Beispielsweise kann ein Mitarbeiter im Kundenservice, der mit einer bestimmten Software-Fähigkeit kämpft, dank KI eine Empfehlung für ein bestimmtes E-Learning-Modul oder Coaching genau in diesem Bereich erhalten. KI-Tools verfolgen, wie jemand in Wissenstests oder bei der Erfüllung von Aufgaben abschneidet, und empfehlen relevante Bildungsprogramme basierend auf den festgestellten Lücken. 

Dieser personalisierte Ansatz erhöht die Lerneffizienz – die Menschen lernen nicht unnötig das, was sie bereits können, sondern konzentrieren sich auf das, was sie verbessern müssen. Einige Unternehmen nutzen bereits Chatbots als virtuelle Trainer: Der Mitarbeiter kann den Chatbot alles Mögliche fragen (z. B. „Wie fülle ich einen Reisekostenantrag richtig aus?“ oder „Was ist bei einer Kundenreklamation zu tun?“) und die KI liefert ihm umgehend die Antwort inklusive Links zu den entsprechenden internen Richtlinien oder Materialien. Dies ermöglicht ein Just-in-Time-Lernen – man erwirbt das benötigte Wissen genau in dem Moment, in dem man es anwendet.

KI kann auch Schulungsinhalte generieren – von der automatischen Erstellung von Präsentationen auf Basis bereitgestellter Unterlagen über die Übersetzung und Lokalisierung von Kursen bis hin zu Simulationen von Situationen in der virtuellen Realität zum Üben (z. B. Training eines Kundengesprächs in einer simulierten Umgebung). Das Ergebnis ist eine schnellere und kostengünstigere Erstellung von Schulungen, die sich leicht an verschiedene Rollen anpassen lassen.

Bei großen Unternehmen mit Hunderten oder Tausenden von Mitarbeitern hilft KI so, die Entwicklung zu skalieren – und jedem Mitarbeiter über eine App oder das Intranet einen „Coach“ in Reichweite zur Verfügung zu stellen. Wichtig ist jedoch sicherzustellen, dass die KI-Empfehlungen im Bereich der Entwicklung mit den strategischen Bedürfnissen des Unternehmens übereinstimmen und dass es nicht zu einer unerwünschten „Schubladen-Einteilung“ von Mitarbeitern kommt (z. B. dass der Algorithmus jemandem eine Beförderung nur aufgrund früherer Ergebnisse nicht mehr anbietet). Daher sollte auch hier HR das letzte Wort haben und KI als unterstützendes Werkzeug betrachten.

Rechtliche Aspekte von KI im HR-Bereich

Der Einsatz von KI im Personalwesen bringt nicht nur technologische, sondern auch rechtliche Herausforderungen mit sich. Arbeitgeber müssen eine Reihe von Rechtsvorschriften beachten – vom Datenschutz (DSGVO) über den arbeitsrechtlichen Schutz der Mitarbeiter bis hin zu Diskriminierungsverboten. Im Folgenden erläutern wir die wichtigsten rechtlichen Aspekte, auf die sich tschechische Unternehmen konzentrieren sollten.

Datenschutz und DSGVO

Mitarbeiterdaten als personenbezogene Daten: Der Großteil der HR-Arbeit dreht sich um personenbezogene Daten von Mitarbeitern – seien es Lebensläufe von Bewerbern, Informationen zu Anwesenheit, Leistung oder Schulungen. Nach der Definition der DSGVO sind personenbezogene Daten alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. 

Wenn also beim Einsatz von KI Daten konkreter Mitarbeiter verarbeitet werden (was in den meisten HR-Szenarien der Fall ist), müssen alle Pflichten des Verantwortlichen gemäß der DSGVO eingehalten werden.

Rechtsgrundlage der Verarbeitung: Das Unternehmen muss einen klaren rechtlichen Grund für die Datenverarbeitung haben. Im HR-Kontext ist dies meist die Erfüllung eines Vertrags (z. B. die Lohnabrechnung, die für den Arbeitsvertrag erforderlich ist) oder das berechtigte Interesse des Arbeitgebers (z. B. die Effizienzsteigerung der Rekrutierung mittels KI). Wenn sich das Unternehmen auf ein berechtigtes Interesse beruft, sollte es einen sogenannten Abwägungstest durchführen – also dokumentieren, dass sein Interesse (z. B. die Automatisierung der Rekrutierung) nicht die Rechte und Freiheiten der Mitarbeiter überwiegt. 

Transparenz und Information: Mitarbeiter und Bewerber müssen darüber informiert werden, welche Daten die KI zu welchem Zweck verarbeitet. Die DSGVO (Art. 13) verpflichtet dazu, der betroffenen Person klare Informationen bereitzustellen, einschließlich des Hinweises auf eine automatisierte Entscheidungsfindung oder Profiling. Wenn ein Unternehmen KI einsetzt, sollte es daher die Informationsschreiben für Mitarbeiter, die internen Datenschutzrichtlinien und gegebenenfalls auch die Formulierungen in Arbeitsverträgen oder Einwilligungen aktualisieren. Mitarbeiter haben weiterhin ihre Rechte gemäß der DSGVO – das Recht auf Auskunft, Berichtigung von Ungenauigkeiten, gegebenenfalls Widerspruch gegen die Verarbeitung oder Löschung. Das Unternehmen muss sicherstellen, dass die Betroffenen diese Rechte auch beim Einsatz von KI ausüben können. Wenn beispielsweise ein KI-System die Leistung bewertet, muss der Mitarbeiter die Möglichkeit haben zu erfahren, welche Daten das System über ihn erfasst, und diese gegebenenfalls korrigieren lassen.

Vertrag mit dem KI-Anbieter: Oft wird das KI-Tool für HR von einem externen Unternehmen bereitgestellt (z. B. eine KI-basierte Rekrutierungssoftware). In diesem Fall ist der Anbieter typischerweise als Auftragsverarbeiter im Namen Ihres Unternehmens (des Verantwortlichen) tätig. Die DSGVO verlangt den Abschluss eines Auftragsverarbeitungsvertrags mit dem Dienstleister, um diesen zur Einhaltung der Datenschutzregeln zu verpflichten. 

Das Unternehmen sollte sicherstellen, dass der KI-Dienstleister die Daten sichert, sie nicht für andere Zwecke verwendet und es dem Unternehmen ermöglicht, seine Pflichten gegenüber den betroffenen Personen zu erfüllen. Vorsicht gilt auch bei den Daten, mit denen die KI lernt: Wenn ich dem Anbieter Ihre HR-Daten zum „Trainieren“ des Modells zur Verfügung stelle, stellt auch dies eine Verarbeitung personenbezogener Daten dar, für die Sie eine Rechtsgrundlage und eine vertragliche Regelung benötigen.

Risikoabschätzung und DSFA: Die Regulierung betont die Notwendigkeit zu prüfen, ob der Einsatz einer neuen Technologie hohe Risiken für die Rechte der Mitarbeiter mit sich bringt. KI wird oft als eine neue Art der Verarbeitung angesehen, die potenziell mit einem hohen Risiko verbunden ist, sodass die Pflicht zur Durchführung einer Datenschutz-Folgenabschätzung (DSFA) bestehen kann. 

Wenn ein Unternehmen beispielsweise einen Algorithmus zur Bewertung von Bewerbern einführen möchte, sollte es vorab die Risiken analysieren – was passiert, wenn der Algorithmus jemanden ungerechtfertigt ausschließt, wie steht es um Datenlecks usw. Wenn die DSFA hohe Risiken aufzeigt, die nicht gemindert werden können, muss die Datenschutzbehörde (ÚOOÚ) konsultiert werden. In jedem Fall wird die Einbindung des betrieblichen Datenschutzbeauftragten (DSB) (sofern im Unternehmen vorhanden) beim Einsatz von KI im HR-Bereich dringend empfohlen.

Datensicherheit: KI-Systeme sind oft datenintensiv und arbeiten teilweise in der Cloud – umso wichtiger ist es, auf Cybersicherheit zu achten. Ein Abfluss sensibler Mitarbeiterdaten (Bewertungen, Gehalt, Personalakten) könnte für das Unternehmen schwerwiegende Folgen haben. Sowohl die DSGVO als auch das Arbeitsgesetzbuch verpflichten den Arbeitgeber, die personenbezogenen Daten der Mitarbeiter vor Missbrauch zu schützen. In der Praxis bedeutet dies die Einführung technischer und organisatorischer Maßnahmen – Verschlüsselung von Datenbanken, Zugriffskontrolle (nur autorisierte Benutzer), regelmäßige Audits, Schulung der Administratoren von KI-Tools usw. Wenn die KI beispielsweise generativ auf Fragen antwortet und jemand sensible Personaldaten (z. B. eine Gehaltsliste) eingibt, können diese an die Server des Anbieters übermittelt werden – auch das ist ein Sicherheitsrisiko, auf das die Mitarbeiter hingewiesen werden müssen (siehe unten in den Empfehlungen).

Es zahlt sich nicht aus, die Einhaltung der DSGVO zu unterschätzen – die Sanktionen bei Verstößen können bis zu 20 Millionen EUR oder 4 % des weltweiten Jahresumsatzes des Unternehmens betragen. 

Ebenso wichtig ist jedoch der Ruf des Arbeitgebers: Ein Skandal um ein Datenleck oder Beschwerden von Mitarbeitern über Verletzungen der Privatsphäre können das Vertrauen und die Unternehmenskultur nachhaltig schädigen.

Ihr Team der Rechtsanwaltskanzlei ARROWS in Olomouc

Diskriminierung und Bias bei KI

Das Risiko algorithmischer Diskriminierung: KI im HR-Bereich verspricht Objektivität, da sie auf der Grundlage von Daten entscheidet. Ohne die richtigen Maßnahmen kann sie jedoch Vorurteile, die in den Daten vorhanden sind, übernehmen und verstärken. Ein klassisches Beispiel ist ein Rekrutierungsalgorithmus, der aus historischen Daten lernt, einen bestimmten Typ von Kandidaten zu bevorzugen. Wenn das Unternehmen in der Vergangenheit beispielsweise überwiegend Männer für IT-Stellen eingestellt hat, kann die KI dieses Muster übernehmen und beginnen, Lebensläufe von Frauen systematisch zu benachteiligen – ohne dass dies von jemandem ausdrücklich beabsichtigt wurde. Ein bekanntes Beispiel ist ein Experiment von Amazon, das eine interne KI zur Bewertung von Lebensläufen entwickelte: Nach einiger Zeit stellten sie fest, dass das System Bewerberinnen schlechter bewertete, weil die historischen Daten eine „Voreingenommenheit“ zugunsten von Männern aufwiesen. 

Der Algorithmus strafte beispielsweise Erwähnungen wie „Kapitänin des Frauenschachclubs“ ab, nur weil das Wort „Frauen“ in den Daten der erfolgreichen Kandidaten nicht vorkam. 

Ein solches Verhalten ist natürlich unerwünscht und im Kontext des Arbeitsrechts unzulässig.

Diskriminierungsverbot: Das tschechische Arbeitsgesetzbuch sowie das Antidiskriminierungsgesetz verbieten ausdrücklich Diskriminierung im Beschäftigungsverhältnis aufgrund geschützter Merkmale wie Geschlecht, Alter, Rasse oder ethnische Herkunft, Glaube, sexuelle Orientierung u. a. Dies gilt für die Einstellung, Vergütung, Beförderung und Beendigung des Arbeitsverhältnisses. Wenn eine von einer KI getroffene Entscheidung zu einer unbegründeten Benachteiligung einer Person aufgrund eines dieser Merkmale führt, trägt der Arbeitgeber die Verantwortung – genauso, als ob ein Manager im Vorstellungsgespräch direkt diskriminiert hätte. Unternehmen müssen daher sorgfältig überwachen, wie die KI entscheidet, und vor dem Einsatz testen, ob sie einen Bias aufweist. Beispielsweise können bei einem Tool zum CV-Screening Tests mit fiktiven Profilen (Frau vs. Mann mit gleicher Qualifikation usw.) durchgeführt werden, um zu überprüfen, ob die Ergebnisse nicht systematisch voneinander abweichen.

Zudem ist es ratsam, die Verwendung von Eingaben zu begrenzen, die als Proxy für sensible Merkmale dienen könnten – typischerweise die Wohnadresse (kann mit einer ethnischen Minderheit korrelieren), die Dauer der Elternzeit (kann Männer gegenüber Frauen bevorzugen), das Foto des Kandidaten usw.

Pflichten der Arbeitgeber: In der Praxis sollte ein KI-System niemals eine unumkehrbare Entscheidung völlig allein treffen. Das europäische Recht (DSGVO Art. 22) verbietet es, dass Personen einer ausschließlich automatisierten Entscheidung mit erheblichen Auswirkungen unterworfen werden, es sei denn, es gibt besondere Garantien. Ein Beispiel wäre, wenn ein Algorithmus völlig selbstständig, ohne menschliche Überprüfung, über die Zu- oder Absage eines Bewerbers entscheidet – ein solches Vorgehen ist (mit Ausnahmen) verboten, da es die betroffene Person grundlegend beeinflusst. 

Das Unternehmen sollte daher sicherstellen, dass immer ein Mensch in den Prozess eingebunden ist, der die Empfehlungen der KI überprüfen kann. Dadurch wird nicht nur die gesetzliche Anforderung erfüllt, sondern auch das Risiko einer Diskriminierung verringert – ein menschlicher Personalverantwortlicher kann ein verdächtiges Muster erkennen (z. B. „Die KI hat mir alle Frauen aussortiert, das stimmt so nicht“) und eingreifen.

Training und Feinabstimmung von Modellen: Verantwortungsbewusste KI-Anbieter legen heute Wert auf sogenannte ethische KI – Modelle, die so konzipiert sind, dass sie Bias minimieren. Für ein Unternehmen, das eine eigene KI-Lösung entwickelt, bedeutet dies, eine Phase der Fairness-Abstimmung in die Entwicklung einzubeziehen. Beispielsweise können die Gewichtungen des Algorithmus angepasst oder Ausgleichsmechanismen hinzugefügt werden, wenn festgestellt wird, dass eine bestimmte Gruppe ohne legitimen Grund schlechter abschneidet. Wenn Sie ein KI-Produkt von einem Drittanbieter erwerben, fragen Sie den Anbieter, wie er das Thema Bias gelöst hat und ob Diskriminierungstests durchgeführt wurden.

Überwachung von KI-Entscheidungen: Mit der Einführung der KI ist es nicht getan – die Ergebnisse müssen kontinuierlich überwacht werden. Es wird empfohlen, Protokolle (Logs) darüber zu führen, wie die KI entschieden hat, und diese regelmäßig beispielsweise im Hinblick auf das Verhältnis von Zusagen/Absagen nach Geschlecht, Alter usw. zu analysieren. Dabei kann auch eine obligatorische Grundrechte-Folgenabschätzung helfen (sog. ALTAI – Assessment List for Trustworthy AI), die der neue AI Act voraussichtlich für hochriskante Systeme vorschreiben wird. Kurz gesagt, das Unternehmen muss die KI ähnlich beaufsichtigen wie seine Manager – ihr Grenzen setzen und kontrollieren, dass sie diese einhält. Es lohnt sich nicht, diese Pflicht zu ignorieren: Neben Bußgeldern drohen auch Gerichtsverfahren von abgelehnten Bewerbern oder Mitarbeitern, die sich diskriminiert fühlen, sowie ein Imageverlust.

Mitarbeiterüberwachung und ihre Rechte

Recht auf Privatsphäre vs. Kontrolle des Arbeitgebers: Wie oben skizziert, bieten moderne Technologien Arbeitgebern beispiellose Möglichkeiten zu überwachen, was Mitarbeiter tun. Aus rechtlicher Sicht ist die Privatsphäre des Mitarbeiters jedoch geschützt und darf nicht übermäßig beeinträchtigt werden. Das tschechische Arbeitsgesetzbuch (§ 316) besagt, dass der Arbeitgeber die Nutzung seiner Produktions- und Arbeitsmittel (vom Arbeitgeber bereitgestellte Computer, Telefone, Fahrzeuge usw.) nur in angemessener Weise und im unbedingt erforderlichen Umfang kontrollieren darf. 

Das bedeutet, dass eine pauschale und unbegrenzte Überwachung aller Aktivitäten des Mitarbeiters unzulässig ist – die Kontrolle muss einen vernünftigen Grund haben (z. B. Schutz des Eigentums, der Sicherheit, von Geschäftsgeheimnissen) und muss so wenig invasiv wie möglich sein. Eine verdeckte Überwachung der Kommunikation des Mitarbeiters (Lesen privater E-Mails, Abhören von Telefonaten) ist ausdrücklich verboten, es sei denn, es liegt ein schwerwiegender Grund vor, der in der besonderen Natur der Tätigkeit des Arbeitgebers begründet ist. 

Ein solcher Grund könnte beispielsweise die Notwendigkeit sein, den Abfluss streng geheimer Informationen in einer bestimmten spezifischen Branche zu verhindern, aber in einem normalen Unternehmen liegt dafür meist kein legitimer Grund vor. Selbst dort, wo ein solcher Grund existiert (z. B. kann ein Sicherheitsdienst einen Grund haben zu überwachen, ob der Wachmann tatsächlich das Gelände bestreift), gilt der Grundsatz der Verhältnismäßigkeit – nur das zu überwachen, was notwendig ist, und nicht mehr.

Informationspflicht: Entscheidend ist, dass der Arbeitgeber die Mitarbeiter vorab über jede Überwachung, deren Umfang und die Methoden informieren muss. Es reicht also nicht aus, dies irgendwo in einer internen Richtlinie zu verstecken – die Mitarbeiter müssen nachweislich darüber aufgeklärt werden, ob und wie sie überwacht werden.

Wenn ein Unternehmen beispielsweise eine KI einsetzt, die E-Mails auf Schlüsselwörter analysiert (selbst wenn dies nur der Cybersicherheit dient), muss es die Mitarbeiter darauf hinweisen, dass die Firmenpost überwacht wird und welche Daten davon betroffen sind. Das Arbeitsgesetzbuch verlangt nicht, dass die Mitarbeiter dem zustimmen (eine Einwilligung kann nicht erzwungen werden), aber sie müssen darüber informiert sein.

KI und Überwachung: Der Einsatz von KI aufseiten des Arbeitgebers ändert an diesen Pflichten nichts – es ist unerheblich, ob die Kontrolle durch einen Menschen oder einen Algorithmus erfolgt. Wenn beispielsweise eine KI Videoaufzeichnungen auswertet und verdächtiges Verhalten meldet, gelten dieselben Grenzen wie für herkömmliche Kamerasysteme. Zudem handelt es sich beim Einsatz von KI wieder um eine Verarbeitung personenbezogener Daten, sodass die DSGVO Anwendung findet – beispielsweise ist die Gesichtserkennung auf einer Kamera ein biometrisches Datum, das einen besonderen Schutzstatus genießt.

Europäische Rechtsprechung: Nicht nur tschechische Gerichte, sondern auch der Europäische Gerichtshof für Menschenrechte hat sich wiederholt zur Mitarbeiterüberwachung geäußert. Im bekannten Fall Bărbulescu gegen Rumänien stellte der EGMR fest, dass die Entlassung eines Mitarbeiters wegen der Nutzung der Firmen-E-Mail für private Zwecke unzulässig war, weil der Mitarbeiter vorab nicht klar über den Umfang der Überwachung informiert worden war. 

Dies ist eine wichtige Lehre für Unternehmen: Selbst wenn ein Mitarbeiter gegen Regeln verstoßen hat (indem er den Firmencomputer privat genutzt hat), dürfen Beweise nicht durch eine verdeckte Überwachung erlangt werden, von der er nichts wusste. Achten Sie daher bei der Einführung von KI-Tools zur Überwachung (Anwesenheitskameras, Computerüberwachung usw.) auf die gesetzlichen Grenzen.

Richten Sie die Überwachung so ein, dass sie gezielt und nicht pauschal erfolgt; erfassen Sie nur die notwendigen Daten; schließen Sie die Überwachung von Bereichen, in denen das Gesetz dies verbietet (Umkleiden, Toiletten, Pausenräume – dort hat der Mitarbeiter absolute Privatsphäre), unbedingt aus. Informieren Sie die Mitarbeiter immer offen darüber, was überwacht wird und warum. Berücksichtigen Sie auch die ethische Seite – eine übertriebene Kontrolle kann die Beziehungen am Arbeitsplatz belasten. Nutzen Sie KI bei der Überwachung eher für die Sicherheit und wirklich schwerwiegende Gründe, nicht für das Mikromanagement jedes Schrittes des Mitarbeiters.

Es ist daher unerlässlich, dass Arbeitgeber vor der Implementierung von Gesichtserkennungstechnologien eine gründliche Analyse der Rechtskonformität durchführen und abwägen, ob eine solche Verarbeitung biometrischer Daten im Hinblick auf den angestrebten Zweck notwendig und verhältnismäßig ist. Die ARROWS-Anwälte, Spezialisten für die Verbindung von KI, HR und DSGVO, helfen Ihnen dabei gerne. Die entsprechende Erfahrung ist vorhanden. Im Jahr 2018 fand zu diesem Thema eine Prüfung bei Metrostav statt.

Da sich der rechtliche Rahmen in diesem Bereich weiterentwickeln kann, ist es ratsam, die aktuellen Stellungnahmen der Datenschutzbehörde (ÚOOÚ) und eventuelle gesetzliche Änderungen zu verfolgen, die die Möglichkeiten und Bedingungen für die Verarbeitung biometrischer Daten im privaten Sektor beeinflussen könnten.

Verantwortung für von KI getroffene Entscheidungen

Wer trägt die Verantwortung: Stellen wir uns eine Situation vor – ein KI-System wählt einen Kandidaten aus, den das Unternehmen einstellt, oder empfiehlt umgekehrt, einen bestimmten Mitarbeiter zu entlassen. Wer ist für diese Entscheidung rechtlich verantwortlich? Aus rechtlicher Sicht immer der Arbeitgeber. KI ist kein Rechtssubjekt und haftet nicht für ihre Handlungen – sie ist ein Werkzeug, ähnlich wie eine Buchhaltungssoftware. Kommt es zu einem Fehler (Diskriminierung, unberechtigte Kündigung usw.), haftet gegenüber dem betroffenen Mitarbeiter oder Bewerber das Unternehmen, nicht der KI-Anbieter und nicht der „Computer“. Es liegt daher im Interesse des Arbeitgebers, die Entscheidungsfindung der KI unter Kontrolle zu behalten.

Automatisierte Entscheidungen in Arbeitsverhältnissen: Wie bereits erwähnt, verbietet die DSGVO rein automatisierte Entscheidungen mit erheblichen Auswirkungen auf den Einzelnen im Prinzip. Im HR-Bereich fallen darunter Entscheidungen wie Einstellung/Nichteinstellung, Beförderung/Nichtbeförderung, Kündigung, erhebliche Gehalts- oder Bonusänderungen usw. Ein Unternehmen sollte sich niemals in einer Situation befinden, in der eine Entscheidung „von der KI getroffen wurde und niemand sonst sie gesehen hat“. Zum einen wäre dies rechtlich anfechtbar, zum anderen wäre es schwierig, eine solche Entscheidung zu verteidigen – wie würden Sie vor Gericht erklären, warum jemand entlassen wurde, wenn die Antwort lautet: „Das hat der Algorithmus entschieden, und wir wissen eigentlich nicht, warum“?

Anforderung der menschlichen Aufsicht: Eine bewährte Praxis (und bald auch eine gesetzliche Pflicht nach dem AI Act) ist es, eine menschliche Aufsicht (Human Oversight) über die KI sicherzustellen. Das bedeutet, Personen zu bestimmen, die die Funktionsweise des Systems verstehen, bei Bedarf eingreifen oder es abschalten können und die vor allem in kritischen Momenten die endgültige Entscheidung übernehmen. Beispielsweise kann die KI eine Rangfolge der Kandidaten vorschlagen, aber der Personalverantwortliche muss die Top-Auswahl durchgehen und die Entscheidung bestätigen oder anpassen. Bei der Nutzung von KI zur Anwesenheitskontrolle kann die KI verdächtige Muster (häufiges Zuspätkommen) markieren, aber die Führungskraft muss mit dem betroffenen Mitarbeiter sprechen und die Gründe klären, bevor sie Sanktionen ergreift.

Prüfbarkeit und Erklärbarkeit: Die Verantwortung hängt auch damit zusammen, dass das Unternehmen in der Lage sein sollte, die Gründe für eine Entscheidung zu belegen. Bei KI sprechen wir oft vom Problem der „erklärbaren KI“ (Explainable AI) – insbesondere bei sogenannten Black-Box-Algorithmen ist es schwierig, im Nachhinein nachzuvollziehen, warum sie sich so entschieden haben, wie sie es getan haben. Wenn jedoch die Karriere eines Menschen von einer Entscheidung abhängt, ist es nur fair, ihm eine Erklärung liefern zu können. Für das Unternehmen bedeutet dies, KI-Tools zu bevorzugen, die transparent sind oder ein sogenanntes Explanation Interface bieten – z. B. den Score des Kandidaten mit der Begründung „erfüllt Anforderung XY nicht“ anstelle eines einfachen „abgelehnt“ anzeigen. Zudem ist es ratsam, Protokolle (Logs) über die Aktivitäten der KI zu speichern, um nachvollziehen zu können, wie sie zu einem bestimmten Ergebnis gelangt ist.

Reklamation von KI-Entscheidungen: Wenn ein Mitarbeiter oder Bewerber eine Entscheidung anzweifelt, an der eine KI beteiligt war (z. B. den Verdacht hat, vom Algorithmus diskriminiert worden zu sein), sollte er die Möglichkeit haben, dies genauso zu klären, als handele es sich um die Entscheidung eines Managers. Das Unternehmen sollte über einen internen Prozess verfügen, um eine solche Beschwerde zu prüfen – typischerweise unter Einbeziehung von HR- und IT-Experten, die analysieren, ob die KI einen Fehler gemacht hat. Im Extremfall würde der Streit dann vor Gericht oder dem Arbeitsinspektorat landen, und das Unternehmen müsste seine Verfahren verteidigen.

Anbieter vs. Nutzer: Natürlich trägt der Arbeitgeber die Verantwortung nach außen, aber wenn das Versagen durch einen Fehler im KI-Tool verursacht wurde, kann das Unternehmen anschließend Schadensersatz vom Anbieter fordern (sofern dieser den Vertrag verletzt hat usw.). Auch deshalb lohnt es sich, renommierte und geprüfte KI-Systeme zu wählen und vertraglich zu regeln, was passiert, wenn das Tool nicht wie erwartet funktioniert (einschließlich der rechtlichen Verpflichtungen des Anbieters im Bereich Compliance). Aktuell diskutiert die EU auch spezielle Regeln für die Haftung für KI (sog. AI Liability Directive), die es Geschädigten erleichtern sollen, Schadensersatz einzufordern – auch das ist ein Signal für Unternehmen, dass das Thema Verantwortung ernst genommen wird.

Das Fazit ist klar: Für die KI haftet das Unternehmen selbst, und dementsprechend muss es mit ihr umgehen – als mit einem Werkzeug, das sorgfältig eingerichtet, kontrolliert und bei Bedarf korrigiert werden muss.

Praktische Empfehlungen für tschechische Unternehmen

Die Einführung von KI im HR-Bereich ist mehr als nur ein technisches Projekt – sie erfordert auch die Einrichtung der richtigen internen Regeln, eines ethischen Rahmens und der Kommunikation mit den Mitarbeitern. Im Folgenden finden Sie Empfehlungen, die Ihnen helfen, KI im HR-Bereich verantwortungsvoll und rechtskonform einzusetzen.

Einrichtung interner Regeln für KI im HR-Bereich

Strategie und KI-Richtlinie: Der erste Schritt sollte die Ausarbeitung einer internen Strategie für den Einsatz von KI sein. Die Unternehmensleitung sollte sich darüber im Klaren sein, in welchen Bereichen sie KI einsetzen möchte, welche Ziele sie damit verfolgt (z. B. Beschleunigung der Rekrutierung, Verringerung des administrativen Aufwands) und wo die Grenzen liegen. Darauf aufbauend sollte eine interne Richtlinie erstellt werden, die die Regeln für den Einsatz von KI im HR-Bereich festlegt.

Sie sollte Fragen beantworten wie: Wer ist für den Betrieb und die Aufsicht über die KI-Tools verantwortlich? Welche Arten von Entscheidungen darf die KI selbstständig treffen und wo ist eine Eskalation an einen Menschen erforderlich? Wie wird der Einsatz eines neuen KI-Tools getestet und genehmigt? Wie werden seine Ergebnisse überwacht und eventuelle Probleme gelöst? Eine solche Richtlinie stellt sicher, dass alle im HR-Team konsistent und bewusst vorgehen.

KI-Governance in der Praxis: Es wird empfohlen, beispielsweise ein internes Komitee oder einen Beirat für das KI-Management im Unternehmen einzurichten. Dieses könnte Vertreter aus HR, IT, der Rechtsabteilung und dem Management umfassen. Seine Aufgabe wäre es, neue KI-Tools zu genehmigen, deren Betrieb zu überwachen und ethische Dilemmata zu lösen, die auftreten können. In einem kleineren Unternehmen kann dies auch nur ein regelmäßiges Treffen des HR-Managers mit der IT und einem Juristen über den Einsatz von KI sein. Wichtig ist, dass die KI nicht einfach dadurch außer Kontrolle gerät, dass sie jemand „heimlich“ ohne das Wissen anderer und ohne Risikoabsicherung einführt.

Erfassung und Audit: Führen Sie eine Übersicht über alle im HR-Bereich eingesetzten KI-Systeme, einschließlich einer Beschreibung ihrer Funktion, des Anbieters, der verarbeiteten Daten und der getroffenen Risikominderungsmaßnahmen. Diese Erfassung ist sowohl für interne Zwecke nützlich (Sie sehen leicht, was wo läuft) als auch für die eventuelle Kommunikation mit Behörden oder bei einem Audit (Sie haben vorbereitet, wie Sie die Anforderungen der DSGVO, des AI Acts usw. erfüllen).

Verfahren bei Fehlern: Definieren Sie, was zu tun ist, wenn ein KI-Tool versagt oder einen Vorfall verursacht – beispielsweise wenn ein Rekrutierungsalgorithmus seltsame Ergebnisse liefert. Es sollte klar sein, wer die Befugnis hat, das System zu stoppen, wer zu informieren ist (Management, DSB, IT-Sicherheit) und wie Abhilfe zu schaffen ist. Dadurch beugen Sie Chaos in einer Krisensituation vor.

Ethische Richtlinien und Kodizes für KI

Neben harten Regeln bewährt es sich auch, ethische Prinzipien festzulegen, denen das Unternehmen bei der KI folgen wird. Man kann an bestehende Unternehmenswerte oder den Verhaltenskodex anknüpfen und diese um das Thema KI erweitern. Einige Organisationen verabschieden eine ethische KI-Charta, in der sie sich zu bestimmten Grundsätzen verpflichten – z. B.: „Wir werden KI transparent und fair nutzen; Entscheidungen der KI unterliegen immer einer menschlichen Überprüfung; wir achten auf Datenschutz und Datensicherheit; wir gewährleisten Gleichbehandlung und Nichtdiskriminierung; wir sind für die Auswirkungen der KI auf unsere Mitarbeiter verantwortlich.“ Solche Erklärungen helfen nicht nur intern, sondern können auch nach außen dienen, um Vertrauen aufzubauen (z. B. kann das Unternehmen gegenüber Kandidaten kommunizieren, dass es bei der Rekrutierung KI ethisch und im Einklang mit der DSGVO einsetzt).

Inspiration von außen: Es gibt eine Reihe von Rahmenwerken und Empfehlungen, auf die man sich stützen kann. Die Europäische Kommission hat die Ethics Guidelines for Trustworthy AI (2019) herausgegeben, die Prinzipien wie menschliche Aufsicht, technische Robustheit, Privatsphäre, Transparenz, Diversität und Nichtdiskriminierung sowie Rechenschaftspflicht definieren. Die OECD hat ihre KI-Prinzipien, und beispielsweise auch die US-Regierung hat den Blueprint for an AI Bill of Rights (2022) veröffentlicht, der die Rechte von Mitarbeitern im Zusammenhang mit KI schützt. 

Speziell für HR gibt es Empfehlungen von Berufsverbänden (SHRM, CIPD u. a.), die oft drei Säulen betonen: Rechtmäßigkeit, Ethik und Inklusion. Ein Unternehmen muss das Rad nicht neu erfinden – man kann bewährte Prinzipien übernehmen wie: „KI darf die Rechte der Mitarbeiter nicht verletzen, sie muss mit deren Vertrauen und zum Nutzen beider Seiten eingesetzt werden, Entscheidungen der KI müssen erklärbar und überprüfbar sein, neue Technologien werden wir sensibel und unter Berücksichtigung der Auswirkungen auf die Menschen einführen“ usw. 

Wie Jaromír Staroba, Präsident der Branchenorganisation ABSL, betont, ist es wichtig, dass Unternehmen die globale Entwicklung der Regulierungen verfolgen und ihre Innovationsteams nach ethischen Richtlinien führen. Praktisch bedeutet dies, Entwickler und Nutzer von KI über ethische Risiken zu schulen, den Einsatz von KI mit verschiedenen Stakeholdern (z. B. mit Betriebsräten, sofern vorhanden) abzustimmen und Lösungen zu vermeiden, bei denen nicht klar ist, wie sie funktionieren. Staroba warnt vor „Black-Box“-KI-Tools für HR ohne Dokumentation und Transparenz – solche sollte man besser meiden. 

Stattdessen sollte man Lösungen bevorzugen, die ein Audit ermöglichen und bei denen der Anbieter Informationen über den Algorithmus offen teilt (zumindest auf der Ebene der Erklärung, nicht zwingend des Quellcodes).

Kultur und Werte: Verankern Sie das Thema KI auch in der Unternehmenskultur. Wenn ein Unternehmen die Fürsorge für seine Mitarbeiter betont, sollte es an KI mit dem Ansatz herangehen, dass sie den Menschen dienen und sie nicht ersetzen oder übermäßig kontrollieren soll. Der ethische Einsatz von KI wird dann real, wenn die Mitarbeiter selbst ihn unterstützen – was der Fall sein wird, wenn sie sehen, dass die KI ihnen hilft und ihnen nicht schadet. Bauen Sie daher eine Kultur auf, in der Innovation Hand in Hand mit Verantwortung geht.

Kommunikation mit den Mitarbeitern über KI

Transparenz gegenüber den Mitarbeitern: Damit Mitarbeiter KI positiv aufnehmen, müssen sie verstehen, warum und wie sie eingesetzt wird. Daher ist es von entscheidender Bedeutung, von Anfang an offen zu kommunizieren. Wenn Sie planen, KI in der Rekrutierung oder in internen Prozessen einzusetzen, informieren Sie die Mitarbeiter vorab. Erklären Sie, welche Aufgaben die KI übernehmen wird (z. B. „Der Chatbot wird Ihre Fragen im Bereich der Gehälter beantworten“ oder „Das neue System wird die Anwesenheit analysieren und Schichten vorschlagen“) und heben Sie hervor, was die Menschen davon haben – schnellere HR-Dienstleistungen, weniger Administration für sie usw. Versichern Sie auch, dass die KI nicht missbraucht wird – z. B. dass sie nicht der unangemessenen Überwachung oder Bewertung ohne Kontext dient. Wenn Sie KI in der Rekrutierung einführen, können Sie dies auch den Kandidaten kommunizieren (z. B. in der Anzeige erwähnen, dass die erste Auswahl durch einen Algorithmus erfolgt, um Fairness zu gewährleisten).

Schulung und Aufklärung: Nicht jeder HR-Spezialist oder Manager versteht, was KI tatsächlich bedeutet. Daher ist es ratsam, interne Schulungen oder Workshops zu KI im HR-Bereich zu organisieren – die Möglichkeiten, aber auch die Risiken (Privatsphäre, Bias) vorzustellen und die neuen Prozesse zu skizzieren. Beziehen Sie dabei sowohl das HR-Team als auch die Führungskräfte und gerne auch die breitere Belegschaft ein, sofern sie betroffen sind (z. B. Schulungen für Manager, wie sie die Ergebnisse der KI bei der Bewertung von Untergebenen richtig nutzen). Ziel ist es, die Angst vor dem Unbekannten abzubauen – viele Mitarbeiter haben Sorge, ob die KI sie „ausspionieren“ oder gar ersetzen wird. Eine offene Diskussion hilft zu klären, dass KI ein Werkzeug ist, das den Menschen die Arbeit erleichtern und sie nicht bestrafen soll.

Einbindung der Mitarbeiter in die Gestaltung: Wenn möglich, binden Sie Mitarbeitervertreter (etwa aus verschiedenen Abteilungen) in die Pilotphase der KI-Einführung ein. Sie können wertvolles Feedback geben, auf praktische Probleme hinweisen und gleichzeitig als Botschafter fungieren, die die Neuerung den Kollegen besser erklären können.

KI-Richtlinie für Mitarbeiter: Neben der Nutzung von KI durch den Arbeitgeber stellt sich auch die Frage der Nutzung öffentlich zugänglicher KI durch die Mitarbeiter (z. B. ChatGPT bei der Arbeit). Es ist gut, den Mitarbeitern klare Anweisungen zu geben: was sie in externe KI-Tools eingeben dürfen und was nicht. Beispielsweise sollte man darauf hinweisen, keine sensiblen Unternehmensinformationen in öffentliche KI-Dienste einzugeben, die diese speichern oder missbrauchen könnten. 

Erklären Sie dies verständlich – z. B. „Alles, was Sie in einen KI-Generator schreiben, kann gespeichert werden und gelangt potenziell an fremde Personen. Daher ist es verboten, dort personenbezogene Daten von Kollegen, Kunden oder nicht öffentliche Informationen über das Unternehmen einzugeben.“ 

Mitarbeiter wissen oft nicht, wie diese Technologien funktionieren, daher ist Aufklärung der Schlüssel.

Kommunikation bei KI-Fehlern: Wenn es zu einem Vorfall kommt (z. B. wenn die KI einen leistungsstarken Mitarbeiter fälschlicherweise in die Kategorie „schwache Leistung“ einstuft), kommunizieren Sie dies offen und entschuldigen Sie sich für eventuelle Fehler. Zeigen Sie, dass Sie sich der Grenzen der KI bewusst sind und dass Sie alles tun werden, um Abhilfe und Fairness zu schaffen. Dadurch erhalten Sie das Vertrauen – die Menschen schätzen es, wenn ein Unternehmen zugibt, dass Technologie nicht unfehlbar ist, und das menschliche Urteilsvermögen an die erste Stelle setzt.

Zukünftige Entwicklung und kommende Gesetzgebung

Der Bereich der KI entwickelt sich sehr dynamisch – und mit ihm die Gesetzgebung, die versucht, Schritt zu halten. In den kommenden Jahren erwarten Unternehmen grundlegende Änderungen bei der Regulierung von KI, insbesondere auf Ebene der Europäischen Union, die man im Auge behalten und auf die man sich vorbereiten sollte.

Der AI Act und die KI-Regulierung in der EU

Die bedeutendste kommende Regelung ist die Verordnung über künstliche Intelligenz (AI Act), die auf EU-Ebene im Jahr 2024 verabschiedet wurde und schrittweise in Kraft tritt (die volle Anwendung wird um das Jahr 2026 erwartet). Der AI Act führt einen umfassenden Rahmen für die Regulierung von KI mit einem risikobasierten Ansatz ein. Die einzelnen KI-Anwendungen werden in Kategorien eingeteilt: verbotene Praktiken (z. B. das sogenannte Social Scoring von Bürgern), hochriskante Systeme, Systeme mit begrenztem Risiko und minimalem Risiko. 

Gerade KI im HR-Bereich (Rekrutierung, Steuerung und Überwachung von Mitarbeitern) wird nach den Definitionen des Gesetzes als hochriskanter Bereich eingestuft. 

Das bedeutet, dass für KI-Tools, die beispielsweise für die Auswahl von Bewerbern, Entscheidungen über Beförderungen oder Kündigungen, die Leistungsbeurteilung oder die Überwachung des Verhaltens von Mitarbeitern eingesetzt werden, strenge Anforderungen gelten werden. 

Pflichten für Unternehmen (Nutzer von KI): Der AI Act unterscheidet zwischen den Pflichten für Anbieter von KI-Systemen und für deren Nutzer (sog. Betreiber/Deployer). In der Rolle des Betreibers wird typischerweise ein Unternehmen sein, das z. B. eine gekaufte KI-Software für die Rekrutierung einsetzt. Zu den wichtigsten Pflichten des Nutzers einer hochriskanten KI gehören: eine angemessene menschliche Aufsicht über das System sicherzustellen, die Anweisungen des Herstellers genau zu befolgen, die Eingabedaten zu validieren (d. h. die Qualität und Repräsentativität der Daten zu überwachen, mit denen wir die KI „füttern“), die Ergebnisse der KI im Betrieb zu überwachen und eventuelle schwerwiegende Vorfälle oder Fehler dem Anbieter zu melden. 

Zudem müssen Protokolle (Logs) über die Aktivitäten der KI geführt und sogar eine Grundrechte-Folgenabschätzung durchgeführt werden (um nachzuweisen, dass das System den Menschenrechten nicht schadet, z. B. nicht diskriminiert). Unternehmen müssen zudem ihre Mitarbeiter (oder deren Vertreter) darüber informieren, dass sie bei der Arbeit oder in der Rekrutierung Entscheidungen eines KI-Systems unterliegen. Dies unterstreicht erneut das Prinzip der Transparenz.

Sanktionen nach dem AI Act: Die Nichteinhaltung der Pflichten bei hochriskanten Systemen wird mit Bußgeldern geahndet – die verabschiedete Verordnung sieht Bußgelder von bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes vor (Art. 99 Abs. 4). Es ist also offensichtlich, dass die EU den Einsatz von KI im HR-Bereich sehr ernst nimmt und Missbrauch oder unüberlegten Einsatz, der den Mitarbeitern schaden könnte, verhindern will.

Was jetzt schon zu tun ist: Obwohl der AI Act erst noch in die Praxis umgesetzt wird, sollten Unternehmen bereits jetzt mit den Vorbereitungen beginnen. Es wird empfohlen, ein Audit aller KI- oder fortgeschrittenen Algorithmen durchzuführen, die Sie im Unternehmen nutzen oder nutzen wollen – um festzustellen, ob sie unter die Definition des AI Acts fallen (diese ist recht breit gefasst) und ob sie nicht zufällig in die hochriskante Kategorie fallen (wenn sie Mitarbeiter betreffen, ist die Wahrscheinlichkeit groß). Zudem sollte man die Entwicklung der Durchführungsverordnungen und Standards verfolgen, die die EU zum AI Act vorbereitet – diese werden technische Details präzisieren, beispielsweise wie genau diese Folgenabschätzungen durchzuführen oder wie die KI-Nutzung zu protokollieren ist. 

Unternehmen sollten die internen Abläufe aktualisieren, um sie mit den neuen Anforderungen in Einklang zu bringen – dies umfasst beispielsweise die Einführung der erwähnten menschlichen Aufsicht, die Sicherstellung von Schulungen für Personen, die mit KI arbeiten, die Anpassung von Verträgen mit Anbietern (damit diese erfüllen, was sie müssen) und Ähnliches. 

Wer rechtzeitig beginnt, sichert sich einen Wettbewerbsvorteil, da er Prozesse nicht im letzten Moment überstürzt umgestalten muss. Der AI Act mag wie eine administrative Belastung erscheinen, aber sein Ziel ist ähnlich wie das der DSGVO – das Vertrauen in Technologien zu stärken, indem sie verantwortungsvoll genutzt werden. Für Unternehmen kann dies im Ergebnis bedeuten, dass gut aufgesetzte KI-Prozesse ihnen einen Vorsprung verschaffen (sie können KI voll ausschöpfen, ohne rechtliche Probleme befürchten zu müssen).

Weitere gesetzliche Entwicklungen

Neben dem AI Act werden auch weitere Regelungen im Zusammenhang mit KI diskutiert. Die Europäische Kommission hat den Entwurf der Richtlinie über die KI-Haftung (sog. AI Liability Directive) im Oktober 2025 zurückgezogen; für den Schadensersatz ist die neue Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte relevant, die auch Software umfasst. Im Bereich des Arbeitsrechts ist zu erwarten, dass das Thema KI Einzug in die Agenden der Arbeitsinspektionen und möglicherweise auch in Tarifverhandlungen halten wird. Gewerkschaften in einigen Ländern fordern bereits ein Recht auf Nichterreichbarkeit (Right to Disconnect) im Verhältnis zu KI – damit Mitarbeiter nicht rund um die Uhr von nüchternen Metriken bewertet werden.

Zudem wird über ein Recht auf Erklärung von KI-Entscheidungen und das Recht, eine automatisierte Bewertung abzulehnen, gesprochen. Einige dieser Prinzipien haben wir faktisch bereits dank der DSGVO, aber es ist mit ihrer Stärkung zu rechnen. Die tschechische Gesetzgebung wird die europäischen Normen umsetzen müssen – z. B. die Kompetenzen der Datenschutzbehörde (ÚOOÚ) und der Arbeitsinspektorate anpassen und gegebenenfalls bestimmte Pflichten im Arbeitsgesetzbuch oder im Beschäftigungsgesetz verankern (z. B. bezüglich der Information von Bewerbern/Mitarbeitern über KI).

Dynamik der Branche: KI-Technologien entwickeln sich schnell, und der rechtliche Rahmen wird sich ihnen ständig anpassen. Unternehmen sollten daher die Neuigkeiten verfolgen – an Seminaren teilnehmen, Fachartikel lesen oder die Dienste von Rechtsberatern in Anspruch nehmen, die auf IT-Recht und HR spezialisiert sind. Es lohnt sich auch, Erfahrungen in der Branche zu teilen – z. B. im Rahmen von Fachbegegnungen von HR-Managern Erkenntnisse darüber auszutauschen, wie wer das Thema KI löst und was sich bewährt hat.

Ethik als dauerhaftes Thema: Neben den Gesetzen wird der Druck auch von der Öffentlichkeit und den Mitarbeitern selbst kommen. Generationen, die neu auf den Arbeitsmarkt drängen (Millennials, Gen Z), achten stark auf Werte und werden fragen, wie das Unternehmen KI einsetzt. Es kann Teil des Employer Brandings werden zu sagen: „Wir nutzen KI verantwortungsvoll“. Am Horizont stehen ebenfalls Überlegungen zu kollektiven Rechten – z. B. ob Mitarbeiter über die Einführung von KI am Arbeitsplatz (über Betriebsräte) mitbestimmen sollten usw. All dies sind Fragen, die die nächsten Jahre mit sich bringen werden.

Fazit

Künstliche Intelligenz bietet HR-Abteilungen hervorragende Möglichkeiten, die Arbeit effizienter zu gestalten und Entscheidungen datengestützter zu treffen. Tschechischen Unternehmen kann sie helfen, Talente schneller zu finden, Mitarbeiter besser zu motivieren und zu entwickeln sowie die Wettbewerbsfähigkeit zu sichern. Gleichzeitig ist sie jedoch kein Allheilmittel – sie erfordert eine sorgfältige Einführung, kontinuierliche Kontrolle und vor allem Respekt gegenüber den Menschen, die sie betrifft. Die rechtlichen Risiken sind nicht unerheblich: von Bußgeldern wegen Verstößen gegen die DSGVO über Klagen wegen Diskriminierung bis hin zur Schädigung des Rufs als Arbeitgeber. Dieser praktische Leitfaden hat verdeutlicht, dass der Schlüssel in der Ausgewogenheit liegt – KI dort einzusetzen, wo sie klare Vorteile bringt, aber immer mit Verstand, menschlicher Aufsicht und im Rahmen von Gesetz und Ethik. Wenn ein Unternehmen an KI als ein Werkzeug herangeht, das den Menschen dient (und nicht umgekehrt), kann es im HR-Bereich das Maximum bei minimalem Risiko herausholen. Die Zukunft des HR-Bereichs wird voraussichtlich einer klugen Zusammenarbeit von Mensch und Maschine gehören – bereiten wir uns verantwortungsvoll und mit offenen Augen darauf vor.