Künstliche Intelligenz im HR

Konkrete Einsatzbereiche von KI im HR

Rekrutierung und Personalauswahl

Die Einstellung neuer Mitarbeiter ist für viele Unternehmen einer der ersten Bereiche, in denen sie KI einsetzen.

Automatisiertes Vorscreening von Lebensläufen: KI-Systeme können Hunderte von Lebensläufen in kürzester Zeit durchgehen, nach Schlüsselwörtern oder erforderlichen Qualifikationen suchen und die Kandidaten so vorsortieren. Das spart Personalern Zeit und hilft, die geeignetsten Bewerber ohne menschliche Vorurteile zu identifizieren. Moderne Tools können Vorstellungsgespräche planen und die Kommunikation mit Kandidaten koordinieren – beispielsweise ausgewählten Bewerbern automatisch eine Einladung zum Interview senden, passende Termine anhand von Kalendern vorschlagen oder Online-Tests verschicken.

Chatbots und Voicebots übernehmen dann den Erstkontakt: Sie beantworten häufige Fragen von Stelleninteressenten schnell und jederzeit, auch außerhalb der Arbeitszeit​.

Nach den Erfahrungen von Personalagenturen finden bis zu 47 % der Gespräche mit einem Recruiting-Chatbot abends oder am Wochenende statt – Kandidaten müssen also nicht auf die Geschäftszeiten warten und erhalten sofort eine Antwort​.

Das verbessert ihre Erfahrung im Bewerbungsprozess und nimmt dem HR-Team zugleich Routineanfragen ab. KI hilft auch bei der Erstellung von Stellenanzeigen – sie generiert Texte und sogar Bilder für Stellenangebote, die das Unternehmen dann auf Karriereseiten oder in sozialen Netzwerken verwenden kann​.

Dank KI lässt sich so mit einer schnell erstellten und auf die jeweilige Position zugeschnittenen, attraktiven Anzeige ein breiterer Kandidatenkreis ansprechen. Bei all diesen Anwendungen ist jedoch entscheidend, darauf zu achten, dass die Algorithmen bestimmte Bewerbergruppen weder bevorzugen noch benachteiligen – darauf kommen wir im Abschnitt über Bias und Diskriminierung noch zurück.

Die meisten der genannten KI-Anwendungen im HR stehen im Einklang mit dem AI Act, sofern sie ethisch und transparent umgesetzt werden. Wichtig ist jedoch sicherzustellen, dass es nicht zu Manipulation, zur Ausnutzung von Schwächen, zu Social Scoring oder zur Emotionserkennung bei Mitarbeitern kommt – dies sind nach dem AI Act verbotene Praktiken. Ich empfehle, jede KI-Anwendung im HR sorgfältig auf ihre Vereinbarkeit mit dem AI Act zu prüfen und sich gegebenenfalls mit ARROWS zu beraten.

Automatisierung von HR-Prozessen

Personaler verbringen einen erheblichen Teil ihrer Zeit mit sich wiederholenden Verwaltungsaufgaben – gerade hier kann KI erheblich helfen.

• Bearbeitung der laufenden Personalverwaltung: KI kann Formulare und Anträge (z. B. Urlaubsanträge, Änderungen persönlicher Daten) automatisch bearbeiten und in interne Systeme eingeben. Ein Chatbot für den internen HR-Support kann Fragen der Mitarbeiter zu Benefits, Gehältern oder Unternehmensrichtlinien beantworten und so die Personalabteilung entlasten.
• Schicht- und Einsatzplanung: Fortgeschrittene Algorithmen können die Schichten der Mitarbeiter anhand von Anwesenheitsdaten, Verfügbarkeit und betrieblichem Bedarf optimal einteilen. Das spart den Unternehmen Zeit bei der Erstellung von Dienstplänen und berücksichtigt zugleich die Präferenzen der Mitarbeiter, sofern diese vorliegen.
• Onboarding neuer Mitarbeiter: KI kann neue Mitarbeiter durch die grundlegenden Aufgaben beim Eintritt führen – vom Ausfüllen der Eintrittsunterlagen über das Kennenlernen interner Vorschriften bis hin zu einem virtuellen Rundgang durch den Arbeitsplatz in Form eines interaktiven Chatbots.
• Analyse von HR-Daten und Reporting – KI-Tools erstellen z. B. automatisch regelmäßige Berichte über Fluktuation, Krankenstand oder Lohnkosten und erkennen darin Muster oder Anomalien, denen das Management Aufmerksamkeit schenken sollte. Das Ergebnis sind schnellere Prozesse und weniger Fehler durch routinemäßige Handarbeit.

Umfragen zufolge zählt gerade die Automatisierung wiederkehrender Aufgaben zu den größten Vorteilen von KI im HR​.

Unternehmen können die gewonnene Zeit so für strategischere Tätigkeiten nutzen, bei denen menschliches Urteilsvermögen und Empathie unersetzlich sind.

Leistungsbeurteilung von Mitarbeitern

Auch die Leistungsbeurteilung und das Performance-Management treten dank KI in eine neue Ära ein. Die traditionelle jährliche Mitarbeiterbeurteilung wird durch laufende Analysen von Leistungsdaten ergänzt, die teilweise automatisiert sein können.

Analyse der Arbeitsergebnisse: In Vertriebsteams kann KI Verkäufe und KPIs in Echtzeit verfolgen und Manager auf Schwankungen hinweisen – etwa Mitarbeiter mit sinkenden Zahlen identifizieren, damit diese rechtzeitig Unterstützung oder Schulungen erhalten. In Kundencentern bewerten manche Systeme mithilfe von KI die Qualität von Telefongesprächen (Tonfall, Schlüsselwörter) oder die Bearbeitungsgeschwindigkeit von Anfragen und geben den Mitarbeitern sofortiges Feedback.

Prädiktive HR-Analytik verspricht sogar vorherzusagen, bei welchen Mitarbeitern ein Abwanderungsrisiko besteht (sog. Flight Risk), und zwar anhand verschiedener Indikatoren – Einbindung in Projekte, Fehlzeiten, Stimmung im Team usw. Manager können dann proaktiv handeln, etwa einen Karriereschritt anbieten oder die Zufriedenheit angehen, bevor ein wertvoller Kollege kündigt. Diese Tools können die Arbeit mit Talenten erheblich präziser und schneller machen. Andererseits ist Vorsicht geboten: Ein „Blackbox“-Algorithmus, der ohne klare Kriterien selbst über Beförderungen oder die Höhe von Boni entscheiden würde, ist für das Unternehmen sowohl unter Fairness-Gesichtspunkten als auch rechtlich riskant. Nicht zufällig stuft der europäische AI Act Systeme zur Bewertung der Leistung und des Verhaltens von Arbeitnehmern als sog. Hochrisikosysteme ein und stellt an sie strenge Anforderungen​.

Das bedeutet, dass in der Praxis immer ein Mensch das letzte Wort haben sollte – KI sollte als unterstützendes Werkzeug dienen, das Daten und Empfehlungen liefert, doch die endgültige Entscheidung (z. B. wen man befördert oder wie man bewertet) muss die Führungskraft unter Berücksichtigung des Kontexts und der menschlichen Perspektive treffen.

Überwachung von Mitarbeitern

Die Mitarbeiterüberwachung ist ein sensibler Bereich, in den Technologien generell immer stärker vordringen – und KI eröffnet neue Möglichkeiten, aber auch Kontroversen. Unternehmen können KI zur Erfassung von Anwesenheit und Arbeitszeit nutzen – etwa eine Kamera mit Gesichtserkennung am Eingang (anstelle einer Stempeluhr) oder die automatische Auswertung von Systemanmeldeprotokollen zur Erfassung der Arbeit im Homeoffice.

Einige Unternehmen testen Tools, die die Aktivität am Computer überwachen (Tastenanschläge, Mausbewegungen, geöffnete Anwendungen) und die Produktivität des Mitarbeiters bewerten. KI kann große Mengen solcher Daten analysieren und nach Mustern suchen – etwa darauf hinweisen, dass ein bestimmter Mitarbeiter häufig Zeit mit arbeitsfremden Online-Aktivitäten verbringt, oder umgekehrt überlastete Mitarbeiter erkennen, die nicht einmal Pausen machen.

In der Logistik werden KI-Systeme zur Überwachung von Fahrzeugen und Fahrern eingesetzt (GPS-Tracker kombiniert mit Algorithmen zur Routenoptimierung und Erkennung von Abweichungen), in der Produktion wiederum Kamerasysteme, die die Einhaltung von Sicherheitsvorschriften kontrollieren. Moderne KI-Kameras können beispielsweise automatisch erkennen, ob Mitarbeiter Helm und Warnweste tragen, und auf Verstöße hinweisen. Solche automatisierten Sicherheitsaudits können Unfälle verhindern.

Darüber hinaus gibt es Experimente mit der Analyse der Kommunikation – z. B. kann ein KI-Tool anonymisierte Zusammenfassungen von E-Mails oder Chats im Team auswerten und die „Stimmung“ oder das Engagement messen (Sentiment-Analyse), damit HR Unzufriedenheit am Arbeitsplatz rechtzeitig erkennt. Diese Möglichkeiten stoßen jedoch an die Grenzen der Privatsphäre. In der Tschechischen Republik legt das Gesetz klar fest, dass der Arbeitgeber die Privatsphäre des Arbeitnehmers nicht ohne schwerwiegenden Grund durch systematische Überwachung oder Kontrolle der Kommunikation verletzen darf. Auch eine begründete Überwachung muss verhältnismäßig sein, und die Mitarbeiter müssen darüber im Voraus informiert werden – die Einzelheiten erläutern wir im rechtlichen Teil​.

Vorerst gilt: KI kann bei der Überwachung helfen – Unternehmen müssen jedoch sehr sorgfältig abwägen, was und auf welche Weise sie überwachen, um die gesetzlichen Grenzen nicht zu überschreiten und das Vertrauen ihrer Mitarbeiter nicht zu verlieren.

Schulung und Entwicklung

Künstliche Intelligenz kann auch die Weiterbildung der Mitarbeiter personalisieren und effizienter gestalten. Traditionelle Schulungen bieten oft allen dasselbe, während KI die Bedürfnisse und Leistungen einzelner Personen analysieren und entsprechend einen maßgeschneiderten Entwicklungsplan vorschlagen kann. Ein Mitarbeiter im Kundenservice, der mit einer bestimmten Softwarefähigkeit kämpft, kann dank KI beispielsweise die Empfehlung für ein konkretes E-Learning-Modul oder Coaching genau in diesem Bereich erhalten. KI-Tools verfolgen, wie jemand in Wissenstests oder bei der Erfüllung von Aufgaben abschneidet, und empfehlen relevante Weiterbildungsprogramme entsprechend den festgestellten Lücken​.

Dieser personalisierte Ansatz steigert die Lerneffizienz – die Menschen lernen nicht unnötig, was sie bereits können, sondern konzentrieren sich auf das, was sie verbessern müssen. Einige Unternehmen nutzen bereits Chatbots als virtuelle Tutoren: Der Mitarbeiter kann den Chatbot alles fragen (z. B. „Wie fülle ich einen Dienstreiseantrag richtig aus?“ oder „Was tun bei einer Kundenreklamation?“), und die KI liefert ihm umgehend eine Antwort einschließlich Verweisen auf die einschlägigen internen Richtlinien oder Materialien. Das ermöglicht Lernen just in time – man erwirbt das benötigte Wissen genau dann, wenn man es braucht.

KI kann auch Schulungsinhalte generieren – von der automatischen Erstellung von Präsentationen auf Grundlage bereitgestellter Unterlagen über Übersetzungen und Lokalisierung von Kursen bis hin zu Simulationen in der virtuellen Realität zum Üben (z. B. Training eines Kundengesprächs in einer simulierten Umgebung). Das Ergebnis ist eine schnellere und günstigere Erstellung von Trainings, die sich leicht an verschiedene Rollen anpassen lassen.

In großen Unternehmen mit Hunderten oder Tausenden Mitarbeitern hilft KI so, die Entwicklung zu skalieren – jedem Mitarbeiter über eine App oder das Intranet einen „Coach“ in Reichweite zu bieten. Wichtig ist jedoch sicherzustellen, dass die Entwicklungsempfehlungen der KI mit den strategischen Bedürfnissen des Unternehmens übereinstimmen und dass es nicht zu unerwünschtem „Schubladendenken“ gegenüber Mitarbeitern kommt (z. B. dass der Algorithmus jemandem allein aufgrund früherer Ergebnisse keine Karriereentwicklung mehr anbietet). Deshalb sollte auch hier HR das letzte Wort haben und KI als Hilfsmittel betrachten.

Rechtliche Aspekte von KI im HR

Der Einsatz von KI im Personalwesen bringt nicht nur technologische, sondern auch rechtliche Herausforderungen mit sich. Arbeitgeber müssen eine Reihe von Rechtsvorschriften beachten – vom Schutz personenbezogener Daten (DSGVO) über den arbeitsrechtlichen Schutz der Arbeitnehmer bis hin zu Diskriminierungsverboten. Im Folgenden erläutern wir die wichtigsten rechtlichen Aspekte, auf die sich tschechische Unternehmen konzentrieren sollten.

Schutz personenbezogener Daten und DSGVO

Mitarbeiterdaten als personenbezogene Daten: Der Großteil der HR-Arbeit dreht sich um personenbezogene Daten der Mitarbeiter – seien es Lebensläufe von Kandidaten, Angaben zur Anwesenheit, Leistung oder zu Schulungen. Nach der Definition der DSGVO sind personenbezogene Daten alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen​.

Werden also beim Einsatz von KI Daten über konkrete Mitarbeiter verarbeitet (was in den meisten HR-Szenarien der Fall ist), müssen alle Pflichten des Verantwortlichen nach der DSGVO eingehalten werden.

Rechtsgrundlage der Verarbeitung: Das Unternehmen muss für die Datenverarbeitung eine klare Rechtsgrundlage haben. Im HR-Kontext handelt es sich meist um die Vertragserfüllung (z. B. die Lohnabrechnung, die für den Arbeitsvertrag erforderlich ist) oder das berechtigte Interesse des Arbeitgebers (z. B. effizientere Personalgewinnung mithilfe von KI). Stützt sich das Unternehmen auf das berechtigte Interesse, sollte es eine sog. Interessenabwägung durchführen – dokumentieren, dass sein Interesse (z. B. die Automatisierung der Personalgewinnung) die Rechte und Freiheiten der Arbeitnehmer nicht überwiegt​.

Transparenz und Information: Mitarbeiter und Bewerber müssen darüber informiert werden, welche Daten die KI zu welchem Zweck verarbeitet. Die DSGVO (Art. 13) verpflichtet dazu, der betroffenen Person klare Informationen bereitzustellen, einschließlich der Tatsache, dass eine automatisierte Entscheidungsfindung oder ein Profiling stattfindet. Setzt das Unternehmen KI ein, sollte es daher die Datenschutzhinweise für Mitarbeiter aktualisieren, ebenso die internen Datenschutzrichtlinien und ggf. auch Formulierungen in Arbeitsverträgen oder Einwilligungen. Die Mitarbeiter behalten ihre Rechte nach der DSGVO – das Recht auf Auskunft, auf Berichtigung unrichtiger Daten, gegebenenfalls auf Widerspruch gegen die Verarbeitung oder auf Löschung. Das Unternehmen muss sicherstellen, dass diese Rechte auch beim Einsatz von KI ausgeübt werden können. Bewertet ein KI-System beispielsweise die Leistung, sollte der Mitarbeiter herausfinden können, welche Daten das System über ihn speichert, und diese gegebenenfalls berichtigen lassen.

Vertrag mit dem KI-Anbieter: Häufig wird das KI-Tool für HR von einem externen Unternehmen geliefert (z. B. KI-basierte Recruiting-Software). In diesem Fall ist der Anbieter typischerweise Auftragsverarbeiter im Namen Ihres Unternehmens (des Verantwortlichen). Die DSGVO verlangt, mit dem Auftragsverarbeiter einen Auftragsverarbeitungsvertrag abzuschließen und ihn zur Einhaltung der Datenschutzregeln zu verpflichten​.

Das Unternehmen sollte sicherstellen, dass der Anbieter des KI-Dienstes die Daten schützt, sie nicht für andere Zwecke verwendet und dem Unternehmen ermöglicht, seine Pflichten gegenüber den betroffenen Personen zu erfüllen. Achtung auch bei den Daten, mit denen die KI lernt: Stellen Sie dem Anbieter Ihre HR-Daten zum „Training“ des Modells zur Verfügung, ist auch das eine Verarbeitung personenbezogener Daten, für die Sie eine Rechtsgrundlage und eine vertragliche Regelung benötigen.

Risikobewertung und DSFA: Die Regulierung betont, zu prüfen, ob der Einsatz einer neuen Technologie hohe Risiken für die Rechte der Arbeitnehmer mit sich bringt. KI gilt häufig als neue Art der Verarbeitung mit potenziell hohem Risiko, sodass die Pflicht zur Durchführung einer DSFA (Datenschutz-Folgenabschätzung) greifen kann​.

Will ein Unternehmen beispielsweise einen Algorithmus zur Bewertung von Bewerbern einführen, sollte es die Risiken im Voraus analysieren – was, wenn der Algorithmus jemanden zu Unrecht ausschließt, was bei einem Datenleck usw. Deckt die DSFA hohe Risiken auf, die sich nicht mindern lassen, ist das Amt für den Schutz personenbezogener Daten (Úřad pro ochranu osobních údajů, ÚOOÚ) zu konsultieren. So oder so wird die Einbindung des betrieblichen Datenschutzbeauftragten (DSB) (sofern das Unternehmen einen hat) beim Einsatz von KI im HR dringend empfohlen.

Datensicherheit: KI-Systeme sind oft datenintensiv und arbeiten teilweise in der Cloud – umso wichtiger ist die Cybersicherheit. Ein Leck sensibler Mitarbeiterdaten (Beurteilungen, Gehalt, Personalakten) könnte für das Unternehmen schwerwiegende Folgen haben. Sowohl die DSGVO als auch das tschechische Arbeitsgesetzbuch (Gesetz Nr. 262/2006 Slg., im Folgenden „ArbGB“) verpflichten den Arbeitgeber, die personenbezogenen Daten der Mitarbeiter vor Missbrauch zu schützen. In der Praxis bedeutet das, technische und organisatorische Maßnahmen zu ergreifen – Verschlüsselung von Datenbanken, Zugriffssteuerung (nur berechtigte Nutzer), regelmäßige Audits, Schulungen der Administratoren von KI-Tools usw. Würde eine generative KI beispielsweise Anfragen beantworten und jemand gäbe sensible Personaldaten (etwa eine Gehaltsliste) ein, könnten diese an die Server des Anbieters übermittelt werden – auch das ist ein Sicherheitsrisiko, auf das die Mitarbeiter hingewiesen werden müssen (siehe unten bei den Empfehlungen).

Die Einhaltung der DSGVO sollte man nicht unterschätzen – Sanktionen für Verstöße können bis zu 20 Millionen EUR oder 4 % des weltweiten Jahresumsatzes des Unternehmens erreichen​.

Ebenso wichtig ist jedoch der Ruf des Arbeitgebers: Ein Datenleck-Skandal oder Beschwerden von Mitarbeitern über Verletzungen der Privatsphäre können das Vertrauen und die Unternehmenskultur beschädigen.

Das Team der Anwaltskanzlei ARROWS in Olomouc

Diskriminierung und Bias in der KI

Risiko algorithmischer Diskriminierung: KI im HR verspricht Objektivität, weil sie auf Grundlage von Daten entscheidet. Ohne geeignete Maßnahmen kann sie jedoch im Gegenteil Vorurteile übertragen und verstärken, die in den Daten stecken. Ein klassisches Beispiel ist ein Recruiting-Algorithmus, der aus historischen Daten „lernt“, einen bestimmten Kandidatentyp zu bevorzugen. Hat ein Unternehmen in der Vergangenheit für IT-Positionen überwiegend Männer eingestellt, kann die KI dieses Muster übernehmen und Lebensläufe von Frauen systematisch benachteiligen – ohne dass dies jemand ausdrücklich beabsichtigt hätte. Bekannt ist das Experiment von Amazon, das eine interne KI zur Bewertung von Lebensläufen entwickelte: Nach einiger Zeit stellte man fest, dass sie Bewerberinnen niedrigere Punktzahlen gab, weil die historischen Daten zugunsten von Männern „voreingenommen“ waren​.

Der Algorithmus bestrafte beispielsweise Angaben wie „Kapitänin des Frauen-Schachclubs“ nur deshalb, weil das Wort „Frauen“ in den Daten erfolgreicher Kandidaten nicht vorkam​.

Ein solches Verhalten ist selbstverständlich unerwünscht und im arbeitsrechtlichen Kontext unzulässig.

Diskriminierungsverbot: Das ArbGB und das tschechische Antidiskriminierungsgesetz (antidiskriminační zákon) verbieten ausdrücklich Diskriminierung im Beschäftigungsverhältnis aufgrund geschützter Merkmale wie Geschlecht, Alter, Rasse oder ethnische Herkunft, Glaube, sexuelle Orientierung u. a. Das gilt für die Einstellung, die Vergütung, Beförderungen und die Beendigung des Arbeitsverhältnisses. Führt eine von der KI getroffene Entscheidung zu einer ungerechtfertigten Benachteiligung einer Person wegen eines dieser Merkmale, haftet dafür der Arbeitgeber – genauso, als hätte ein Manager im Vorstellungsgespräch direkt diskriminiert. Unternehmen müssen daher sorgfältig überwachen, wie die KI entscheidet, und vor dem Einsatz testen, ob sie einen Bias aufweist. Bei einem CV-Screening-Tool lassen sich beispielsweise Tests mit fiktiven Profilen durchführen (Frau vs. Mann mit gleicher Qualifikation usw.) und prüfen, dass die Ergebnisse nicht systematisch voneinander abweichen.

Außerdem empfiehlt es sich, die Verwendung solcher Eingaben einzuschränken, die als Proxy für sensible Merkmale dienen könnten – typischerweise die Wohnadresse (kann mit einer ethnischen Minderheit korrelieren), die Dauer der Elternzeit (kann Männer gegenüber Frauen bevorzugen), ein Foto des Kandidaten usw.

Pflichten der Arbeitgeber: In der Praxis sollte ein KI-System niemals völlig allein eine unumkehrbare Entscheidung treffen. Das europäische Recht (Art. 22 DSGVO) verbietet, Personen einer ausschließlich automatisierten Entscheidung mit erheblichen Auswirkungen zu unterwerfen, sofern keine besonderen Garantien bestehen. Ein Beispiel wäre, wenn ein Algorithmus völlig allein, ohne menschliche Prüfung, über die Einstellung oder Ablehnung eines Bewerbers entscheiden würde – ein solches Vorgehen ist (mit Ausnahmen) verboten, weil es die betroffene Person erheblich beeinträchtigt​.

Das Unternehmen sollte daher sicherstellen, dass stets ein Mensch in den Prozess eingebunden ist, der die Empfehlung der KI überprüfen kann. Damit wird nicht nur die gesetzliche Anforderung erfüllt, sondern auch das Diskriminierungsrisiko gesenkt – ein menschlicher Personaler kann ein verdächtiges Muster erkennen (z. B. „Die KI hat mir alle Frauen aussortiert, das ist nicht in Ordnung“) und eingreifen.

Training und Feinabstimmung der Modelle: Verantwortungsvolle KI-Anbieter legen heute Wert auf sog. ethische KI – Modelle, die so gestaltet sind, dass sie Bias minimieren. Für ein Unternehmen, das eigene KI-Lösungen entwickelt, bedeutet dies, eine Phase der Fairness-Abstimmung in die Entwicklung aufzunehmen. So lassen sich etwa die Gewichtungen des Algorithmus anpassen oder Ausgleichsmechanismen ergänzen, wenn sich zeigt, dass eine bestimmte Gruppe ohne legitimen Grund schlechter abschneidet. Kaufen Sie ein KI-Produkt von einem Dritten, fragen Sie den Anbieter, wie er mit dem Thema Bias umgegangen ist und ob er Diskriminierungstests durchgeführt hat.

Überwachung der KI-Entscheidungen: Mit der Einführung der KI ist es nicht getan – die Ergebnisse müssen laufend überwacht werden. Es empfiehlt sich, Aufzeichnungen (Logs) darüber zu führen, wie die KI entschieden hat, und diese regelmäßig zu analysieren, etwa hinsichtlich des Verhältnisses von Einstellungen und Ablehnungen nach Geschlecht, Alter usw. Dabei kann auch eine verpflichtende Grundrechte-Folgenabschätzung helfen (sog. ALTAI – Assessment List for Trustworthy AI), die der neue AI Act voraussichtlich für Hochrisikosysteme verlangen wird. Kurz gesagt: Das Unternehmen muss die KI ähnlich beaufsichtigen wie seine Manager – ihr Grenzen setzen und kontrollieren, dass sie diese einhält. Diese Pflicht zu ignorieren lohnt sich nicht: Neben Bußgeldern drohen auch Rechtsstreitigkeiten mit abgelehnten Bewerbern oder Mitarbeitern, die sich diskriminiert fühlen, sowie ein Verlust des guten Rufs.

Mitarbeiterüberwachung und Rechte der Arbeitnehmer

Recht auf Privatsphäre vs. Kontrolle durch den Arbeitgeber: Wie oben skizziert, geben moderne Technologien Arbeitgebern beispiellose Möglichkeiten, zu verfolgen, was Mitarbeiter tun. Rechtlich ist die Privatsphäre des Arbeitnehmers jedoch geschützt und darf nicht übermäßig beeinträchtigt werden. Das tschechische Arbeitsgesetzbuch (§ 316 ArbGB) besagt, dass der Arbeitgeber die Nutzung seiner Produktions- und Arbeitsmittel (dem Arbeitnehmer überlassene Computer, Telefone, Fahrzeuge usw.) nur in angemessener Weise und im unbedingt erforderlichen Umfang kontrollieren darf​.

Das bedeutet, dass nicht flächendeckend und unbegrenzt jede Tätigkeit des Arbeitnehmers überwacht werden darf – die Kontrolle muss einen vernünftigen Grund haben (z. B. Schutz des Eigentums, der Sicherheit, von Geschäftsgeheimnissen) und möglichst wenig invasiv sein. Verdeckte Überwachung der Kommunikation des Arbeitnehmers (Lesen privater E-Mails, Abhören von Gesprächen) ist ausdrücklich verboten, sofern kein schwerwiegender Grund vorliegt, der in der besonderen Art der Tätigkeit des Arbeitgebers besteht​.

Ein solcher Grund könnte z. B. die Notwendigkeit sein, in einer bestimmten Branche das Durchsickern streng geheimer Informationen zu verhindern; in einem gewöhnlichen Unternehmen gibt es dafür meist keinen legitimen Grund. Auch dort, wo er besteht (z. B. kann ein Sicherheitsdienst einen Grund haben zu überwachen, ob ein Wachmann tatsächlich seine Runden auf dem Gelände dreht), gilt der Grundsatz der Verhältnismäßigkeit – nur überwachen, was notwendig ist, und nicht mehr.

Informationspflicht: Entscheidend ist, dass der Arbeitgeber die Arbeitnehmer im Voraus über jegliche Überwachung, deren Umfang und Methoden informieren muss. Es reicht also nicht, dies irgendwo in einer internen Richtlinie zu verstecken – die Mitarbeiter müssen nachweislich darüber in Kenntnis gesetzt werden, ob und wie sie überwacht werden.

Setzt ein Unternehmen beispielsweise KI ein, die E-Mails auf Schlüsselwörter analysiert (sei es auch nur aus Gründen der Cybersicherheit), muss es die Mitarbeiter darauf hinweisen, dass die dienstliche E-Mail überwacht wird und welche Daten davon betroffen sind. Das ArbGB verlangt nicht, dass die Mitarbeiter zustimmen (eine Einwilligung kann nicht erzwungen werden), aber sie müssen davon wissen.

KI und Überwachung: Der Einsatz von KI auf Seiten des Arbeitgebers ändert an diesen Pflichten nichts – es ist gleichgültig, ob die Kontrolle ein Mensch oder ein Algorithmus durchführt. Wertet eine KI beispielsweise Kameraaufnahmen aus und meldet verdächtiges Verhalten, gelten dieselben Grenzen wie für herkömmliche Kamerasysteme. Zudem handelt es sich beim Einsatz von KI wiederum um eine Verarbeitung personenbezogener Daten, sodass die DSGVO greift – so ist etwa die Gesichtserkennung per Kamera ein biometrisches Datum mit besonders sensiblem Status.

Europäische Aufsicht: Nicht nur tschechische Gerichte, sondern auch der Europäische Gerichtshof für Menschenrechte hat sich wiederholt zur Mitarbeiterüberwachung geäußert. Im bekannten Fall Bărbulescu gegen Rumänien stellte der EGMR fest, dass die Entlassung eines Arbeitnehmers wegen der privaten Nutzung des dienstlichen E-Mail-Kontos unrechtmäßig war, weil der Arbeitnehmer nicht vorab klar über den Umfang der Überwachung informiert worden war​.

Das ist eine wichtige Lehre für Unternehmen: Selbst wenn ein Arbeitnehmer gegen Regeln verstoßen hat (den Dienstcomputer privat genutzt hat), dürfen Beweise nicht durch verdeckte Überwachung erlangt werden, von der er nichts wusste. Fazit: Achten Sie bei der Einführung von KI-Tools zur Überwachung (Anwesenheitskameras, Computerüberwachung usw.) auf die gesetzlichen Grenzen.

Gestalten Sie die Überwachung gezielt, nicht flächendeckend; erfassen Sie nur die notwendigen Daten; schließen Sie unbedingt die Überwachung von Räumen aus, in denen das Gesetz sie verbietet (Umkleiden, Toiletten, Ruheräume – dort hat der Arbeitnehmer absolute Privatsphäre). Informieren Sie die Mitarbeiter stets offen darüber, was überwacht wird und warum. Bedenken Sie auch die ethische Seite – übermäßige Kontrolle kann die Beziehungen am Arbeitsplatz beeinträchtigen. Nutzen Sie KI bei der Überwachung eher für die Sicherheit und wirklich schwerwiegende Gründe, nicht für das Mikromanagement jedes Schritts eines Mitarbeiters.

Es ist daher unerlässlich, dass Arbeitgeber vor der Einführung von Gesichtserkennungstechnologien eine gründliche Analyse der Rechtskonformität durchführen und prüfen, ob eine solche Verarbeitung biometrischer Daten im Hinblick auf den angestrebten Zweck erforderlich und verhältnismäßig ist. Die Anwälte von ARROWS, spezialisiert auf die Schnittstelle von KI, HR und DSGVO, helfen Ihnen gerne dabei. Erfahrungen gibt es: Im Jahr 2018 fand zu diesem Thema eine Kontrolle beim Unternehmen Metrostav statt.​

Da sich der rechtliche Rahmen in diesem Bereich weiterentwickeln kann, empfiehlt es sich, die aktuellen Stellungnahmen des ÚOOÚ sowie etwaige Gesetzesänderungen zu verfolgen, die die Möglichkeiten und Bedingungen der Verarbeitung biometrischer Daten im Privatsektor beeinflussen könnten.

Verantwortung für von KI getroffene Entscheidungen

Wer trägt die Verantwortung: Stellen wir uns folgende Situation vor – ein KI-System wählt einen Kandidaten aus, den das Unternehmen einstellt, oder empfiehlt umgekehrt, einen bestimmten Mitarbeiter zu entlassen. Wer ist für diese Entscheidung rechtlich verantwortlich? Aus rechtlicher Sicht immer der Arbeitgeber. KI ist kein Rechtssubjekt und haftet nicht für ihr Handeln – sie ist ein Werkzeug, ähnlich wie etwa eine Buchhaltungssoftware. Kommt es zu einem Fehler (Diskriminierung, unrechtmäßige Beendigung des Vertrags usw.), haftet gegenüber dem betroffenen Arbeitnehmer oder Bewerber das Unternehmen, nicht der KI-Anbieter und auch nicht „der Computer“. Es liegt daher im Interesse des Arbeitgebers, die Entscheidungen der KI unter Kontrolle zu behalten.

Automatisierte Entscheidungen in Arbeitsverhältnissen: Wie bereits erwähnt, verbietet die DSGVO grundsätzlich rein automatisierte Entscheidungen mit erheblichen Auswirkungen auf Einzelpersonen. Im HR fallen darunter Entscheidungen wie Einstellung/Nichteinstellung, Beförderung/Nichtbeförderung, Kündigung, eine deutliche Änderung von Gehalt oder Boni usw. Das Unternehmen sollte sich nie in der Situation wiederfinden, dass eine Entscheidung „die KI getroffen hat und niemand sonst sie gesehen hat“. Zum einen wäre das rechtlich angreifbar, zum anderen wäre eine solche Entscheidung schwer zu verteidigen – wie würden Sie vor Gericht erklären, warum jemand entlassen wurde, wenn die Antwort lautete: „Das hat der Algorithmus entschieden, und wir wissen eigentlich nicht, warum“?

Erfordernis menschlicher Aufsicht: Gute Praxis (und bald auch gesetzliche Pflicht nach dem AI Act) ist es, eine menschliche Aufsicht (human oversight) über die KI sicherzustellen​. Das bedeutet, Personen zu bestimmen, die die Funktionsweise des Systems verstehen, bei Bedarf eingreifen oder es abschalten können und vor allem in kritischen Momenten die endgültige Entscheidung übernehmen. So kann die KI beispielsweise eine Rangfolge der Kandidaten vorschlagen, doch der Personaler muss die Top-Auswahl durchgehen und die Entscheidung bestätigen oder anpassen. Beim Einsatz von KI zur Anwesenheitskontrolle kann die KI verdächtige Muster markieren (häufiges Zuspätkommen), doch die Führungskraft muss mit dem betreffenden Mitarbeiter sprechen und die Gründe klären, bevor sie Sanktionen ergreift.

Prüfbarkeit und Erklärbarkeit: Verantwortung hängt auch damit zusammen, dass das Unternehmen die Gründe einer Entscheidung belegen können sollte. Bei KI spricht man häufig vom Problem der „erklärbaren KI“ (explainable AI) – insbesondere bei sog. Blackbox-Algorithmen ist es schwierig, im Nachhinein zu entschlüsseln, warum sie so entschieden haben, wie sie entschieden haben. Hängt jedoch die Karriere eines Menschen von der Entscheidung ab, ist es fair, ihm eine Erklärung geben zu können. Für das Unternehmen bedeutet dies, KI-Tools zu bevorzugen, die transparent sind oder ein sog. Explanation Interface bieten – z. B. die Punktzahl eines Kandidaten mit der Begründung „erfüllt die Anforderung XY nicht“ statt eines bloßen „abgelehnt“ anzeigen. Es empfiehlt sich außerdem, Protokolle (Logs) über die Tätigkeit der KI zu speichern​, damit nachvollzogen werden kann, wie sie zu einem bestimmten Ergebnis gelangt ist.

Beanstandung von KI-Entscheidungen: Stellt ein Mitarbeiter oder Bewerber eine Entscheidung in Frage, an der eine KI beteiligt war (z. B. vermutet er, vom Algorithmus diskriminiert worden zu sein), sollte er dies genauso klären können, als ginge es um die Entscheidung eines Managers. Das Unternehmen sollte über einen internen Prozess verfügen, wie eine solche Beschwerde geprüft wird – typischerweise unter Einbeziehung von HR- und IT-Experten, die analysieren, ob die KI einen Fehler gemacht hat. Im äußersten Fall würde der Streit dann vor Gericht oder vom Arbeitsinspektorat (inspektorát práce) geklärt, und das Unternehmen müsste sein Vorgehen verteidigen.

Anbieter vs. Nutzer: Selbstverständlich trägt nach außen der Arbeitgeber die Verantwortung; wurde das Versagen jedoch durch einen Fehler im KI-Tool verursacht, kann das Unternehmen anschließend vom Anbieter Schadensersatz verlangen (sofern dieser z. B. den Vertrag verletzt hat). Auch deshalb lohnt es sich, renommierte und bewährte KI-Systeme zu wählen und vertraglich zu regeln, was geschieht, wenn das Tool nicht wie erwartet funktioniert (einschließlich rechtlicher Verpflichtungen des Anbieters im Bereich Compliance). Derzeit berät die EU zudem über spezielle Regeln zur Haftung für KI (sog. AI Liability Directive), die es Geschädigten erleichtern sollen, Schadensersatz durchzusetzen – auch das ist ein Signal an Unternehmen, dass Verantwortung ernst genommen wird.

Das Fazit ist klar: Für die KI haftet das Unternehmen selbst und muss entsprechend mit ihr umgehen – wie mit einem Werkzeug, das sorgfältig eingestellt, kontrolliert und bei Bedarf korrigiert werden muss.

Praktische Empfehlungen für tschechische Unternehmen

Die Einführung von KI im HR ist mehr als nur ein technisches Projekt – sie erfordert auch die Festlegung geeigneter interner Regeln, eines ethischen Rahmens und die Kommunikation mit den Mitarbeitern. Nachfolgend geben wir Empfehlungen, die helfen, KI im HR verantwortungsvoll und rechtskonform zu nutzen.

Festlegung interner Regeln für KI im HR

KI-Strategie und -Richtlinie: Der erste Schritt sollte die Ausarbeitung einer internen Strategie für den Einsatz von KI sein. Die Unternehmensleitung sollte klären, in welchen Bereichen sie KI einsetzen will, welche Ziele sie damit verfolgt (z. B. schnellere Personalgewinnung, geringerer Verwaltungsaufwand) und wo die Grenzen liegen. Darauf aufbauend wird eine interne Richtlinie oder Weisung erstellt, die die Regeln für den Einsatz von KI im HR festlegt.

Sie sollte folgende Fragen beantworten: Wer ist für Betrieb und Aufsicht der KI-Tools verantwortlich? Welche Arten von Entscheidungen darf die KI selbstständig treffen und wo ist eine Eskalation an einen Menschen erforderlich? Wie wird der Einsatz eines neuen KI-Tools getestet und genehmigt? Wie werden seine Ergebnisse überwacht und etwaige Probleme gelöst? Eine solche Richtlinie stellt sicher, dass alle im HR-Team einheitlich und bewusst vorgehen.

KI-Governance in der Praxis: Es empfiehlt sich, im Unternehmen beispielsweise eine interne Kommission oder einen Rat für KI-Steuerung einzurichten​. Diesem könnten Vertreter von HR, IT, der Rechtsabteilung und des Managements angehören. Seine Aufgabe wäre es, neue KI-Tools zu genehmigen, ihren Betrieb zu beaufsichtigen und auftretende ethische Dilemmata zu lösen. In einem kleineren Unternehmen kann dies auch nur eine regelmäßige Besprechung des HR-Managers mit IT und dem Juristen über den KI-Einsatz sein. Wichtig ist, dass die KI nicht einfach dadurch außer Kontrolle gerät, dass jemand sie „heimlich“ ohne Wissen der anderen und ohne Risikobehandlung einführt.

Verzeichnis und Audit: Führen Sie eine Übersicht aller KI-Systeme, die Sie im HR nutzen, einschließlich einer Beschreibung ihrer Funktion, des Anbieters, der verarbeiteten Daten und der getroffenen Maßnahmen gegen Risiken. Dieses Verzeichnis ist sowohl für interne Zwecke nützlich (Sie sehen leicht, was wo läuft) als auch für eine etwaige Kommunikation mit Behörden oder bei einem Audit (Sie haben parat, wie Sie die Anforderungen der DSGVO, des AI Act usw. erfüllen).

Vorgehen bei Störungen: Legen Sie fest, was zu tun ist, wenn ein KI-Tool versagt oder einen Vorfall verursacht – etwa wenn ein Recruiting-Algorithmus merkwürdige Ergebnisse liefert. Es sollte klar sein, wer befugt ist, das System anzuhalten, wer zu informieren ist (Management, DSB, IT-Sicherheit) und wie Abhilfe geschaffen wird. So vermeiden Sie Chaos in einer Krisensituation.

Ethische Richtlinien und Kodizes für KI

Neben harten Regeln hat es sich bewährt, auch ethische Grundsätze festzulegen, denen das Unternehmen beim Einsatz von KI folgt. Man kann an bestehende Unternehmenswerte oder einen Ethikkodex anknüpfen und diese um KI erweitern. Manche Organisationen verabschieden eine ethische KI-Charta, in der sie sich zu bestimmten Grundsätzen verpflichten – z. B.: „Wir werden KI transparent und fair einsetzen; KI-Entscheidungen unterliegen stets menschlicher Überprüfung; wir achten auf Privatsphäre und Datensicherheit; wir gewährleisten Gleichbehandlung und Nichtdiskriminierung; wir sind für die Auswirkungen der KI auf unsere Mitarbeiter verantwortlich.“ Solche Erklärungen helfen nicht nur intern, sondern können auch nach außen dem Aufbau von Vertrauen dienen (z. B. kann das Unternehmen Kandidaten mitteilen, dass es KI bei der Personalgewinnung ethisch und DSGVO-konform einsetzt).

Inspiration von außen: Es gibt zahlreiche Rahmenwerke und Empfehlungen, auf die man sich stützen kann. Die Europäische Kommission hat die Ethics Guidelines for Trustworthy AI (2019) herausgegeben, die Grundsätze wie menschliche Aufsicht, technische Robustheit, Privatsphäre, Transparenz, Vielfalt und Nichtdiskriminierung sowie Rechenschaftspflicht definieren. Die OECD hat ihre KI-Grundsätze, und auch die US-Regierung hat beispielsweise den Blueprint for an AI Bill of Rights (2022) veröffentlicht, der die Rechte von Arbeitnehmern im Zusammenhang mit KI schützt​.

Speziell für HR gibt es Empfehlungen von Berufsverbänden (SHRM, CIPD u. a.), die häufig drei Säulen betonen: Rechtmäßigkeit, Ethik und Inklusion. Das Unternehmen muss nicht alles neu erfinden – es kann bewährte Grundsätze übernehmen wie: „KI darf die Rechte der Mitarbeiter nicht verletzen, muss mit ihrem Vertrauen und zum Nutzen beider Seiten eingesetzt werden, KI-Entscheidungen müssen erklärbar und überprüfbar sein, neue Technologien führen wir behutsam und mit Rücksicht auf die Auswirkungen auf Menschen ein“ usw.

Wie der Präsident des Branchenverbands ABSL, Jaromír Staroba, betont, ist es wichtig, dass Unternehmen die globale Entwicklung der Regulierung verfolgen und ihre Innovationsteams nach ethischen Richtlinien führen​. Praktisch bedeutet das, Entwickler und Nutzer von KI über ethische Risiken zu schulen, den Einsatz von KI mit verschiedenen Stakeholdern abzustimmen (z. B. mit Gewerkschaften, sofern vorhanden) und Lösungen zu meiden, bei denen nicht ersichtlich ist, wie sie funktionieren. Staroba warnt vor „Blackbox“-KI-Tools für HR ohne Dokumentation und Transparenz – diese sollte man besser meiden​.

Stattdessen sollten Lösungen bevorzugt werden, die ein Audit ermöglichen und bei denen der Anbieter offen Informationen über den Algorithmus teilt (zumindest auf Ebene der Erklärung, nicht zwingend des Quellcodes).

Kultur und Werte: Verankern Sie das Thema KI auch in der Unternehmenskultur. Betont das Unternehmen die Fürsorge für seine Mitarbeiter, sollte es KI mit dem Anspruch einsetzen, dass sie den Menschen dient, sie aber nicht ersetzt oder übermäßig kontrolliert. Ein ethischer KI-Einsatz wird dann real, wenn ihn die Mitarbeiter selbst unterstützen – und das geschieht, wenn sie sehen, dass KI ihnen hilft und nicht schadet. Bauen Sie daher eine Kultur auf, in der Innovation Hand in Hand mit Verantwortung geht.

Kommunikation mit den Mitarbeitern über KI

Transparenz gegenüber den Mitarbeitern: Damit die Mitarbeiter KI positiv annehmen, müssen sie verstehen, warum und wie sie eingesetzt wird. Es ist daher entscheidend, offen zu kommunizieren, und zwar von Anfang an. Planen Sie, KI in der Personalgewinnung oder in internen Prozessen einzusetzen, informieren Sie die Mitarbeiter vorab. Erklären Sie, welche Aufgaben die KI übernehmen wird (z. B. „Der Chatbot beantwortet Ihre Fragen zu Gehältern“ oder „Das neue System analysiert die Anwesenheit und schlägt Schichten vor“), und betonen Sie, welchen Nutzen die Menschen davon haben – schnellere HR-Services, weniger Verwaltungsaufwand für sie usw. Versichern Sie außerdem, dass die KI nicht missbraucht wird – z. B. dass sie nicht der unverhältnismäßigen Überwachung oder einer Bewertung ohne Kontext dient. Führen Sie KI in der Personalgewinnung ein, können Sie dies auch Kandidaten mitteilen (z. B. in der Stellenanzeige erwähnen, dass die Vorauswahl zur Gewährleistung von Fairness ein Algorithmus vornimmt).

Schulung und Aufklärung: Nicht jeder HR-Spezialist oder Manager versteht, was KI tatsächlich bedeutet. Daher empfiehlt es sich, interne Schulungen oder Workshops zu KI im HR zu veranstalten – die Möglichkeiten, aber auch die Risiken (Privatsphäre, Bias) vorzustellen und die neuen Prozesse zu skizzieren. Beziehen Sie sowohl das HR-Team als auch Führungskräfte und gern auch weitere Mitarbeiter ein, sofern sie betroffen sind (z. B. Schulungen für Manager, wie sie KI-Ergebnisse bei der Beurteilung ihrer Mitarbeiter richtig nutzen). Ziel ist es, die Angst vor dem Unbekannten abzubauen – viele Mitarbeiter befürchten womöglich, dass die KI sie „ausspioniert“ oder gar ersetzt. Eine offene Diskussion hilft klarzustellen, dass KI ein Werkzeug ist, das den Menschen die Arbeit erleichtern soll, nicht sie bestrafen.

Einbeziehung der Mitarbeiter in die Gestaltung: Wenn möglich, beziehen Sie Vertreter der Mitarbeiter (etwa aus verschiedenen Abteilungen) in die Pilotphase der KI-Einführung ein. Sie können wertvolles Feedback geben, auf praktische Probleme hinweisen und zugleich als Botschafter wirken, die die Neuerung den Kollegen dann besser erklären.

KI-Richtlinie für Mitarbeiter: Neben dem Einsatz von KI durch den Arbeitgeber stellt sich auch die Frage der Nutzung öffentlich verfügbarer KI durch Mitarbeiter (z. B. ChatGPT bei der Arbeit). Es ist sinnvoll, den Mitarbeitern klare Anweisungen zu geben: was sie in externe KI-Tools eingeben dürfen und was nicht. Beispielsweise darauf hinweisen, keine sensiblen Unternehmensinformationen in öffentliche KI-Dienste einzugeben, die diese speichern oder missbrauchen könnten​.

Erklären Sie dies verständlich – z. B. „Alles, was Sie in einen KI-Generator schreiben, kann gespeichert werden und potenziell in fremde Hände gelangen; deshalb ist es verboten, dort personenbezogene Daten von Kollegen oder Kunden oder nicht öffentliche Informationen über das Unternehmen einzugeben.“​.

Mitarbeiter wissen oft nicht, wie diese Technologien funktionieren, deshalb ist Aufklärung entscheidend.

Kommunikation bei KI-Fehlern: Kommt es zu einem Vorfall (etwa ordnet die KI einen leistungsstarken Mitarbeiter fälschlich der Kategorie „schwache Leistung“ zu), kommunizieren Sie dies offen und entschuldigen Sie sich für etwaige Fehler. Zeigen Sie, dass Sie sich der Grenzen der KI bewusst sind und alles für Abhilfe und Fairness tun werden. So bewahren Sie Vertrauen – die Menschen schätzen es, wenn ein Unternehmen zugibt, dass Technologie nicht unfehlbar ist, und das menschliche Urteilsvermögen an erste Stelle setzt.

Künftige Entwicklung und geplante Gesetzgebung

Der Bereich KI entwickelt sich sehr dynamisch – und mit ihm die Gesetzgebung, die Schritt zu halten versucht. In den kommenden Jahren erwarten Unternehmen grundlegende Änderungen in der KI-Regulierung, vor allem auf Ebene der Europäischen Union, die man verfolgen und auf die man sich vorbereiten sollte.

AI Act und KI-Regulierung in der EU

Die bedeutendste in Vorbereitung befindliche Regelung ist die Verordnung über künstliche Intelligenz (AI Act), die auf EU-Ebene im Jahr 2024 verabschiedet wurde und schrittweise in Kraft tritt (die volle Anwendung wird um das Jahr 2026 erwartet)​. Der AI Act schafft einen umfassenden Rahmen für die Regulierung von KI mit einem risikobasierten Ansatz. Die einzelnen KI-Anwendungen werden in Kategorien eingeteilt: verbotene Praktiken (z. B. das sogenannte Social Scoring von Bürgern), Hochrisiko-Systeme, Systeme mit begrenztem Risiko und Systeme mit minimalem Risiko​.

Gerade KI im Personalwesen (Recruiting, Führung und Überwachung von Mitarbeitern) wird nach den Begriffsbestimmungen der Verordnung als Hochrisikobereich eingestuft​.

Das bedeutet, dass für KI-Tools, die beispielsweise zur Auswahl von Bewerbern, für Entscheidungen über Beförderungen oder die Beendigung des Arbeitsverhältnisses, zur Leistungsbeurteilung oder zur Überwachung des Verhaltens von Mitarbeitern eingesetzt werden, strenge Anforderungen gelten werden​.

Pflichten für Unternehmen (KI-Nutzer): Der AI Act unterscheidet zwischen den Pflichten der Anbieter von KI-Systemen und denen ihrer Nutzer (sogenannte Betreiber bzw. Deployer). In der Rolle des Betreibers ist typischerweise ein Unternehmen, das z. B. eine eingekaufte KI-Software für das Recruiting einsetzt. Zu den zentralen Pflichten des Nutzers eines Hochrisiko-KI-Systems wird es gehören, eine angemessene menschliche Aufsicht über das System sicherzustellen, die Anweisungen des Herstellers genau zu befolgen, die Eingabedaten zu validieren (d. h. die Qualität und Repräsentativität der Daten zu überwachen, mit denen wir die KI „füttern“), die KI-Ergebnisse im Betrieb zu überwachen und etwaige schwerwiegende Vorfälle oder Fehler dem Anbieter zu melden​.

Ferner sind Aufzeichnungen (Logs) über die Tätigkeit der KI zu führen​ und sogar eine Grundrechte-Folgenabschätzung durchzuführen (um nachzuweisen, dass das System die Menschenrechte nicht verletzt, z. B. nicht diskriminiert)​. Unternehmen werden zudem ihre Mitarbeiter (oder deren Vertreter) informieren müssen, dass sie bei der Arbeit oder im Recruiting den Entscheidungen eines KI-Systems unterliegen​. Dies unterstreicht erneut das Transparenzprinzip.

Sanktionen nach dem AI Act: Verstöße gegen die Pflichten bei Hochrisiko-Systemen werden mit Geldbußen geahndet – im Entwurf ist von bis zu 20 Mio. EUR oder 4 % des Jahresumsatzes die Rede (ähnlich wie bei der DSGVO). Es ist also offensichtlich, dass die EU den Einsatz von KI im Personalwesen sehr ernst nimmt und Missbrauch oder einem unüberlegten Einsatz, der Mitarbeitern schaden könnte, vorbeugen will.

Was Sie schon jetzt tun sollten: Obwohl der AI Act erst in die Praxis umgesetzt wird, sollten Unternehmen bereits jetzt mit den Vorbereitungen beginnen. Empfehlenswert ist ein Audit aller KI-Systeme bzw. fortgeschrittenen Algorithmen, die Sie im Unternehmen einsetzen oder einsetzen wollen – um festzustellen, ob sie unter die (recht weit gefasste) Definition des AI Act fallen und ob sie womöglich in die Hochrisikokategorie gehören (wenn sie Mitarbeiter betreffen, ist die Wahrscheinlichkeit hoch). Außerdem sollten Sie die Entwicklung der Durchführungsrechtsakte und Normen verfolgen, die die EU zum AI Act vorbereitet – sie werden technische Details präzisieren, etwa wie genau die Folgenabschätzungen durchzuführen sind oder wie der Einsatz von KI zu dokumentieren ist​.

Unternehmen sollten ihre internen Abläufe aktualisieren, damit sie den neuen Anforderungen entsprechen – dazu gehören etwa die Einführung der erwähnten menschlichen Aufsicht, Schulungen für Personen, die mit KI arbeiten, die Anpassung von Verträgen mit Anbietern (damit diese ihre Pflichten erfüllen) und Ähnliches​.

Wer rechtzeitig beginnt, verschafft sich einen Wettbewerbsvorteil, weil er seine Prozesse nicht in letzter Minute hastig umbauen muss. Der AI Act mag wie ein administrativer Aufwand erscheinen, sein Ziel ähnelt jedoch dem der DSGVO – das Vertrauen in Technologien zu stärken, indem sie verantwortungsvoll eingesetzt werden. Für Unternehmen kann dies letztlich bedeuten, dass gut aufgesetzte KI-Prozesse ihnen einen Vorsprung verschaffen (sie können KI voll nutzen, ohne rechtliche Probleme befürchten zu müssen).

Weitere legislative Entwicklungen

Neben dem AI Act werden auch weitere Regelungen im Zusammenhang mit KI diskutiert. Die Europäische Kommission bereitet beispielsweise eine Richtlinie über KI-Haftung (sog. AI Liability Directive) vor, welche die Regeln zur Durchsetzung von Schadensersatz für durch den Betrieb von KI verursachte Schäden ergänzen soll – dies kann die Stellung von Arbeitnehmern stärken, wenn sie sich durch eine KI-Entscheidung geschädigt fühlen (ihre Beweisposition wird erleichtert). Im Arbeitsrecht ist zu erwarten, dass sich das Thema KI in der Agenda der Arbeitsinspektion (inspekce práce) und möglicherweise auch in Tarifverhandlungen niederschlägt. Gewerkschaften in einigen Ländern fordern bereits ein Recht auf Nichterreichbarkeit (right to disconnect) im Zusammenhang mit KI – damit Beschäftigte nicht rund um die Uhr allein anhand nüchterner Kennzahlen bewertet werden.

Diskutiert wird auch ein Recht auf Erläuterung von KI-Entscheidungen sowie das Recht, eine automatisierte Bewertung abzulehnen. Einige dieser Grundsätze gelten dank der DSGVO faktisch bereits, es ist jedoch mit ihrer Stärkung zu rechnen. Der tschechische Gesetzgeber wird die europäischen Normen umsetzen müssen – z. B. die Zuständigkeiten des Amtes für den Schutz personenbezogener Daten (ÚOOÚ) und der Arbeitsinspektorate anpassen und gegebenenfalls einige Pflichten im tschechischen Arbeitsgesetzbuch (Gesetz Nr. 262/2006 Slg., im Folgenden „ArbGB“) oder im tschechischen Beschäftigungsgesetz (Gesetz Nr. 435/2004 Slg., im Folgenden „BeschG“) verankern (z. B. hinsichtlich der Information von Bewerbern/Mitarbeitern über KI).

Dynamik der Branche: KI-Technologien entwickeln sich rasant, und der Rechtsrahmen wird sich ihnen ständig anpassen. Unternehmen sollten daher Neuigkeiten verfolgen – an Seminaren teilnehmen, Fachartikel lesen oder die Dienste von Rechtsberatern in Anspruch nehmen, die auf IT-Recht und Personalwesen spezialisiert sind. Es lohnt sich auch, Erfahrungen innerhalb der Branche auszutauschen – z. B. bei Fachtreffen von HR-Managern darüber, wie andere mit KI umgehen und was sich bewährt hat.

Ethik als Dauerthema: Neben den Gesetzen wird auch Druck von der Öffentlichkeit und den Mitarbeitern selbst ausgehen. Die Generationen, die auf den Arbeitsmarkt kommen (Millennials, Gen Z), legen großen Wert auf Werte und werden fragen, wie das Unternehmen KI einsetzt. Die Aussage „Wir setzen KI verantwortungsvoll ein“ kann Teil des Employer Brandings werden. Am Horizont stehen zudem Überlegungen zu kollektiven Rechten – z. B. ob Mitarbeiter über die Einführung von KI am Arbeitsplatz (über Arbeitnehmerräte, rady zaměstnanců) mitentscheiden sollen u. Ä. All das sind Fragen, welche die nächsten Jahre mit sich bringen werden.

Fazit

Künstliche Intelligenz bietet Personalabteilungen hervorragende Möglichkeiten, die Arbeit effizienter zu gestalten und Entscheidungen stärker auf Daten zu stützen. Tschechischen Unternehmen kann sie helfen, Talente schneller zu finden, Mitarbeiter besser zu motivieren und weiterzuentwickeln und wettbewerbsfähig zu bleiben. Gleichzeitig ist sie jedoch kein Allheilmittel – sie erfordert eine sorgfältige Einführung, laufende Kontrolle und vor allem Respekt vor den Menschen, die sie betrifft. Die rechtlichen Risiken sind nicht zu unterschätzen: von Geldbußen wegen Verstößen gegen die DSGVO über Diskriminierungsklagen bis hin zu Reputationsschäden für den Arbeitgeber. Dieser Praxisleitfaden hat gezeigt, dass der Schlüssel in der Ausgewogenheit liegt – KI dort einzusetzen, wo sie klaren Nutzen bringt, aber stets mit Augenmaß, unter menschlicher Aufsicht und im Einklang mit Gesetz und Ethik. Wenn ein Unternehmen KI als Werkzeug versteht, das den Menschen dient (und nicht umgekehrt), kann es im Personalwesen das Maximum bei minimalem Risiko herausholen. Die Zukunft des Personalwesens wird voraussichtlich einer intelligenten Zusammenarbeit von Mensch und Maschine gehören – bereiten wir uns verantwortungsvoll und mit offenen Augen darauf vor.