Wie sichert man einen KI-Assistenten mit Zugriff auf Unternehmenssysteme rechtlich ab?

Warum ein Assistent mit Zugriff auf Systeme ein anderes Risiko bedeutet als ein gewöhnlicher Chat

Der Unterschied zwischen einem Chat-Tool und einem an Unternehmenssysteme angebundenen KI-Assistenten liegt darin, wer über die Daten entscheidet. In einen gewöhnlichen Chat fügt der Mitarbeiter Text manuell ein und wählt selbst, was das Unternehmen verlässt. Ein Assistent mit Zugriff auf Post, freigegebene Laufwerke, Buchhaltung oder CRM sucht sich Informationen selbst. Er liest Verträge, Kundenkorrespondenz und Personalakten, sofern er dazu berechtigt ist. Das Unternehmen verliert so den Überblick darüber, was genau das Tool verarbeitet hat.

Technisch wird der Assistent über Konnektoren an die Systeme angebunden. Immer häufiger handelt es sich um Konnektoren auf Basis des Standards MCP (Model Context Protocol), also eines offenen Protokolls, über das ein Sprachmodell Daten aus anderen Anwendungen liest und dort Aktionen ausführt. Jeder Konnektor erweitert den Umfang der Daten und Aktionen, die dem Assistenten zur Verfügung stehen. Ob diese Daten auch zum Anbieter des Modells gelangen, hängt von der Architektur der Lösung ab: wo der Konnektor läuft, welche Daten an das Modell gehen und was in Protokollen gespeichert wird. Das Unternehmen muss daher die Datenflüsse jeder Komponente prüfen, nicht nur des Modells selbst.

Für die Geschäftsleitung ergibt sich daraus eine einfache Überlegung. Wer einen Assistenten mit flächendeckendem Zugriff einschaltet, macht ihm auf einen Schlag personenbezogene Daten von Mitarbeitern, Kunden und Lieferanten sowie das Know-how des Unternehmens zugänglich. Allgemeine Chancen und Risiken des Einsatzes künstlicher Intelligenz im Unternehmen fasst der Artikel über Chancen und rechtliche Herausforderungen künstlicher Intelligenz im Geschäftsleben zusammen. Dieser Text konzentriert sich auf Vertrag, personenbezogene Daten und Haftung.

Wer haftet, wenn der Assistent einen Fehler macht

Für die Verarbeitung personenbezogener Daten haftet in erster Linie das Unternehmen, das den Assistenten eingesetzt hat. Die Datenschutz-Grundverordnung bezeichnet als Verantwortlichen denjenigen, der über Zweck und Mittel der Verarbeitung entscheidet. Der Anbieter, der Daten im Namen des Unternehmens und nach dessen Weisungen verarbeitet, ist in der Regel Auftragsverarbeiter. Schickt der Assistent ein sensibles Dokument an den falschen Empfänger oder macht er Gehälter im ganzen Unternehmen zugänglich, muss das Unternehmen den Vorfall bewerten, ihn gegebenenfalls der Aufsichtsbehörde melden und den Betroffenen erklären.

Der Anbieter bleibt jedoch nicht ohne Haftung. Als Auftragsverarbeiter muss er die Daten sichern, die Weisungen des Unternehmens befolgen, weitere Auftragsverarbeiter nur mit dessen Genehmigung einschalten und ihm Sicherheitsverletzungen melden. Verletzt er diese Pflichten, kann ihm die Behörde ein Bußgeld auferlegen, und er haftet den Betroffenen für Schäden (Art. 82). Nutzt er die Daten für eigene Zwecke, etwa zum Training seines Modells, gilt er für diese Verarbeitung nach der Verordnung als Verantwortlicher (Art. 28 Abs. 10). Das entbindet das Unternehmen aber nicht von der Haftung für die Wahl eines Anbieters ohne hinreichende Garantien.

Gegenüber Kunden und Geschäftspartnern haftet das Unternehmen für die Ergebnisse des Assistenten genauso wie für die Arbeit eines Mitarbeiters. Erstellt der Assistent ein fehlerhaftes Angebot oder fügt er in einen Vertrag eine falsche Angabe ein, kann sich das Unternehmen nicht damit verteidigen, dass der Text von einer Software stammt. Entscheidend ist, wer das Ergebnis freigegeben und versandt hat. Der Vertragspartner verhandelt mit dem Unternehmen, nicht mit dessen Tool, und macht seinen Schadensersatzanspruch gegen das Unternehmen geltend.

Ein Mitarbeiter, der den Assistenten fehlerhaft verwendet hat, haftet dem Unternehmen nur begrenzt. Bei fahrlässig verursachtem Schaden kann der Arbeitgeber vom Mitarbeiter höchstens das Viereinhalbfache seines durchschnittlichen Monatsverdienstes verlangen. Die Begrenzung gilt nicht, wenn der Mitarbeiter den Schaden vorsätzlich, unter Alkoholeinfluss oder nach Missbrauch anderer Suchtmittel verursacht hat. Hat auch das Unternehmen zum Schaden beigetragen, etwa indem es den Assistenten ohne Regeln gestartet hat, ersetzt der Mitarbeiter nur einen anteiligen Teil. Den Großteil des Verlusts aus abgeflossenen Daten trägt somit das Unternehmen.

Die Regel ergibt sich aus dem tschechischen Arbeitsgesetzbuch (Gesetz Nr. 262/2006 Slg., im Folgenden „ArbGB“, § 257) und bedeutet in der Praxis, dass Prävention günstiger ist als spätere Durchsetzung. Ob das Unternehmen vom Mitarbeiter etwas erhält, hängt davon ab, ob er eine Arbeitspflicht verletzt hat, ob er schuldhaft gehandelt hat und ob der Schaden gerade dadurch entstanden ist. Interne Richtlinien, Schulungen und technische Zugriffsbeschränkungen senken daher das Risiko eines Schadens, den das Unternehmen von niemandem ersetzt bekommt.

Was der Vertrag mit dem Anbieter eines KI-Tools enthalten muss

Der Vertrag mit dem Anbieter muss die Pflichtinhalte eines Auftragsverarbeitungsvertrags nach der Datenschutz-Grundverordnung erfüllen. Der Anbieter darf personenbezogene Daten nur auf dokumentierte Weisung des Unternehmens verarbeiten und muss seine Mitarbeiter zur Verschwiegenheit verpflichten. Weitere Auftragsverarbeiter darf er nur mit vorheriger Genehmigung einschalten. Nach Ende der Leistung muss er die Daten löschen oder zurückgeben und dem Unternehmen ein Audit ermöglichen (Art. 28 Abs. 3). Die Stellung des Anbieters bestimmt dabei nicht die Bezeichnung des Vertrags, sondern wer tatsächlich über Zweck und Mittel der Verarbeitung entscheidet.

Für einen KI-Assistenten genügt es nicht, einen Standard-Auftragsverarbeitungszusatz unverändert zu unterzeichnen. Der Vertrag sollte ausdrücklich regeln, ob der Anbieter Eingaben und Ergebnisse des Unternehmens zum Training oder zur Verbesserung seiner Modelle verwenden darf. Das Gesetz schreibt ein solches Verbot nicht vor, bei vertraulichen Unternehmensdaten ist es aber sinnvoll, es zu vereinbaren. Jede erlaubte Nutzung für eigene Zwecke des Anbieters erfordert eine gesonderte rechtliche Prüfung. Der Vertrag soll ferner festlegen, wo die Daten gespeichert sind, von wo der Anbieter auf sie zugreift und wie lange er den Abfrageverlauf und die Protokolle über die Tätigkeit des Assistenten aufbewahrt.

Der zweite Bereich ist die Liste weiterer Auftragsverarbeiter. Große Anbieter von KI-Tools nutzen üblicherweise Cloud-Anbieter und eigene Anbieter von Sprachmodellen. Das Unternehmen soll das Recht haben, gegen eine Änderung eines weiteren Auftragsverarbeiters Einspruch zu erheben und im äußersten Fall den Vertrag zu beenden. Bei einer allgemeinen Genehmigung muss der Anbieter das Unternehmen über jede beabsichtigte Änderung vorab informieren (Art. 28 Abs. 2). Bei Daten, die außerhalb des Europäischen Wirtschaftsraums übermittelt werden, ist auch die Rechtsgrundlage für eine solche Übermittlung zu prüfen.

Der dritte Bereich ist die Haftung des Anbieters und ihre Begrenzung. Anbieter von KI-Tools begrenzen den Schadensersatz häufig auf den für einen bestimmten Zeitraum gezahlten Betrag. Eine solche Begrenzung kann für vorsätzlich oder grob fahrlässig verursachte Schäden nicht gelten. Das Gericht berücksichtigt diesen Teil der Vereinbarung nicht. Das Unternehmen sollte daher ein gesondertes höheres Limit für Datenabflüsse und Verletzungen der Verschwiegenheit aushandeln, denn gerade dort entsteht der größte Schaden.

Die Grenze für die Haftungsbegrenzung ergibt sich aus dem tschechischen Bürgerlichen Gesetzbuch (Gesetz Nr. 89/2012 Slg., im Folgenden „tschBGB“, § 2898). Sie gilt auch im Verhältnis zwischen Unternehmern, und die Parteien können davon nicht abweichen. Den Vertrag mit dem Anbieter sollte man um die Pflicht ergänzen, Sicherheitsvorfälle unverzüglich zu melden, sowie um eine angemessene Haftpflichtversicherung und Regeln für den Datenexport und die Beendigung der Leistung.

Vom Pilotprojekt zum Echtbetrieb: die Reihenfolge der Schritte

Die Einführung eines Assistenten beginnt mit einer Aufstellung dessen, worauf er Zugriff haben soll. Das Unternehmen legt die Systeme, Datenarten und Mitarbeitergruppen fest, die das Tool nutzen werden. Oft zeigt sich, dass der Assistent für seine Arbeit einen viel geringeren Datenumfang benötigt, als ihm der Anbieter in der Standardeinstellung anbietet. Diese Aufstellung ist zugleich Grundlage für die Risikobewertung und den Vertrag mit dem Anbieter.

Der zweite Schritt ist die Bewertung der Risiken der Verarbeitung personenbezogener Daten. Das Unternehmen prüft, ob die Verarbeitung aufgrund ihrer Art, ihres Umfangs, ihrer Umstände und ihrer Zwecke voraussichtlich ein hohes Risiko für die Rechte von Personen darstellt. Falls ja, muss es noch vor dem Start eine Datenschutz-Folgenabschätzung durchführen: eine schriftliche Analyse, die die Verarbeitung, ihre Notwendigkeit, die Risiken und die Maßnahmen beschreibt (Art. 35). Bei einem Assistenten mit breitem Zugriff auf Personalakten oder sensible Daten wird dies in der Regel erforderlich sein. Bei einem auf gewöhnliche Betriebsdaten beschränkten Tool muss die Pflicht nicht entstehen.

Der dritte Schritt ist ein Pilotprojekt mit einer begrenzten Nutzergruppe und eingeschränktem Zugriff. Während des Pilotprojekts beobachtet das Unternehmen, welche Daten der Assistent tatsächlich liest und welche Fehler er macht. Erst danach entscheidet es über eine Ausweitung. Wie ein solches Pilotprojekt in einer Rechtsanwaltskanzlei verlief, in der es um Daten unter Verschwiegenheitspflicht geht, beschreiben die Erfahrungen mit der Einführung künstlicher Intelligenz in unserer Kanzlei.

Der vierte Schritt sind eine interne Richtlinie und die Schulung der Mitarbeiter. Die Richtlinie legt fest, auf welche Systeme der Assistent zugreifen darf, welche Informationen die Mitarbeiter nicht eingeben und wer die Ergebnisse vor dem Versand nach außen prüft. Die Schulung hilft dem Unternehmen auch, die Pflicht nach der KI-Verordnung zu erfüllen. Diese verlangt von Unternehmen Maßnahmen, die bei Personen, die mit künstlicher Intelligenz arbeiten, die Kompetenz im Umgang mit ihr fördern.

Nach dem Start ist der Umfang der Zugriffe regelmäßig zu kontrollieren, da Anbieter neue Konnektoren und Funktionen hinzufügen, die sich automatisch einschalten. Welcher Zugriffsumfang und welche Kontrollen bei einem konkreten Assistenten angemessen sind, hängt davon ab, auf welche Daten er zugreift und ob seine Ergebnisse direkt an Kunden gehen. Deshalb beurteilen die Juristen der ARROWS Rechtsanwaltskanzlei dies bei jedem Einsatz gesondert.

Was Anbieter üblicherweise bieten und was ein Warnsignal ist

Unternehmenstarife von KI-Tools enthalten in der Regel einen Auftragsverarbeitungsvertrag und die Zusage, dass der Anbieter nicht mit Kundendaten trainiert. Der Unterschied zwischen der Verbraucher- und der Unternehmensversion desselben Tools liegt oft gerade in diesen Punkten. Das Unternehmen sollte daher nicht zulassen, dass Mitarbeiter für berufliche Zwecke private Konten nutzen, auch wenn es sich um dasselbe Produkt handelt.

Ein Warnsignal ist ein Vertrag, der das Training mit Daten nur abschaltbar macht. Ist die Zustimmung der Ausgangszustand und muss das Unternehmen sie in den Einstellungen aktiv ablehnen, genügt ein einziger Fehler des Kontoadministrators, und die Daten gehen an den Anbieter. Ebenso verdächtig ist ein Vertrag, der auf eine Liste weiterer Auftragsverarbeiter auf der Website verweist, dem Unternehmen aber kein Recht einräumt, gegen deren Änderung Einspruch zu erheben.

Ein weiteres Signal ist eine unklare Speicherdauer. Anbieter bewahren den Gesprächsverlauf und die Protokolle über die Tätigkeit des Assistenten oft aus Sicherheitsgründen und zur Missbrauchserkennung auf. Das kann berechtigt sein, der Vertrag muss aber angeben, wie lange und wer auf diese Protokolle Zugriff hat. Beantwortet der Anbieter eine solche Frage nicht schriftlich, kann das Unternehmen nicht nachweisen, dass es den Grundsatz der Speicherbegrenzung einhält.

Unternehmen, bei denen der Einsatz gelingt, trennen die Zugriffsrechte des Assistenten von den Rechten des Nutzers. Der Assistent erhält nicht automatisch alles, was der Mitarbeiter sieht, sondern nur ausgewählte Ordner und Systeme. Aktionen, die etwas verändern, wie das Versenden einer E-Mail oder die Bearbeitung eines CRM-Eintrags, genehmigt ein Mensch. Dieser Ansatz verringert die Folgen eines Fehlers wie auch eines möglichen Missbrauchs eines Konnektors durch einen Angreifer.

Wo das Gesetz Grenzen setzt: personenbezogene Daten, künstliche Intelligenz und Cybersicherheit

Die höchsten Sanktionen drohen bei Verstößen gegen den Datenschutz. Für Verstöße gegen Pflichten des Verantwortlichen und des Auftragsverarbeiters, zu denen Auftragsverarbeitungsvertrag, Sicherheit und Datenschutz-Folgenabschätzung gehören, kann ein Bußgeld von bis zu 10 Millionen Euro oder 2 % des weltweiten Jahresumsatzes verhängt werden. Für Verstöße gegen die Grundsätze und die Rechtsgrundlage der Verarbeitung liegt die Obergrenze bei 20 Millionen Euro oder 4 % des Umsatzes, je nachdem, welcher Betrag höher ist (Art. 83 der Datenschutz-Grundverordnung).

Ein Datenabfluss über einen KI-Assistenten ist eine Verletzung der Sicherheit, die das Unternehmen der Behörde melden muss. Der Verantwortliche meldet sie dem Amt für den Schutz personenbezogener Daten (ÚOOÚ) unverzüglich und möglichst binnen 72 Stunden, nachdem ihm die Verletzung bekannt wurde. Eine Ausnahme gilt, wenn die Verletzung voraussichtlich nicht zu einem Risiko für die betroffenen Personen führt (Art. 33). Der Anbieter muss dem Unternehmen die Verletzung unverzüglich melden, deshalb ist es sinnvoll, diese Pflicht im Vertrag zu konkretisieren.

KI-Verordnung

Ein Unternehmen, das den Assistenten nutzt, ist nach der KI-Verordnung Betreiber, also Nutzer des Systems, nicht dessen Hersteller. Seit Februar 2025 muss es Maßnahmen ergreifen, die bei den Mitarbeitern die KI-Kompetenz fördern (Art. 4). Die Novelle aus dem Jahr 2026 stellt ausdrücklich klar, dass das Unternehmen kein bestimmtes Kenntnisniveau jeder Person gewährleisten muss. Ein gewöhnlicher Büroassistent gehört in der Regel nicht zu den Hochrisikosystemen. Er kann jedoch dazu werden, wenn das Unternehmen ihn für Zwecke aus Anhang III einsetzt, etwa zur Sortierung von Stellenbewerbern oder zur Leistungsbewertung von Mitarbeitern.

Die Fristen für Hochrisikosysteme hat die Verordnung (EU) 2026/1744, der sogenannte digitale Omnibus, verschoben, die am 27.7.2026 in Kraft getreten ist. Die Pflichten der Betreiber bei Systemen aus Anhang III, etwa menschliche Aufsicht und Aufbewahrung von Protokollen, gelten daher ab dem 2.12.2027. Über die Einstufung entscheiden die konkrete beabsichtigte Verwendung und die Ausnahmen in Art. 6 Abs. 3, zum Beispiel für eng gefasste Verfahrensaufgaben. Bei Verstößen droht ein Bußgeld von bis zu 15 Millionen Euro oder 3 % des Umsatzes, bei kleinen und mittleren Unternehmen der niedrigere der beiden Werte (Art. 99).

Das Verhältnis zwischen KI-Verordnung und Datenschutz behandelt ausführlicher der Artikel über die Vereinbarkeit mit dem AI Act und der DSGVO. Erstellt der Assistent Texte oder Bilder für die Öffentlichkeit, greift auch die Pflicht zur Kennzeichnung KI-generierter Inhalte. Diese Pflicht betrifft Inhalte, nicht die interne Arbeit mit Dokumenten.

Cybersicherheit

Ein Unternehmen, das einen regulierten Dienst nach dem tschechischen Gesetz über die Cybersicherheit erbringt, muss Lieferanten auswählen und in die Verträge mit ihnen Anforderungen an Sicherheitsmaßnahmen aufnehmen, sofern es diese Maßnahmen über sie einführt oder durchführt (§ 13 Abs. 5). Das Gesetz ist seit dem 1.11.2025 wirksam und betrifft vor allem mittlere und große Unternehmen in den aufgezählten Sektoren, etwa Energie, verarbeitendes Gewerbe oder Verkehr.

Die bloße Anbindung eines KI-Assistenten an Systeme, die den regulierten Dienst sicherstellen, bedeutet noch nicht, dass sein Anbieter Lieferant im Sinne dieser Bestimmung ist. Arbeitet der Assistent jedoch mit Assets, die das Unternehmen in sein Cybersicherheitsmanagement einbezogen hat, muss es ihn in das Asset- und Risikomanagement aufnehmen. Ob das Unternehmen über dessen Anbieter Sicherheitsmaßnahmen durchführt, hängt davon ab, auf welche Systeme der Assistent Zugriff hat und welche Rolle diese Systeme bei der Erbringung des Dienstes spielen. Dies prüfen die Juristen der ARROWS Rechtsanwaltskanzlei, bevor das Unternehmen den Vertrag mit dem Anbieter unterzeichnet.

Geschäftsgeheimnisse in den Händen eines KI-Assistenten

Der Schutz von Geschäftsgeheimnissen ist nicht automatisch. Ein Geschäftsgeheimnis bilden nur Informationen, deren Geheimhaltung der Inhaber in angemessener Weise sicherstellt (§ 504 tschBGB). Lässt das Unternehmen Preiskalkulationen, technische Dokumentation oder Kundenlisten ohne Regeln in ein KI-Tool, schwächt es gerade dieses Merkmal. In einem etwaigen Streit mit einem Wettbewerber kann die Gegenseite dann einwenden, dass das Unternehmen die Informationen selbst nicht geschützt hat.

Gerichte beurteilen die Geheimhaltung danach, was das Unternehmen tatsächlich tut. Das Oberste Gericht der Tschechischen Republik (Nejvyšší soud) hat im Beschluss 23 Cdo 2736/2024 bekräftigt, dass der Unternehmer die Geheimhaltung wirksam sicherstellen muss, und zwar durch organisatorische wie technische Maßnahmen. Im Streit um Konstruktionszeichnungen hatte ein Unternehmen Bestand, das Richtlinien mit Regeln für das Ausleihen und Kopieren der Dokumentation hatte. Beim KI-Assistenten erfüllen dieselbe Rolle eine interne Richtlinie, die Beschränkung der Zugriffsrechte und das vertragliche Verbot des Trainings mit Daten.

Das Unternehmen sollte daher festlegen, welche Informationskategorien überhaupt nicht in den Assistenten gehören und welche nur in ein Tool mit Unternehmensvertrag. Die Liste soll kurz und verständlich sein, damit die Mitarbeiter sie tatsächlich einhalten. Ergänzt wird sie durch technische Beschränkungen, etwa den Ausschluss von Ordnern mit Produktionsdokumentation aus der Reichweite der Konnektoren. Die Kombination aus Regel und technischer Maßnahme ist für einen späteren Streit der beste Beweis, dass das Unternehmen das Geheimnis geschützt hat.

Fünf Fehler, die sich bei der Einführung von KI-Assistenten wiederholen

Der erste Fehler ist der Start des Assistenten mit flächendeckendem Zugriff auf alle Systeme. Die Standardeinstellung vieler Tools übernimmt die Berechtigungen des Nutzers, sodass der Assistent des Geschäftsführers das gesamte Unternehmen sieht. Eine einzige ungenau formulierte Frage genügt dann, damit im Ergebnis Gehälter oder vertrauliche Verhandlungen erscheinen. Die Behebung nach einem Vorfall kostet mehr als die Beschränkung des Zugriffs zu Beginn.

Der zweite Fehler ist ein privates Konto des Mitarbeiters, das für Unternehmensarbeit genutzt wird. Für Verbraucherversionen der Tools gilt in der Regel kein Auftragsverarbeitungsvertrag, und der Anbieter kann die Daten zur Verbesserung seiner Modelle nutzen. Das Unternehmen verliert dann die Kontrolle über die Daten und kann nicht nachweisen, wohin sie gelangt sind. Die Lösung besteht darin, den Mitarbeitern ein Unternehmens-Tool bereitzustellen und private Konten für die Arbeit ausdrücklich zu verbieten.

Der dritte Fehler ist eine fehlende Risikobewertung der Verarbeitung. Das Unternehmen verschiebt sie oft auf die Zeit nach Abschluss des Einsatzes und muss dann, falls die Datenschutz-Folgenabschätzung Pflicht war, nachträglich begründen, warum es die Verarbeitung ohne sie gestartet hat. Bei einer behördlichen Prüfung wirkt das wie das Eingeständnis, dass niemand die Risiken vorab bewertet hat. Der vierte Fehler ist die Übernahme des Anbietervertrags ohne Prüfung der Punkte zum Training und zu weiteren Auftragsverarbeitern.

Der fünfte Fehler ist ein Ergebnis des Assistenten, das ohne menschliche Kontrolle nach außen geht. Der Assistent kann ein Angebot, eine Antwort auf eine Reklamation oder eine Vertragszusammenfassung im Handumdrehen erstellen. Ein Fehler in einem solchen Dokument bindet das Unternehmen aber genauso, als hätte ihn ein Mitarbeiter gemacht. Welche Ergebnisse vor dem Versand ein Mensch prüfen muss und welche automatisch hinausgehen dürfen, hängt davon ab, ob sie eine Verpflichtung gegenüber Dritten begründen. Deshalb legen die Juristen der ARROWS Rechtsanwaltskanzlei diese Grenze anhand der konkreten Prozesse des Unternehmens fest.

Risiken eines KI-Assistenten für das Unternehmen und wie man sie begrenzt

Was Sie aus dem Artikel mitnehmen sollten – abschließende Zusammenfassung

Ein an Unternehmenssysteme angebundener KI-Assistent birgt ein anderes Risiko als ein gewöhnliches Chat-Tool, weil er sich Daten selbst sucht. Für Zweck und Mittel der Verarbeitung, für die Ergebnisse des Assistenten und für Informationsabflüsse haftet vor allem das Unternehmen, das ihn eingesetzt hat. Der Anbieter haftet als Auftragsverarbeiter für seine eigenen Pflichten, und nutzt er die Daten für sich, wird er für diese Verarbeitung zum Verantwortlichen. Die rechtliche Absicherung beruht daher auf dem Vertrag mit dem Anbieter, der Risikobewertung und internen Regeln.

Für die Geschäftsleitung entscheidend ist die Reihenfolge: zuerst Vertrag und Risikobewertung, erst dann der flächendeckende Start. Ein Unternehmen, das den Assistenten zuerst einschaltet und die Regeln nachträglich schreibt, kann nicht nachweisen, wohin die Daten gelangt sind. Bei einer behördlichen Prüfung oder im Streit mit einem Wettbewerber hat es dann nichts, womit es belegen könnte, dass es Daten und Geschäftsgeheimnisse geschützt hat. Ein Aufschub dieser Schritte erhöht das Risiko eines Bußgelds und eines Schadens, den das Unternehmen von niemandem ersetzt bekommt.

Die Geschäftsleitung sollte daher drei Dinge entscheiden: welche Systeme und Daten der Assistent lesen darf, welcher Anbieter die Anforderungen an einen Auftragsverarbeitungsvertrag ohne Training mit Unternehmensdaten erfüllt und wer im Unternehmen die nach außen gehenden Ergebnisse kontrolliert. Ohne diese Entscheidungen bleibt der Einsatz des Assistenten ein Experiment mit Echtdaten.

Die Juristen der ARROWS Rechtsanwaltskanzlei prüfen den Vertrag mit dem Anbieter des KI-Tools und verhandeln fehlende Punkte. Sie bewerten die Risiken der Verarbeitung und erstellen die Datenschutz-Folgenabschätzung, eine interne Richtlinie für die Arbeit mit dem Assistenten sowie Schulungen für die Mitarbeiter. Schreiben Sie uns an beratung@arws.cz oder besuchen Sie unseren Service IT- und Softwarerecht, Cybersicherheit.