Einsatz künstlicher Intelligenz bei der Entwicklung von Software und Apps – rechtliche Fragen
Künstliche Intelligenz kann die Arbeit von Entwicklungsteams beschleunigen. Sie kann aber auch zu Streit über die Rechte am Code, die Haftung für Fehler oder den Abfluss vertraulicher Daten führen. Nach tschechischem Recht muss ein Entwicklungsunternehmen die Lizenzen der KI-Tools, die Regeln für die Dateneingabe und seine vertragliche Haftung gegenüber Kunden prüfen. Der Artikel zeigt, wie Sie die Kontrolle der Ergebnisse, die Dokumentation und interne Regeln aufsetzen, damit KI weder das Produkt noch dessen Verkauf gefährdet.
Zusammenfassung
Warum KI in der Entwicklung rechtlich heikler ist, als es scheint
In der Praxis geht es am häufigsten um folgende Situationen:
- KI hilft beim Schreiben von Code und Tests, aber das Unternehmen kann Herkunft und Lizenz eines Teils der Ergebnisse nicht nachweisen.
- KI ist direkter Bestandteil des Produkts (Empfehlungen, Scoring, Chatbot), und der Kunde erwartet Qualität, Erklärbarkeit und Verantwortung.
- KI läuft über die API eines Drittanbieters, das Unternehmen verkauft die Funktion aber „unter eigenem Namen“ und trägt die Reputations- und Vertragsfolgen von Ausfällen.
- In die KI werden sensible Daten eingegeben (personenbezogene Daten, Geschäftsgeheimnisse, interne Dokumente), und es kommt zu einem Sicherheitsvorfall.
Die Juristen der ARROWS Rechtsanwaltskanzlei lösen diese Fälle regelmäßig im Rahmen der vertraglichen Gestaltung von Entwicklungsprojekten, des IP-Schutzes, der DSGVO und von Krisensituationen nach Vorfällen. Wenn Sie schnell prüfen lassen möchten, welches Risiko Ihrem Projekt tatsächlich droht, schreiben Sie an beratung@arws.cz.
Wer ist Urheber von KI-generiertem Code und was bedeutet das für das Unternehmen?
Die Frage „Wer ist der Urheber?“ ist bei KI oft umstritten und hat im Geschäftsleben sehr konkrete Folgen: ob sich der Code schützen, lizenzieren, übertragen, an einen Investor verkaufen oder als zentrales Know-how des Unternehmens nutzen lässt.
Urheberrecht und Originalität: was typischerweise geprüft wird
Bei Software ist entscheidend, dass der urheberrechtliche Schutz an den originellen Ausdruck anknüpft, nicht an die Funktion oder die Idee selbst. In der Praxis wird daher vor allem geprüft:
- ob ein bestimmter Teil des Codes die nötige Originalität erreicht,
- ob es sich nicht um eine übliche, technisch vorgegebene Lösung handelt,
- ob das Ergebnis nicht faktisch übernommen oder bestehendem Code auffallend ähnlich ist.
Bei KI liegt das Problem darin, dass das Ergebnis zwar „richtig und funktionsfähig“ sein kann, das Unternehmen aber nicht vernünftig belegen kann:
- wer es erstellt hat,
- auf Grundlage welcher Eingaben,
- ob es sicher kommerziell genutzt werden kann.
Aus Sicht der Geschäftsleitung ist wesentlich, dass es bei einem Streit oder einer Due Diligence oft nicht darum geht, „wie schnell es entstanden ist“, sondern ob dafür klare Eigentums- und Lizenzverhältnisse bestehen.
Die Juristen der ARROWS Rechtsanwaltskanzlei befassen sich täglich mit diesem Bereich – nicht nur bei IT-Unternehmen, sondern auch bei Unternehmen, die Software als zentrales internes Werkzeug nutzen. Für die Regelung von Eigentum und Lizenzen schreiben Sie an beratung@arws.cz.
KI-Ergebnis als „Werk“: die größte Schwachstelle in der Praxis
Die größte Schwachstelle ist überraschend einfach: Das Unternehmen hat nicht geregelt, wer Urheber ist (Arbeitnehmer oder Auftragnehmer), und nutzt zugleich KI-Tools ohne interne Regeln.
Dann kommt es häufig vor, dass:
- der Auftragnehmer behauptet, der Code gehöre ihm und der Kunde habe nur eine eingeschränkte Lizenz,
- ein Arbeitnehmer ausscheidet und das Unternehmen nicht nachweisen kann, was im Rahmen seiner Arbeitsaufgaben entstanden ist,
- ein Investor Garantien für „sauberes IP“ verlangt und sich die Transaktion verkompliziert.
Die ARROWS Rechtsanwaltskanzlei gestaltet Rechteübertragungen, Lizenzmodell und interne Regeln so, dass das Unternehmen eine rechtlich greifbare Kontrolle über die Entwicklungsergebnisse hat. Für die Beurteilung Ihrer konkreten Situation schreiben Sie an beratung@arws.cz.
| Risiken und Sanktionen | Wie ARROWS hilft (beratung@arws.cz) |
|---|---|
| Streit über Urheberschaft und Eigentum: Auftragnehmer oder Entwickler beansprucht Rechte, es drohen Nutzungssperre und Schäden | Gestaltung des IP-Regimes: Wir bereiten Rechteübertragungen, Lizenzvereinbarungen und einen Nachweispfad zu den Ergebnissen vor |
| Nicht investitionsfähige Software: Der Investor lehnt die Transaktion wegen unklarer Herkunft des Codes und der Lizenzen ab | IP-Due-Diligence: Wir erfassen die Risiken, schlagen Abhilfe vor und bereiten Transaktionsgarantien vor |
| Verdeckte Nutzung fremder Bestandteile: Es drohen Klage, Vertriebsverbot oder kostspieliges Umschreiben des Codes | Rechtsaudit der Entwicklung: Wir richten interne Kontrollprozesse und vertraglichen Schutz gegenüber Dritten ein |
| Fehlende Regelung der Arbeitnehmerentwicklung: Das Unternehmen kann sein Know-how nicht halten, Komplikationen beim Ausscheiden von Mitarbeitern | Arbeitsrechtliche und IP-Dokumentation: Wir passen Arbeitsverträge, interne Richtlinien und Übergabeprozesse an |
Schadenshaftung: Wenn die KI etwas falsch macht – wer zahlt?
Die Haftung ist für Unternehmen oft wichtiger als die Urheberschaft, weil Schäden schnell entstehen und meist messbar sind: Vertragsstrafen, Reklamationen, Vorfälle, Kundenverluste, regulatorische Folgen.
Bei KI-Systemen entscheidet sich die Haftung typischerweise an folgenden Punkten:
- ob die KI eine „Empfehlung“ gibt oder eine „Entscheidung“ trifft,
- ob der Kunde weiß, wie das System funktioniert und welche Grenzen es hat,
- ob das Unternehmen angemessene Tests, Überwachung und Qualitätskontrolle hatte,
- wie die vertragliche Haftung gegenüber Kunden und Lieferanten geregelt ist.
Die Juristen der ARROWS Rechtsanwaltskanzlei gestalten in diesem Bereich regelmäßig vertragliche Haftung, SLA und Prozesse so, dass sie der Realität der KI-Entwicklung entsprechen. Wenn Sie Reklamationen bearbeiten oder Verträge vorbeugend anpassen möchten, schreiben Sie an beratung@arws.cz.
Typischer Fehler: „Ein Disclaimer löst das“
Oft verlässt man sich darauf, dass es genügt, in die Bedingungen „KI kann Fehler machen“ zu schreiben. Das ist aber nur ein Teil der Verteidigung.
In der Praxis braucht es zugleich:
- einen klar beschriebenen Leistungsumfang (was die KI tut und was nicht),
- einen festgelegten Prozess für Vorfälle und Fehler,
- Protokollierung und die Möglichkeit nachzuvollziehen, was passiert ist,
- vertragliche Haftungsbegrenzungen und Ausnahmen davon (Carve-outs).
Ist KI Teil des Produkts, sollte man damit rechnen, dass der Kunde Folgendes verlangt:
- Verfügbarkeitsgarantien,
- Reaktionszeiten,
- Haftung für fehlerhafte Ergebnisse in Kernprozessen.
Die ARROWS Rechtsanwaltskanzlei gestaltet den vertraglichen und prozessualen Rahmen so, dass er rechtlich vertretbar und zugleich kommerziell verkaufsfähig ist. Schreiben Sie an beratung@arws.cz.
| Risiken und Sanktionen | Wie ARROWS hilft (beratung@arws.cz) |
|---|---|
| Reklamationen und Vertragsstrafen: Ein fehlerhaftes KI-Ergebnis führt zur Verletzung des SLA oder zu einem Schaden beim Kunden | Überprüfung von Verträgen und SLA: Wir regeln Verfügbarkeit, Haftung, Begrenzungen und praktische Reklamationsprozesse |
| Vorfall mit Auswirkungen auf Kunden: Datenverlust, Fehlentscheidungen, Ausfall der KI-API | Incident Governance: Wir bereiten Verfahren für Vorfälle, Kommunikation, vertragliche Absicherung und Verteidigung vor |
| Nicht nachweisbare Ursache: Das Unternehmen kann nicht belegen, warum die KI ein bestimmtes Ergebnis geliefert hat | Protokollierung und Dokumentation: Wir regeln Audit-Trail und Beweise vertraglich und prozessual |
| Haftungskette: Anbieter, Integrator und Kunde schieben sich die Verantwortung gegenseitig „zu“ | Verhandlungen mit Lieferanten: Wir gestalten Haftungskette, Freistellungen (Indemnities) und Schutz des Kunden |
Verträge bei KI-Entwicklung: was anders sein muss als bei herkömmlicher Software
KI-Projekte scheitern oft nicht an der Technik, sondern an Verträgen und Erwartungen. Das klassische „Werk gegen Preis“ ohne Details funktioniert nicht, denn KI-Entwicklung ist iterativ und von Daten sowie von Dritten abhängig.
Was im Vertrag immer ausdrücklich geregelt sein sollte
- Rechteübertragung und Lizenz - klar regeln, wem die Ergebnisse gehören, einschließlich Modellen, Prompts, Datensätzen und Dokumentation.
- Auftrag, Scope und Änderungsverfahren - KI-Entwicklung ist dynamisch: Ohne Change Management steigt das Risiko von Streit über Preis und Umfang.
- Verantwortung für Daten und deren Qualität - liefert der Kunde schlechte Daten, liefert die KI schlechte Ergebnisse – und das muss vertraglich geregelt sein.
- SLA, Verfügbarkeit, Fallback-Szenarien - die API eines Drittanbieters kann ausfallen. Das Unternehmen muss wissen, was es dem Kunden zusagt und was es mit dem Anbieter aushandelt.
- Sicherheit und Vertraulichkeit -Prompt-Logs und Eingaben können Geschäftsgeheimnisse enthalten. Ohne Verschwiegenheitsregelung droht ein realer Know-how-Abfluss.
Die Juristen der ARROWS Rechtsanwaltskanzlei gestalten Verträge so, dass sie der Entwicklungspraxis entsprechen und zugleich das Procurement großer Konzerne bestehen. Wenn Sie Verträge für KI-Entwicklung oder KI-Funktionen im Produkt anpassen müssen, schreiben Sie an beratung@arws.cz.
Interne KI-Richtlinie: warum sie auch Investoren verlangen
Interne KI-Regeln sind kein „Papier für die Compliance“. Investoren und Konzernkunden prüfen heute regelmäßig:
- wie das Unternehmen Datenabflüsse in externe KI-Tools verhindert,
- wer welche Tools nutzen darf,
- wie der KI-Einsatz in den Ergebnissen dokumentiert wird,
- wie Audits und Vorfälle gehandhabt werden.
Die Richtlinie muss sich unmittelbar auf die Praxis auswirken: was in Prompts eingegeben werden darf, wie Logs gespeichert werden, wie Releases freigegeben werden, wie Open Source kontrolliert wird.
Die ARROWS Rechtsanwaltskanzlei liefert sowohl die rechtliche Dokumentation als auch die Prozessgestaltung für die tatsächliche Umsetzung im Unternehmen. Für einen Entwurf der KI-Governance schreiben Sie an beratung@arws.cz.
Unsere Spezialisten helfen Ihnen
DSGVO und Datenschutz: KI erweitert das Risiko oft „unbemerkt“
Die DSGVO betrifft in der Entwicklung nicht nur die Datenbank, sondern auch alltägliche Betriebsspuren:
- Chat-Logs mit KI,
- Fehlermeldungen von Kunden,
- Gesprächstranskripte,
- Testdaten,
- Monitoring und Telemetrie.
Ein rechtliches Problem entsteht typischerweise, sobald personenbezogene Daten in die KI gelangen und unklar ist:
- auf welcher Rechtsgrundlage sie verarbeitet werden,
- wer Verantwortlicher und wer Auftragsverarbeiter ist,
- wo die Daten gespeichert werden und wer Zugriff darauf hat,
- ob die Daten nicht außerhalb der EU übermittelt werden.
Der Einsatz von KI wirkt einfach, doch die reale Welt hat Ausnahmen, Zusammenhänge und prozessuale Details, die ein Laie oft nicht sieht. Die Juristen der ARROWS Rechtsanwaltskanzlei befassen sich täglich damit und verkürzen dadurch den Zeitaufwand deutlich und senken das Fehlerrisiko. Wenn Sie KI-Tools so einrichten müssen, dass sie aus Sicht der DSGVO sicher sind, schreiben Sie an beratung@arws.cz.
| Risiken und Sanktionen | Wie ARROWS hilft (beratung@arws.cz) |
|---|---|
| DSGVO-Verstoß: unrechtmäßige Verarbeitung, Risiko von Bußgeld und Reputationsschaden | DSGVO-Konfiguration der KI: Wir legen Rollen, Verträge, Datenminimierung und Nutzungsregeln fest |
| Abfluss von Geschäftsgeheimnissen: interne Dokumente oder Code landen in einem externen Tool | Vertraulichkeit und Sicherheit: Wir schaffen ein internes Regelwerk, Verträge mit Anbietern und Kontrollmechanismen |
| Unklarer Umgang mit Logs: Prompt-Logs enthalten personenbezogene Daten ohne Rechtsgrundlage | Prozesse und Dokumentation: Wir legen Aufbewahrungsregeln, Zugriffe und Auditierbarkeit fest |
| Übermittlung außerhalb der EU: ungeeignet konfigurierte Cloud-Dienste und Datenflüsse | Datentransfer und Vendor Management: Wir bereiten vertraglichen Schutz und die Prüfung der Anbieter vor |
Internationaler Bezug: KI-Entwicklung überschreitet oft Grenzen – und wird dadurch komplexer
KI-Projekte verbinden oft:
- ein tschechisches Unternehmen als Produktanbieter,
- ein Entwicklungsteam in einem anderen Land,
- Cloud-Infrastruktur außerhalb der EU,
- Kunden in mehreren Rechtsordnungen.
Das bedeutet, dass Folgendes zu klären ist:
- Rechtswahl und Gerichtsstand,
- Datenübermittlungen und Sicherheit,
- Durchsetzung der Haftung gegenüber Anbietern,
- unterschiedliche Anforderungen der Kunden (insbesondere von Konzernen).
Hat ein Projekt internationalen Bezug, kann die ARROWS Rechtsanwaltskanzlei auf das über zehn Jahre aufgebaute Netzwerk ARROWS International zurückgreifen und rechtliche Lösungen schnell länderübergreifend verbinden. Für eine Beratung schreiben Sie an beratung@arws.cz.
Warum es sich nicht lohnt, dieses Thema in Eigenregie zu lösen
KI in der IT wirkt wie ein technisches Thema, doch die rechtlichen Folgen zeigen sich meist erst dann, wenn:
- ein Kunde ein Ergebnis reklamiert,
- es zu einem Vorfall kommt,
- eine Due Diligence bei einer Investition oder einem Unternehmensverkauf läuft,
- ein Anbieter seine Nutzungsbedingungen ändert,
- ein Streit über das Eigentum am Code entsteht.
Jeder dieser Momente verursacht hohe Kosten, weil unter Druck gehandelt werden muss. Dabei lassen sich viele Risiken rechtzeitig senken: durch Verträge, interne Regeln und Kontrollprozesse.
Die Juristen der ARROWS Rechtsanwaltskanzlei befassen sich täglich mit diesem Thema und können ihren Mandanten Zeit sparen und das Fehlerrisiko minimieren. Zudem ist die ARROWS Rechtsanwaltskanzlei für Schäden bis zu 350 000 000 CZK (ca. 14,4 Mio. EUR) versichert, was für Unternehmen ein wichtiges Sicherheitselement ist. Für die Gestaltung eines rechtlichen Rahmens für KI schreiben Sie an beratung@arws.cz.
Fazit
Der Einsatz künstlicher Intelligenz bei der Entwicklung von Software und Apps bringt Tempo und Innovation, wirft aber zugleich strittige Fragen zu Urheberschaft, Eigentum am Code, Haftung für Fehler und Datenschutz auf. In der Praxis ist es wichtig, Verträge, Prozesse und Regeln für den KI-Einsatz klar festzulegen, damit das Problem nicht erst bei einer Reklamation, einem Vorfall oder einer Investitionsprüfung auftaucht.