Rechtliche Aspekte der Entwicklung von Waffensystemen mit künstlicher Intelligenz im Jahr 2025

Aktueller Rechtsrahmen in der EU, den USA und der NATO für KI in Waffen

Europäische Union (EU)

Das bedeutet, dass die Pflichten und Beschränkungen des AI Act (der auf zivile KI ausgerichtet ist) nicht für Waffensysteme gelten, die ausschließlich für militärische Zwecke bestimmt sind. Die Mitgliedstaaten müssen jedoch weiterhin das humanitäre Völkerrecht (IHL) einhalten und sicherstellen, dass neue Waffen mit ihm im Einklang stehen. So betont beispielsweise der Europäische Auswärtige Dienst die klare Position der EU, dass das Völkerrecht einschließlich des humanitären Völkerrechts für alle Waffensysteme gilt und Entscheidungen über den Einsatz tödlicher Gewalt stets von einem Menschen getroffen werden müssen, der dafür die Verantwortung trägt.

Das Europäische Parlament hat zudem eine Haltung eingenommen, die eine präventive Regulierung fordert – bereits im September 2018 verabschiedete es eine Entschließung, die ein internationales Verbot tödlicher autonomer Waffen ohne menschliche Kontrolle verlangt. Diese Entschließungen sind für die Mitgliedstaaten jedoch nicht verbindlich, und die Haltung der EU als Ganzes entwickelt sich allmählich hin zu einem vorsichtigeren, weniger kategorischen Ansatz.

Im Jahr 2021 verabschiedete das Parlament eine weitere Entschließung zur KI in der Verteidigung, die in dieser Frage gemäßigter ausfiel. Insgesamt vertreten der Europäische Rat und die Europäische Kommission eine eher zurückhaltende Haltung – sie erkennen die Bedeutung der KI für die Verteidigung an und vermeiden eindeutige Verbote, die die technologische Entwicklung einschränken könnten. Anstelle einer harten Regulierung unterstützt die EU die Fortsetzung der Debatten im Rahmen der Vereinten Nationen (Übereinkommen über bestimmte konventionelle Waffen – CCW) und setzt sich für den Grundsatz der „bedeutsamen menschlichen Kontrolle“ (meaningful human control) als Leitlinie für die Entwicklung dieser Waffen ein.

Vereinigte Staaten von Amerika (USA)

In den Vereinigten Staaten gilt bislang kein Verbot der Entwicklung oder des Einsatzes tödlicher autonomer Waffen – im Gegenteil, die amerikanische Politik schließt eine solche Entwicklung ausdrücklich nicht aus. Anstelle von Verboten hat das Verteidigungsministerium (DoD) interne Richtlinien und Standards eingeführt, die sicherstellen sollen, dass jegliche Waffensysteme mit KI verantwortungsvoll und im Einklang mit dem Recht eingesetzt werden.

Das grundlegende Dokument ist die Direktive des Verteidigungsministeriums Nr. 3000.09 aus dem Jahr 2012 (zuletzt im Januar 2023 aktualisiert), die die Politik für Autonomie in Waffensystemen festlegt. Diese Direktive definiert Kategorien autonomer Waffen nach dem Grad der menschlichen Beteiligung (sog. human-in-the-loop, on-the-loop, out-of-the-loop) und verlangt, dass über den Einsatz tödlicher Gewalt stets ein „angemessenes Maß an menschlichem Urteilsvermögen“ ausgeübt wird. Praktisch bedeutet dies, dass eine vollautonome Waffe (LAWS – Lethal Autonomous Weapon System), die ohne weiteres Eingreifen des Bedieners selbst Ziele auswählen und bekämpfen würde, strengen Bedingungen unterliegt.

Alle autonomen Waffensysteme müssen über eingebaute Sicherungen verfügen und ausreichend robust sein, um die Wahrscheinlichkeit eines Versagens zu minimieren. Ist das System nicht in der Lage, die vorgegebenen Bedingungen zu erfüllen (z. B. den festgelegten Raum oder das Ziel der Operation einzuhalten), muss es den Angriff abbrechen oder ein Eingreifen der Bedienung anfordern. Die Direktive verlangt außerdem wiederholte Tests und Bewertungen, wenn das System lernt und sein Verhalten ändert (Machine Learning), damit gewährleistet ist, dass es sicher bleibt und wie beabsichtigt funktioniert.

In organisatorischer Hinsicht haben die USA ein mehrstufiges Genehmigungsverfahren eingeführt: Jedes neue Waffensystem mit fortgeschrittener Autonomie erfordert eine Überprüfung auf hoher Leitungsebene des Ministeriums vor Beginn der Entwicklung und eine weitere vor der Einführung in die Bewaffnung. An dieser Überprüfung sind die Staatssekretäre des Verteidigungsministers für Politik, Forschung und Beschaffung, der Vereinigte Generalstab sowie Rechtsberater beteiligt. Ziel ist es, die Rechtmäßigkeit, ethische Fragen und Risiken zu beurteilen, noch bevor eine solche Waffe entsteht oder eingesetzt wird. Der Kongress verstärkt zudem die Aufsicht – das Verteidigungsgesetz (NDAA) für das Jahr 2024 verpflichtete den Verteidigungsminister, den Kongress über jede Änderung dieser Direktive zu unterrichten, und das NDAA 2025 verlangt regelmäßige Berichte über die Entwicklung und den Einsatz autonomer Waffen bis zum Jahr 2029.

Im internationalen Kontext beteiligen sich die USA aktiv an den Verhandlungen über LAWS im Rahmen des CCW der Vereinten Nationen, unterstützen jedoch kein verbindliches Verbot dieser Systeme. Stattdessen argumentiert die amerikanische Regierung, dass das bestehende Kriegsrecht ausreichend sei und autonome Technologien auch Vorteile haben können (zum Beispiel eine präzisere Zielerfassung mit geringerem Risiko für Zivilisten). Für amerikanische Lieferanten von Verteidigungstechnologien bedeutet dies, dass die Entwicklung von KI-Waffen möglich ist, allerdings unter dem strengen Regulierungsregime des DoD – sie erfordert die Erfüllung technischer Standards, rechtlicher Überprüfungen und ethischer Grundsätze (das DoD hat im Jahr 2020 einen Katalog von Ethischen Grundsätzen für KI verabschiedet, wie Verantwortlichkeit, Verständlichkeit, Zuverlässigkeit oder die Möglichkeit menschlichen Eingreifens, die auch auf Waffensysteme angewendet werden).

NATO

Das Nordatlantische Bündnis als Ganzes erlässt für seine Mitglieder im Bereich der Waffenentwicklung keine verbindlichen Rechtsvorschriften, bietet jedoch einen strategischen Rahmen und Empfehlungen für die Nutzung von KI in der Verteidigung. Im Oktober 2021 verabschiedete die NATO ihre erste KI-Strategie, die sechs Grundsätze für die verantwortungsvolle Nutzung von KI in der Verteidigung enthält.

Diese Grundsätze – zu denen Rechtmäßigkeit, Verantwortlichkeit, Nachvollziehbarkeit, Zuverlässigkeit, Steuerbarkeit und Fairness gehören – sollen die Mitgliedstaaten bei der Entwicklung und dem Einsatz von KI-Technologien leiten. Im Jahr 2023 richtete die NATO ferner den Rat zur Überprüfung von Daten und KI (Data and AI Review Board, DARB) ein, der mit der Arbeit an einem Zertifizierungsstandard für KI im Einklang mit den Werten des Bündnisses begann. Ziel dieses Standards ist es, die allgemeinen Grundsätze in konkrete Kontrollmechanismen zu überführen, mit denen überprüft wird, dass neue KI-gestützte Projekte das Völkerrecht und die Normen der NATO achten.

Die Kontrollen sollen sich insbesondere auf die Steuerbarkeit, Nachverfolgbarkeit und Zuverlässigkeit von KI-Systemen konzentrieren. In der Praxis bedeutet dies, dass das Bündnis z. B. die Implementierung von Aufzeichnungssystemen (Logs) zur Nachvollziehbarkeit der KI-Entscheidungen sowie die Möglichkeit des Menschen unterstützt, jederzeit die Kontrolle zu übernehmen oder das System zu deaktivieren (human override). Die NATO selbst stellt keine Waffensysteme her, gewährleistet aber als Plattform der Zusammenarbeit den Austausch bewährter Verfahren unter den Verbündeten – Juristen, Soldaten und Techniker aus den Mitgliedstaaten erörtern im Rahmen der NATO gemeinsam Standards, damit neue Technologien sicher und im Einklang mit dem Recht entwickelt werden.

Entscheidend ist, dass die NATO die uneingeschränkte Geltung des humanitären Völkerrechts für alle Waffen mit KI bestätigt und die Wahrung der menschlichen Verantwortung für Entscheidungen über die Anwendung von Gewalt betont, im Einklang mit den auch von der EU geteilten Grundsätzen. Im Umfeld der NATO besteht somit Einigkeit über die Notwendigkeit einer „sinnvollen menschlichen Kontrolle“ bei Waffensystemen – die konkrete Umsetzung bleibt jedoch den einzelnen Staaten überlassen.

Zusammenfassung des aktuellen Stands

Weder die EU noch die NATO haben bislang eine besondere Rechtsvorschrift erlassen, die militärische KI ausdrücklich regeln oder beschränken würde; sie stützen sich vielmehr auf die Anwendung bestehender Regeln (insbesondere des Völkerrechts) sowie auf politische Erklärungen und Strategien. Die USA haben demgegenüber intern einen detaillierten Regulierungsrahmen innerhalb des Verteidigungsressorts ausgearbeitet und technisch-rechtliche Anforderungen an Entwickler festgelegt. Kein NATO-Staat hat bisher offiziell eine vollautonome tödliche Waffe eingesetzt, doch Forschung und Experimente laufen in vielen Staaten. Im Rahmen der Vereinten Nationen wächst der Druck auf die Schaffung eines internationalen Vertrags, was Ende 2024 in eine Resolution der Generalversammlung der Vereinten Nationen mündete, die die Ausarbeitung einer rechtsverbindlichen Regelung für autonome Waffen unterstützt. Das rechtliche Umfeld ist daher dynamisch – es ist zu erwarten, dass sich die nationalen und internationalen Rahmen in den nächsten Jahren weiterentwickeln werden.

Spezifische Beschränkungen und Regulierungen für die Entwicklung, Erprobung und den Einsatz von KI in Verteidigungssystemen

Bei der Entwicklung und Einführung von Waffensystemen mit KI müssen die Akteure in der EU wie in den USA eine Reihe rechtlicher Beschränkungen und verfahrensrechtlicher Anforderungen einhalten. Eine zentrale Rolle spielt das Recht der bewaffneten Konflikte: Staaten, die Vertragsparteien des Zusatzprotokolls I zu den Genfer Abkommen sind, sind verpflichtet, eine Überprüfung neuer Waffen auf ihre Vereinbarkeit mit dem geltenden Recht durchzuführen (sog. Article 36 review). Diese rechtliche Anforderung bedeutet, dass bereits in der Phase der Entwicklung oder Beschaffung beurteilt werden muss, ob das beabsichtigte Waffensystem verboten ist oder gegen die Grundsätze des IHL verstößt (z. B. die Grundsätze der Unterscheidung und der Verhältnismäßigkeit). Erprobung und Evaluierung sind daher nicht nur eine technische Notwendigkeit, sondern auch ein rechtliches Gebot. Der Einsatz einer ungeprüften oder nicht getesteten autonomen Waffe könnte für sich genommen eine Rechtsverletzung darstellen und die Verantwortlichkeit des Staates begründen. In der Praxis führen die Streitkräfte mehrstufige Kontrollmechanismen ein.

In den USA schreibt beispielsweise die DoD-Direktive 3000.09 vor, dass jedes autonome Waffensystem das übliche Verfahren der Waffenüberprüfung (weapons review) und darüber hinaus eine besondere Überprüfung auf hoher Leitungsebene des Ministeriums vor der Entwicklung und vor dem Einsatz durchläuft. Teil dieses Verfahrens ist auch die Einbindung von Juristen (z. B. des Chefjuristen des DoD) und von Fachleuten für die Erprobung und Bewertung von Waffen, die beurteilen, ob das System die rechtlichen Anforderungen erfüllt (insbesondere die Einhaltung des IHL). Ähnliche Verfahren bestehen auch in anderen NATO-Staaten – so erklären etwa Großbritannien oder Deutschland, dass sie die Überprüfung neuer Waffen konsequent anwenden und keine Systeme entwickeln oder einsetzen werden, die sich nicht im Einklang mit dem Völkerrecht verwenden ließen.

Konkrete technische Beschränkungen sind häufig in regulatorischen oder internen Normen verankert. Eine der zentralen Anforderungen lautet, dass autonome Systeme menschliche Aufsicht und menschliches Eingreifen ermöglichen müssen. Die amerikanischen Richtlinien verlangen, dass eine autonome Waffe den Angriff automatisch unterbricht oder die Bestätigung des Bedieners anfordert, wenn Situationen außerhalb der festgelegten Parameter eintreten (z. B. Verbindungsverlust, nicht identifiziertes Ziel u. Ä.).

Ferner muss sichergestellt sein, dass die Wahrscheinlichkeit eines Systemversagens äußerst gering ist und dass das System über eingebaute Elemente zur Minimierung der Folgen einer etwaigen Störung verfügt. Im Ergebnis bedeutet dies die Pflicht, robuste Testszenarien, Software-Sicherungen (z. B. einen „Kill-Switch“) und die Redundanz kritischer Komponenten zu implementieren. Verändert sich das System aufgrund maschinellen Lernens, muss es erneut getestet und genehmigt werden, bevor es wieder eingesetzt wird. Auch im Friedensbetrieb (z. B. während der Ausbildung) unterliegen solche Systeme strenger Aufsicht – die Armeen legen üblicherweise Regeln fest, wonach die experimentelle Verwendung von KI-Waffen nur auf ausgewiesenen Testgeländen und unter Beteiligung von Fachleuten erfolgt, um das Risiko unvorhergesehenen Verhaltens zu minimieren.

Die Regulierung des Einsatzes von KI in Verteidigungssystemen umfasst noch weitere Aspekte, etwa die Frage der Zielidentifizierung. Das humanitäre Völkerrecht verbietet Angriffe auf Zivilisten und verlangt eine zuverlässige Identifizierung militärischer Ziele. Daraus folgt, dass die in Waffenlenksystemen eingesetzte KI so präzise und geprüft sein muss, dass sie zivile Objekte nicht irrtümlich als Ziele markiert. Die Entwickler müssen in die Algorithmen einen konservativen Ansatz einbauen – lieber ein Ziel nicht identifizieren, als es falsch zu markieren.

Die Rechtsrahmen in den USA wie in Europa schränken daher den Einsatz vollständig selbstständiger Waffensysteme in einem Umfeld, in dem eine unzureichende Unterscheidungsfähigkeit droht, faktisch ein. Hier kommt der Grundsatz der Vorsicht zur Anwendung: Besteht keine Gewissheit, dass ein autonomes System unter den gegebenen Bedingungen legitime Ziele unterscheiden kann, sollte es nicht verwendet werden. So erwägt beispielsweise das amerikanische DoD den Einsatz tödlicher autonomer Systeme nur in Situationen wie einem elektronisch gestörten Gefechtsfeld, in dem herkömmliche Waffen versagen, und würde selbst dann die Möglichkeit einer nachträglichen Kontrolle verlangen.

Ein weiterer Regulierungsbereich sind Erprobung und Zertifizierung. Während zivile KI-Systeme einer Zertifizierung nach dem AI Act (in der EU) oder ISO-Standards unterliegen können, fehlen diese allgemeinen Mechanismen in der Verteidigung. Die NATO arbeitet daher an einem speziellen Zertifizierungsstandard für militärische KI, der für die Industrie und die Institutionen innerhalb des Bündnisses benutzerfreundlich sein soll.

Dieser für Ende 2023 geplante Standard soll helfen zu überprüfen, dass neue KI-Projekte bereits ab der Entwicklungsphase dem Völkerrecht und den Normen der NATO entsprechen. Entwicklerunternehmen können sich somit in naher Zukunft der Anforderung gegenübersehen, dass ihre Systeme eine unabhängige Bewertung nach diesen Kriterien durchlaufen (ähnlich wie Waffen heute im Hinblick auf die Munitionssicherheit u. Ä. zertifiziert werden).

Exportkontrollen und internationale Abkommen beeinflussen die Entwicklung von KI in Waffen ebenfalls. KI-Software und -Hardware mit militärischer Verwendung kann unter das Regime der Kontrolle strategischer Ausfuhren fallen (z. B. die EU-Verordnung über die Kontrolle der Ausfuhr von Gütern mit doppeltem Verwendungszweck oder die amerikanischen ITAR). Das bedeutet, dass Unternehmen, die fortgeschrittene Algorithmen für Waffensysteme entwickeln, für einen etwaigen Export eine Genehmigung einholen müssen und solche Technologien nicht frei ins Ausland transferieren dürfen, insbesondere nicht in mit einem Embargo belegte Länder. Multilaterale Regime wie das Wassenaar Arrangement haben bereits einige KI-Technologien (z. B. Software zur Steuerung neuronaler Netze) in die Liste der kontrollierten Güter aufgenommen, was den Entwicklern Melde- und Genehmigungspflichten auferlegt.

Kurz gesagt: Entwicklung, Erprobung und Einsatz von KI in Verteidigungssystemen unterliegen einer Kombination aus hartem Recht (insbesondere dem humanitären Völkerrecht) und weichen internen Regelungen. Entwickler und Betreiber müssen sicherstellen, dass ihre Systeme rechtlich überprüft, technisch gegen Versagen abgesichert und unter angemessener menschlicher Aufsicht betrieben werden, andernfalls riskieren sie die Verletzung rechtlicher Pflichten.

Das Team der Anwaltskanzlei ARROWS

Haftung für Schäden und Rechtsfolgen des fehlerhaften Einsatzes von KI in Waffensystemen

Der Einsatz von KI in Waffen wirft die Frage auf, wer die Verantwortung trägt, wenn ein autonomes System auf unbeabsichtigte oder rechtswidrige Weise einen Schaden verursacht. In herkömmlichen Konflikten gilt, dass der Staat für das Verhalten seiner Streitkräfte verantwortlich ist und Einzelpersonen (Befehlshaber, Soldaten) eine individuelle strafrechtliche Verantwortlichkeit für Kriegsverbrechen treffen kann. Diese Grundsätze gelten auch für den Einsatz autonomer Waffen – es lässt sich nicht argumentieren, „der Roboter hat den Schaden verursacht, niemand kann etwas dafür“. Nach dem Recht der Staatenverantwortlichkeit ist der Staat für Verletzungen des humanitären Völkerrechts verantwortlich, zu denen es durch den Einsatz eines autonomen Waffensystems kommt.

Würde beispielsweise eine autonome Drohne ohne menschliches Eingreifen irrtümlich und unter Verstoß gegen das IHL ein ziviles Ziel angreifen, trägt der Staat, der sie eingesetzt hat, die Verantwortung, ebenso wie er für einen Soldaten verantwortlich wäre, der eine vergleichbare Tat begeht. Der Staat kann sich seiner Verantwortung nicht mit dem Hinweis entziehen, es habe sich um einen Fehler des Algorithmus gehandelt. Zudem gilt: Setzt ein Staat eine KI-Waffe ohne ausreichende Erprobung oder Überprüfung ein und kommt es zu einer Rechtsverletzung, stellt dies für sich genommen eine weitere Verletzung dar, für die der Staat verantwortlich ist. Dies unterstreicht die Bedeutung der bereits erwähnten obligatorischen Waffenüberprüfungen und Tests – ihre Unterlassung könnte rechtliche Folgen haben.

Aus Sicht der individuellen Verantwortlichkeit kann eine sog. „accountability gap“ entstehen – also die Befürchtung, dass bei vollautonomer Entscheidungsfindung kein konkreter Schuldiger bestimmt werden kann. Auf rechtlicher Ebene wird jedoch davon ausgegangen, dass stets ein menschliches Glied existiert, dem die Verantwortung für den Einsatz der Waffe zugerechnet werden kann.

Typischerweise wird dies der Befehlshaber sein, der über die Verwendung des Systems in der Gefechtssituation entschieden hat, gegebenenfalls der Bediener, der das Gerät aktiviert hat. Verursacht eine autonome Waffe einen rechtswidrigen Schaden, kann geprüft werden, ob der Befehlshaber bzw. Bediener fahrlässig gehandelt (z. B. das System unter ungeeigneten Bedingungen eingesetzt) oder vorsätzlich gegen Vorschriften verstoßen hat. Im äußersten Fall könnte es sich um ein Kriegsverbrechen handeln (z. B. wenn jemand eine KI-Waffe wissentlich für einen Angriff auf Zivilisten verwendet).

Das Völkerstrafrecht kennt bereits heute das Konzept der Vorgesetztenverantwortlichkeit, wonach ein Befehlshaber für Verbrechen seiner Untergebenen strafrechtlich verantwortlich ist, wenn er von ihnen wusste oder sie nicht verhindern wollte – analog könnte er auch für die Taten einer „untergebenen“ Waffe verantwortlich sein, wenn er die Risiken kannte und nichts unternahm. In der Praxis wird die Beweisführung jedoch schwierig sein: Die Verteidigung kann vorbringen, es habe sich um einen unberechenbaren Fehler der Maschine außerhalb der Kontrolle der Bedienung gehandelt. Aus diesem Grund werden Stimmen laut, die eine klare Verankerung der Pflicht zur menschlichen Kontrolle fordern – damit es stets jemanden gibt, dem die rechtliche Verantwortung zugewiesen werden kann. Im Übrigen soll auch die Grundhaltung der NATO- und EU-Staaten, dass „der Mensch für Entscheidungen über Leben und Tod verantwortlich bleibt“, der Entstehung eines Verantwortungsvakuums vorbeugen.

Eine weitere Ebene ist die Haftung des Herstellers oder Entwicklers des Waffensystems. Es können Situationen außerhalb eines bewaffneten Konflikts eintreten – z. B. während Tests oder beim Einsatz der Waffe durch Sicherheitskräfte in Friedenszeiten –, in denen die zivilrechtliche Schadenshaftung zu klären ist. Im Regime der Produkthaftung könnten Hersteller von Software oder Programmen für Programmierfehler oder Störungen des autonomen Waffensystems haftbar gemacht werden.

Das bedeutet: Wurde das Versagen der KI durch einen nachweisbaren Mangel des Systems verursacht, können die Geschädigten (oder der Staat, der ihnen die Schäden ersetzen musste) Ersatz vom Lieferanten verlangen. Militärische Verträge enthalten häufig besondere Bestimmungen über Haftung und Gewährleistung – manche können die Haftung des Herstellers beschränken (Regierungen übernehmen mitunter die Risiken experimenteller Technologien), in anderen Fällen behält sich der Staat hingegen bei einem schwerwiegenden Mangel den Regress gegen den Lieferanten vor. Für Unternehmen ist es daher entscheidend, vertraglich zu regeln, welche Verpflichtungen sie bei unbeabsichtigten Folgen des Einsatzes von KI-Waffen treffen. Angesichts des erhöhten Risikos erwägen einige Versicherer eine Haftpflichtversicherung speziell für KI-Systeme in der Verteidigung.

Die rechtlichen Folgen eines fehlerhaften KI-Einsatzes können sich auch politisch auswirken. Verursacht eine autonome Waffe einen internationalen Zwischenfall (z. B. indem sie versehentlich einen neutralen Staat trifft oder Zivilisten tötet), kann sich der betreffende Staat völkerrechtlichen Ansprüchen (diplomatische Proteste, Schiedsverfahren über Schadensersatz) und dem Ruf eines „unverantwortlichen Nutzers“ ausgesetzt sehen. Aus diesem Grund achten die Staaten sehr darauf, jeden Zwischenfall mit KI transparent zu untersuchen und nachweisen zu können, dass sie im Einklang mit dem Recht gehandelt haben. Im Extremfall könnte ein massives Versagen einer KI-Waffe zu einer Überarbeitung der Rechtsvorschriften oder zu Druck in Richtung eines Moratoriums führen, was für alle Entwickler dieser Technologien ein regulatorisches Risiko darstellt.

Vergleich der Ansätze verschiedener Rechtsordnungen zu autonomen Waffen und ihren Rechtsfragen

Die Ansätze der Weltmächte und internationalen Organisationen zu autonomen Waffen unterscheiden sich auf rechtlicher Ebene, was eine globale Harmonisierung erschwert. Die USA und weitere technologisch fortgeschrittene Armeen (z. B. Israel, Russland) vertreten bislang den Standpunkt, dass das geltende Recht ausreicht und es auf die richtige Umsetzung ankommt.

Die Vereinigten Staaten lehnen ein präventives Verbot autonomer Waffen offen ab und setzen sich stattdessen dafür ein, keine neuen internationalen Beschränkungen zu verankern, solange nicht völlig klar ist, wie diese Systeme aussehen werden. Sie argumentieren, dass jede Waffe – ob mit oder ohne KI – das geltende Kriegsrecht einhalten muss, und bevorzugen statt eines pauschalen Verbots die Entwicklung ethischer Rahmenwerke und technischer Maßnahmen, die einen rechtmäßigen Einsatz sicherstellen.

In der Praxis bedeutet dies, dass die USA in KI in Waffensystemen investieren, jedoch mit Bedacht (unter menschlicher Aufsicht), und im Rahmen der Vereinten Nationen Bemühungen um die sofortige Aushandlung eines verbindlichen Vertrags zum Verbot sogenannter „Killer Robots“ blockieren.

Eine ähnliche Auffassung vertritt beispielsweise das Vereinigte Königreich, das erklärt, vollautonome tödliche Systeme nicht ohne menschliche Aufsicht einsetzen zu wollen, zugleich aber deren vorsorgliches Verbot ablehnt – es betont lieber „Responsible AI“ und die Bedeutung der bestehenden Regeln.

Auf der anderen Seite setzen sich viele Staaten, darunter zahlreiche EU-Mitglieder, für einen strengeren Ansatz ein. Österreich, Spanien, Irland, Malta und weitere fordern bereits seit mehreren Jahren einen völkerrechtlichen Vertrag zum Verbot autonomer Waffen ohne menschliche Kontrolle. Ebenso hat das Europäische Parlament (wie erwähnt) in seinen Entschließungen eine harte Haltung eingenommen. Auch große Staaten wie Deutschland und Frankreich unterstützen offiziell den Gedanken einer „nachdrücklichen Regulierung“ – so setzen sie sich etwa im Rahmen der CCW für eine verbindliche politische Erklärung oder einen Verhaltenskodex ein, der festlegen würde, dass der Mensch beim Einsatz tödlicher Gewalt das letzte Wort haben muss. Diese Staaten suchen einen Kompromiss zwischen Sicherheitsinteressen (bei der Entwicklung militärischer KI nicht zurückzufallen) und humanitären Bedenken.

Im Ergebnis tritt die EU als Ganzes in internationalen Foren mit der Forderung nach Regeln für LAWS auf, hindert ihre Mitglieder intern jedoch nicht daran, diese Waffen zu erforschen (sofern dies im Rahmen des Rechts geschieht). Man kann sagen, dass der europäische Ansatz stärker „rechtlich vorsichtig“ und menschenrechtlich ausgerichtet ist – er legt Wert auf präventive Regeln (Human-in-the-Loop-Prinzip) und internationale Zusammenarbeit, während der amerikanische Ansatz stärker „technologisch pragmatisch“ ist – er lässt der Innovation mehr Raum und geht davon aus, dass der konkrete Einsatz von Fall zu Fall beurteilt wird.

Die NATO muss zwischen diesen Ansätzen ihrer Mitglieder einen Ausgleich finden. Das Bündnis als solches unterstützt die verantwortungsvolle Nutzung von KI und gemeinsame Regeln (wie die erwähnten 6 Prinzipien). In seinen Dokumenten heißt es, dass das humanitäre Völkerrecht (IHL) uneingeschränkt gilt und die menschliche Verantwortung unverzichtbar ist – dies spiegelt den Konsens unter den Mitgliedstaaten wider. Andererseits hat die NATO die Entwicklung autonomer Waffen ihrer Mitglieder durch kein Verbot eingeschränkt; im Gegenteil erwähnt die Bündnisstrategie die Notwendigkeit, im Bereich neuer Technologien mit den Gegnern Schritt zu halten.

Russland und China nehmen als bedeutende Militärmächte außerhalb der NATO ebenfalls unterschiedliche Positionen ein: Russland stellt sich gegen jede neue Regulierung (was seine Stimme gegen die erwähnte Resolution der UN-Generalversammlung aus dem Jahr 2024 belegt), während China seine Unterstützung für ein Verbot des Einsatzes autonomer Waffen erklärt, jedoch weiterhin in deren Entwicklung investiert (und sich daher häufig dem Vorwurf eines doppelten Spiels ausgesetzt sieht). Diese Unterschiede erschweren eine Einigung auf internationaler Ebene.

Im Hinblick auf konkrete Rechtsfragen unterscheiden sich die Rechtsordnungen beispielsweise in der Definition der autonomen Waffe. Die USA haben die Begriffe intern im Rahmen der DoD 3000.09 definiert, wonach LAWS ein System bezeichnet, das zur Auswahl und Bekämpfung eines Ziels ohne weiteres menschliches Eingreifen fähig ist. In den Vereinten Nationen gibt es dagegen bislang keine einheitliche Definition – verschiedene Staaten verstehen sie unterschiedlich, was die Rechtsetzung erschwert. Die EU-Institutionen arbeiten häufig mit dem Begriff „Systeme ohne bedeutsame menschliche Kontrolle über kritische Funktionen“, einer Definition, die das Europäische Parlament verwendet hat.

Unterschiedliche Definitionen können zu einem unterschiedlichen Umfang der Regulierung führen. Betrachten die USA etwa eine bestimmte halbautonome Waffe (Loitering Munition mit vorab ausgewählten Zielen) als „Human in the Loop“ und damit als außerhalb der Kategorie der verbotenen Waffen, während ein anderer Staat sie als inakzeptable Autonomie ansehen würde, entsteht ein Streit über den rechtlichen Status einer solchen Waffe.

Ebenso unterscheiden sich die Ansätze zur Entwicklung: In den USA wie in Russland findet aktive, staatlich finanzierte Forschung statt, während einige kleinere Länder Moratorien wählen. Internationale humanitäre Organisationen (wie Human Rights Watch und das IKRK) drängen auf die Annahme präventiver Maßnahmen und weisen auf die „Verantwortungslücke“ sowie auf das Risiko einer Verletzung grundlegender Prinzipien des humanitären Völkerrechts hin, falls eine Maschine über Leben und Tod entscheiden würde.

Diese Auffassungen beeinflussen europäische und kleinere Staaten stärker als die Großmächte. Der technologische Vorsprung bringt sodann ein rechtliches wie strategisches Dilemma mit sich: Staaten, die bei der Entwicklung von KI-Waffen führend sind (USA, China, Russland), wollen ihre Fähigkeiten nicht einseitig einschränken, während Staaten ohne diese Kapazitäten Beschränkungen fordern, um einem Wettrüsten vorzubeugen.

Insgesamt lässt sich sagen, dass sich die rechtlichen Ansätze zu autonomen Waffen im Jahr 2025 auf einer Skala von freiwilligen internen Kontrollen bis hin zu Forderungen nach einem völkerrechtlichen Vertrag bewegen. Alle demokratischen NATO-Staaten erkennen die Verbindlichkeit des geltenden Kriegsrechts und die Notwendigkeit menschlicher Verantwortung an; sie unterscheiden sich jedoch in der Frage, ob eine weitere ausdrückliche rechtliche Verankerung oder ein Verbot erforderlich ist. Diesen Unterschied müssen auch Unternehmen berücksichtigen – so kann ein amerikanischer Lieferant eine KI-Drohne für das Pentagon im Einklang mit den DoD-Richtlinien entwickeln, dasselbe Produkt könnte jedoch in Europa auf Widerstand stoßen, wenn ihm bestimmte Sicherheitsmerkmale fehlen oder es als Schritt hin zu „Killer Robots“ wahrgenommen wird. Für Unternehmen und Regierungen ist es daher wichtig, sowohl die nationalen Regulierungen als auch die internationalen Debatten zu verfolgen, um die technologische Entwicklung mit den unterschiedlichen rechtlichen Anforderungen in Einklang bringen zu können.

Das Team der Anwaltskanzlei ARROWS

Zentrale Herausforderungen für Unternehmen und die staatliche Verwaltung bei der Einhaltung der Rechtsvorschriften

Das rechtliche Umfeld rund um KI in Waffensystemen bringt im Jahr 2025 mehrere grundlegende Herausforderungen mit sich – sowohl für Unternehmen, die diese Technologien entwickeln, als auch für staatliche Institutionen, die sie beschaffen und regulieren:

Unklare Definitionen und Standards

KI in der Verteidigung ist ein schwer zu definierender Begriff, und es fehlen gefestigte rechtliche Definitionen autonomer Waffen. Die Gesetzgebung hält nur schwer Schritt mit der rasanten technischen Entwicklung, was bedeutet, dass Vorschriften vage oder veraltet sein können. Für Unternehmen ist es schwierig, Systeme nach Regeln zu entwerfen, die nicht eindeutig sind – so kann etwa der Begriff „bedeutsame menschliche Kontrolle“ unterschiedlich ausgelegt werden. Die staatliche Verwaltung wiederum steht vor dem Problem, wie sich wirksame Normen für eine Technologie schaffen lassen, die sich ständig verändert.

Einhaltung unterschiedlicher Regulierungen

Ein international tätiges Unternehmen muss die unterschiedlichen Anforderungen in den USA, der EU, der NATO und gegebenenfalls weiteren Regionen berücksichtigen. In der EU (insbesondere bei Projekten, die aus dem Europäischen Verteidigungsfonds finanziert werden) wird beispielsweise de facto erwartet, dass die Systeme über menschliche Kontrolle verfügen, während die amerikanischen Normen den Schwerpunkt auf technische Sicherheitsmechanismen legen. Diese Anforderungen in einem einzigen Entwicklungsprogramm in Einklang zu bringen, erfordert sorgfältige rechtliche Analysen. Für die staatliche Verwaltung stellt auch die Interoperabilität eine Herausforderung dar – nämlich wie sicherzustellen ist, dass verbündete Armeen zusammenarbeiten können, wenn sich ihre rechtlichen Grenzen der Autonomie unterscheiden.

Technologische Vorhersehbarkeit und Erprobung

KI-Systeme, insbesondere solche mit Elementen des maschinellen Lernens, können ihr Verhalten im Laufe der Zeit ändern, was die herkömmliche Zertifizierung erschwert. Die Regulierungen verlangen wiederholte Tests und eine Revalidierung bei Software-Aktualisierungen, was die Entwicklungszyklen verlängert und die Kosten erhöht. Die Gewährleistung einer ausreichend umfassenden Erprobung für alle Einsatzszenarien ist jedoch notwendig, andernfalls droht ein rechtliches Risiko (der Staat wäre für eine unzureichend getestete Waffe verantwortlich). Für Unternehmen besteht die Herausforderung also darin, robuste Verifikationsprozesse in die Entwicklung einzubauen, für Staaten in der Kapazität, diese Tests zu überprüfen (z. B. durch unabhängige Behörden oder militärische Prüfstellen).

Transparenz und Auditierbarkeit der KI

Juristen und militärische Befehlshaber werden die Fähigkeit verlangen, die Entscheidung der KI zu erklären, nachdem es zu einem Angriff gekommen ist, insbesondere wenn Zweifel an der Rechtmäßigkeit des Ziels aufkommen. Die NATO legt daher Wert auf die Nachverfolgbarkeit und Erklärbarkeit der Algorithmen. Für Entwickler bedeutet dies, Elemente wie die Protokollierung von Daten sowie die Aufbewahrung von Sensoraufzeichnungen und Entscheidungsprozessen in die KI zu integrieren, damit sich ex post analysieren lässt, warum das System ein bestimmtes Ziel gewählt hat. Diese „Explainability“ stößt jedoch mitunter auf den proprietären Charakter der KI-Modelle oder auf Geschäftsgeheimnisse, was eine weitere Herausforderung darstellt – wie lässt sich die Transparenzanforderung erfüllen, ohne dass die Unternehmen ihr Know-how offenlegen müssen. Die staatlichen Verwaltungen werden möglicherweise Audits der Algorithmen vor dem Einsatz einführen müssen, was neue Fachkapazitäten erfordern wird (KI-Experten, die Modelle im Hinblick auf Risiken beurteilen können).

Haftung und Versicherungsrisiko

Wie der vorangegangene Abschnitt gezeigt hat, ist bislang nicht vollständig geklärt, wer in den verschiedenen Szenarien eines KI-Versagens die Verantwortung trägt. Unternehmen befürchten, dass sie Klagen oder Sanktionen ausgesetzt sein könnten, wenn ihr Produkt einen Unfall verursacht, und zwar auch dann, wenn es von der Armee verwendet wurde. Sie können daher zögern, ohne einen klaren rechtlichen Haftungsrahmen in die Entwicklung wirklich autonomer Fähigkeiten zu investieren. Für die Staaten besteht die Herausforderung darin, ein Regime zu schaffen, das Innovationen fördert, zugleich aber sicherstellt, dass die Geschädigten im Schadensfall entschädigt werden. Die Haftpflichtversicherung steckt in diesem Bereich noch in den Kinderschuhen, und die Preise können wegen der Unsicherheit des Risikos hoch sein.

Wahrung der Vereinbarkeit mit dem IHL in der Praxis

Theoretisch erklären alle NATO-Armeen, dass sie KI im Einklang mit dem Völkerrecht einsetzen werden. Die Herausforderung besteht darin, dies unter Gefechtsbedingungen praktisch zu gewährleisten – es wird notwendig sein, das Personal zu schulen, die Einsatzregeln (ROE) anzupassen und neue operative Verfahren einzuführen. So müssen beispielsweise die Befehlshaber die Grenzen der KI-Werkzeuge verstehen, um sie nicht ungeeignet einzusetzen (was zu rechtlichen Sanktionen führen könnte). Die Unternehmen wiederum müssen ihren Kunden (den Streitkräften) ausreichende Informationen über die Fähigkeiten und Beschränkungen des Systems zur Verfügung stellen, damit es nicht zu einer unsachgemäßen Verwendung kommt.

Dynamische Entwicklung der Regulierung

Der Rechtsrahmen kann sich in den kommenden Jahren grundlegend ändern – sollten etwa die Vereinten Nationen einen neuen Vertrag über autonome Waffen annehmen, müssen die Unternehmen rasch reagieren (möglicherweise einige Projekte einschränken oder beenden) und die Staaten ihre Gesetze anpassen. Bereits jetzt erwägen einige Staaten Moratorien oder nationale Verbote bestimmter KI-Anwendungen (z. B. ein Verbot vollautonomer Drohnen für polizeiliche Zwecke). Die Unsicherheit über die künftige Rechtslage ist daher für sich genommen eine Herausforderung – sie erfordert Szenarioplanung und Flexibilität seitens der Unternehmen wie der Regierungen.

Fazit

Die Nutzung künstlicher Intelligenz in Waffensystemen bringt ein erhebliches rechtliches Risiko, aber auch einen Wettbewerbsvorteil für diejenigen mit sich, denen der Balanceakt zwischen Innovation und regulatorischer Compliance gelingt. Im Jahr 2025 gilt, dass kein Unternehmen und kein Staat diesen Bereich ignorieren kann – die rechtlichen Aspekte der KI in der Verteidigung sind zu einem festen Bestandteil der Entscheidungen über Forschung, Entwicklung und Einsatz neuer Technologien geworden. Für Juristen und Entscheidungsträger ist es entscheidend, die Entwicklung auf nationaler Ebene (Gesetzgebung, Richtlinien des DoD, EU-Vorgaben für Fonds u. Ä.) wie auch auf internationaler Bühne (Verhandlungen der Vereinten Nationen, Grundsätze der NATO) laufend zu verfolgen, um sicherzustellen, dass ihre Organisationen alle geltenden Vorschriften einhalten und zugleich beim technologischen Fortschritt nicht zurückbleiben.

Angesichts der raschen Entwicklung der KI wie auch der Sicherheitslage ist zu erwarten, dass der Rechtsrahmen weiter präzisiert wird – Ziel aller Beteiligten sollte es sein, klare Regeln festzulegen, die es ermöglichen, die Vorteile der KI in der Verteidigung zu nutzen, und zugleich ihren fehlerhaften oder rechtswidrigen Einsatz verhindern.