Aspectos jurídicos del desarrollo de sistemas de armas con inteligencia artificial en 2025

Marco jurídico actual en la UE, los EE. UU. y la OTAN para la IA en las armas

Unión Europea (UE)

Esto significa que las obligaciones y restricciones del AI Act (centrado en la IA civil) no se aplican a los sistemas de armas destinados exclusivamente a fines militares. No obstante, los Estados miembros siguen obligados a respetar el Derecho internacional humanitario (DIH) y a garantizar que las nuevas armas sean conformes con él. Por ejemplo, el Servicio Europeo de Acción Exterior subraya la posición clara de la UE de que el Derecho internacional, incluido el humanitario, se aplica a todos los sistemas de armas y de que las decisiones sobre el uso de la fuerza letal debe tomarlas siempre un ser humano que responda de ellas.

Además, el Parlamento Europeo adoptó una postura que reclama una regulación preventiva: ya en septiembre de 2018 aprobó una resolución en la que pedía la prohibición internacional de las armas autónomas letales sin control humano. Sin embargo, estas resoluciones no son vinculantes para los Estados miembros y la postura de la UE en su conjunto evoluciona gradualmente hacia un planteamiento más prudente y menos categórico.

En 2021 el Parlamento aprobó otra resolución sobre la IA en la defensa, más moderada en esta cuestión. En general, tanto el Consejo Europeo como la Comisión Europea mantienen una postura más bien contenida: reconocen la importancia de la IA para la defensa y evitan prohibiciones tajantes que pudieran limitar el desarrollo tecnológico. En lugar de una regulación estricta, la UE apoya la continuación de los debates en el seno de la ONU (Convención sobre Ciertas Armas Convencionales, CCW) y promueve el principio del «control humano significativo» (meaningful human control) como guía para el desarrollo de estas armas.

Estados Unidos de América (EE. UU.)

En los Estados Unidos no existe hasta la fecha ninguna prohibición del desarrollo o del despliegue de armas autónomas letales; al contrario, la política estadounidense no excluye expresamente dicho desarrollo. En lugar de prohibiciones, el Departamento de Defensa (DoD) ha implantado políticas y estándares internos destinados a garantizar que cualquier sistema de armas con IA se utilice de forma responsable y conforme a Derecho.

El documento fundamental es la Directiva n.º 3000.09 del Departamento de Defensa de 2012 (actualizada por última vez en enero de 2023), que establece la política de autonomía en los sistemas de armas. Esta directiva define las categorías de armas autónomas según el grado de intervención humana (los llamados human-in-the-loop, on-the-loop, out-of-the-loop) y exige que sobre el uso de la fuerza letal exista siempre un «nivel adecuado de juicio humano». En la práctica, esto significa que un arma plenamente autónoma (LAWS, Lethal Autonomous Weapon System), que seleccionara y atacara objetivos por sí sola sin más intervención del operador, está sujeta a condiciones estrictas.

Todos los sistemas de armas autónomos deben incorporar salvaguardas y ser lo bastante robustos para minimizar la probabilidad de fallo. Si el sistema no es capaz de cumplir las condiciones establecidas (por ejemplo, respetar el espacio delimitado o el objetivo de la operación), debe poner fin al ataque o solicitar la intervención del operador. La directiva exige asimismo pruebas y evaluaciones reiteradas cuando el sistema aprende y modifica su comportamiento (machine learning), a fin de garantizar que sigue siendo seguro y funciona según lo previsto.

Desde el punto de vista organizativo, los EE. UU. han implantado un proceso de aprobación en varios niveles: todo nuevo sistema de armas con autonomía avanzada requiere una revisión por la alta dirección del Departamento antes de iniciar su desarrollo y otra antes de su entrada en servicio. En esta revisión participan los subsecretarios de Defensa para política, investigación y adquisiciones, el Estado Mayor Conjunto y los asesores jurídicos. El objetivo es valorar la legalidad, las cuestiones éticas y los riesgos antes de que el arma se cree o se despliegue. Además, el Congreso refuerza la supervisión: la ley de defensa (NDAA) para 2024 impuso al secretario de Defensa la obligación de notificar al Congreso toda modificación de esta directiva y la NDAA 2025 exige informes periódicos sobre el desarrollo y el despliegue de armas autónomas hasta 2029.

En el contexto internacional, los EE. UU. participan activamente en las negociaciones sobre LAWS en el marco de la CCW de la ONU, pero no apoyan una prohibición vinculante de estos sistemas. En su lugar, el Gobierno estadounidense sostiene que el Derecho de la guerra vigente es suficiente y que las tecnologías autónomas pueden aportar también ventajas (por ejemplo, una selección de objetivos más precisa con menor riesgo para los civiles). Para los proveedores estadounidenses de tecnologías de defensa, esto significa que el desarrollo de armas con IA es posible, pero dentro del estricto régimen regulatorio del DoD: exige cumplir estándares técnicos, revisiones jurídicas y principios éticos (en 2020 el DoD adoptó un conjunto de Principios éticos para la IA, como la responsabilidad, la comprensibilidad, la fiabilidad o la posibilidad de intervención humana, que se aplican también a los sistemas de armas).

OTAN

La Alianza Atlántica en su conjunto no dicta normas jurídicas vinculantes para sus miembros en materia de desarrollo de armas, pero ofrece un marco estratégico y recomendaciones para el uso de la IA en la defensa. En octubre de 2021 la OTAN aprobó su primera Estrategia de IA, que contiene seis principios de uso responsable de la IA en la defensa.

Estos principios —entre los que figuran la legalidad, la responsabilidad, la trazabilidad, la fiabilidad, la gobernabilidad y la equidad— deben guiar a los Estados miembros en el desarrollo y el despliegue de tecnologías de IA. En 2023 la OTAN creó además el Consejo de Revisión de Datos e IA (Data and AI Review Board, DARB), que comenzó a trabajar en un estándar de certificación para la IA acorde con los valores de la Alianza. El objetivo de este estándar es traducir los principios generales en mecanismos de control concretos que verifiquen que los nuevos proyectos que utilizan IA respetan el Derecho internacional y las normas de la OTAN.

Los controles deben centrarse sobre todo en la gobernabilidad, la trazabilidad y la fiabilidad de los sistemas de IA. En la práctica, esto significa que la Alianza apoya, por ejemplo, la implantación de sistemas de registro (logs) para rastrear las decisiones de la IA y la posibilidad de que una persona asuma el control o desactive el sistema en cualquier momento (human override). La OTAN no fabrica sistemas de armas, pero, como plataforma de cooperación, garantiza el intercambio de buenas prácticas entre los aliados: juristas, militares y técnicos de los Estados miembros debaten conjuntamente los estándares en el seno de la OTAN para que las nuevas tecnologías se desarrollen de forma segura y conforme a Derecho.

Lo esencial es que la OTAN confirma la plena vigencia del Derecho internacional humanitario para todas las armas con IA y subraya el mantenimiento de la responsabilidad humana por las decisiones sobre el uso de la fuerza, en consonancia con los principios compartidos también por la UE. En el entorno de la OTAN existe, por tanto, consenso sobre la necesidad de un «control humano significativo» en los sistemas de armas, si bien su aplicación concreta corresponde a cada Estado.

Resumen de la situación actual

Ni la UE ni la OTAN han adoptado por ahora una norma jurídica específica que regule o limite expresamente la IA militar; se apoyan más bien en la aplicación de las normas existentes (en particular, del Derecho internacional) y en declaraciones políticas o estrategias. Los EE. UU., en cambio, han elaborado internamente un detallado marco regulatorio dentro del ámbito de la defensa y han fijado requisitos técnico-jurídicos para los desarrolladores. Ningún país de la OTAN ha desplegado oficialmente hasta ahora un arma letal plenamente autónoma, pero en muchos Estados se llevan a cabo investigaciones y experimentos. En la ONU crece la presión para elaborar un tratado internacional, lo que a finales de 2024 desembocó en una resolución de la Asamblea General de la ONU que apoya la elaboración de una regulación jurídicamente vinculante para las armas autónomas. El entorno jurídico es, por tanto, dinámico: cabe esperar que en los próximos años los marcos nacionales e internacionales sigan evolucionando.

Restricciones y regulaciones específicas para el desarrollo, las pruebas y el despliegue de la IA en los sistemas de defensa

En el desarrollo y la implantación de sistemas de armas con IA, las entidades de la UE y de los EE. UU. deben respetar una serie de restricciones jurídicas y requisitos de procedimiento. El Derecho internacional de los conflictos armados desempeña un papel fundamental: los Estados parte en el Protocolo Adicional I a los Convenios de Ginebra tienen la obligación de realizar un examen de las nuevas armas desde el punto de vista de su conformidad con el Derecho vigente (el llamado Article 36 review). Este requisito jurídico significa que ya en la fase de desarrollo o de adquisición debe evaluarse si el sistema de armas previsto está prohibido o vulnera los principios del DIH (por ejemplo, los principios de distinción y de proporcionalidad). Las pruebas y la evaluación no son, por tanto, solo una necesidad técnica, sino también un imperativo jurídico. El despliegue de un arma autónoma no examinada o no probada podría constituir por sí mismo una infracción del Derecho y generar la responsabilidad del Estado. En la práctica, las fuerzas armadas implantan mecanismos de control en varios niveles.

Por ejemplo, en los EE. UU. la Directiva DoD 3000.09 prescribe que todo sistema de armas autónomo se someta al proceso estándar de examen de armas (weapons review) y, además, a una revisión especial por la alta dirección del Departamento antes de su desarrollo y antes de su despliegue. En este proceso participan también juristas (por ejemplo, el asesor jurídico general del DoD) y expertos en pruebas y evaluación de armas, que valoran si el sistema cumple los requisitos jurídicos (en particular, el respeto del DIH). Existen procedimientos similares en otros países de la OTAN: por ejemplo, el Reino Unido o Alemania declaran que aplican de forma rigurosa el examen de las nuevas armas y que no desarrollarán ni desplegarán sistemas que no puedan utilizarse de conformidad con el Derecho internacional.

Las limitaciones técnicas concretas suelen estar recogidas en normas regulatorias o internas. Uno de los requisitos clave es que los sistemas autónomos permitan la supervisión y la intervención humanas. Las directivas estadounidenses exigen que el arma autónoma interrumpa automáticamente el ataque o solicite la confirmación del operador cuando se produzcan situaciones fuera de los parámetros establecidos (por ejemplo, pérdida de conexión, objetivo no identificado, etc.).

Además, debe garantizarse que la probabilidad de fallo del sistema sea extremadamente baja y que el sistema incorpore elementos para minimizar las consecuencias de una posible avería. Ello implica la obligación de implantar escenarios de prueba robustos, salvaguardas de software (por ejemplo, un «kill-switch») y la redundancia de los componentes críticos. Si el sistema cambia como resultado del aprendizaje automático, debe someterse a nuevas pruebas y a una nueva aprobación antes de volver a desplegarse. También en tiempo de paz (por ejemplo, durante el adiestramiento) estos sistemas están sujetos a una supervisión estricta: los ejércitos suelen establecer reglas para el uso experimental de armas con IA únicamente en polígonos de pruebas reservados y con la participación de expertos, a fin de minimizar el riesgo de comportamientos imprevistos.

La regulación del despliegue de la IA en los sistemas de defensa abarca también otros aspectos, como la cuestión de la identificación del objetivo. El Derecho internacional humanitario prohíbe los ataques contra civiles y exige una identificación fiable de los objetivos militares. Esto implica que la IA utilizada en los sistemas de guiado de armas debe ser tan precisa y estar tan contrastada que no señale por error bienes civiles como objetivos. Los desarrolladores deben incorporar a los algoritmos un enfoque conservador: es preferible no identificar un objetivo que señalarlo erróneamente.

Por ello, los marcos jurídicos de los EE. UU. y de Europa limitan de hecho el despliegue de sistemas de armas plenamente autónomos en entornos donde exista el riesgo de una capacidad de distinción insuficiente. Aquí se aplica el principio de precaución: si no hay certeza de que el sistema autónomo sea capaz de distinguir los objetivos legítimos en las condiciones dadas, no debería utilizarse. Por ejemplo, el DoD estadounidense solo contempla el despliegue de sistemas autónomos letales en situaciones como un campo de batalla con interferencias electrónicas, donde las armas tradicionales fallan, e incluso entonces exigiría la posibilidad de un control adicional.

Otro ámbito de regulación son las pruebas y la certificación. Mientras que los sistemas civiles de IA pueden estar sujetos a certificación conforme al AI Act (en la UE) o a las normas ISO, en la defensa faltan estos mecanismos generales. Por eso la OTAN trabaja en un estándar de certificación específico para la IA militar, que debe resultar fácil de usar para la industria y las instituciones de la Alianza.

Este estándar, previsto para finales de 2023, debe ayudar a verificar que los nuevos proyectos con IA se ajustan al Derecho internacional y a las normas de la OTAN desde la fase de desarrollo. Así, las empresas desarrolladoras pueden verse en un futuro próximo ante la exigencia de que sus sistemas superen una evaluación independiente conforme a estos criterios (de forma similar a como hoy se certifican las armas en cuanto a la seguridad de la munición, etc.).

Los controles de exportación y los acuerdos internacionales influyen igualmente en el desarrollo de la IA en las armas. El software y el hardware de IA con uso militar pueden quedar sujetos al régimen de control de las exportaciones estratégicas (por ejemplo, el Reglamento de la UE sobre el control de las exportaciones de productos de doble uso o el ITAR estadounidense). Esto significa que las empresas que desarrollan algoritmos avanzados para sistemas de armas deben obtener una autorización para su eventual exportación y no pueden transferir libremente dichas tecnologías al extranjero, en especial a países sometidos a embargo. Regímenes multilaterales como el Wassenaar Arrangement ya han incluido algunas tecnologías de IA (por ejemplo, software para el control de redes neuronales) en la lista de artículos controlados, lo que impone a los desarrolladores obligaciones de notificación y de licencia.

En resumen, el desarrollo, las pruebas y el despliegue de la IA en los sistemas de defensa están sujetos a una combinación de Derecho imperativo (sobre todo el internacional humanitario) y de regulaciones internas de carácter no vinculante. Los desarrolladores y los operadores deben garantizar que sus sistemas estén examinados jurídicamente, protegidos técnicamente frente a fallos y operados bajo una supervisión humana adecuada; de lo contrario, se arriesgarían a incumplir sus obligaciones legales.

Equipo del despacho de abogados ARROWS

Responsabilidad por daños y consecuencias jurídicas del uso erróneo de la IA en los sistemas de armas

El despliegue de la IA en las armas plantea la cuestión de quién responderá si un sistema autónomo causa un daño de forma no intencionada o ilícita. En los conflictos tradicionales rige que el Estado responde de la conducta de sus fuerzas armadas y que las personas (mandos, soldados) pueden incurrir en responsabilidad penal individual por crímenes de guerra. Estos principios se aplican también al uso de armas autónomas: no cabe alegar que «el daño lo causó un robot y nadie tiene la culpa». Conforme al Derecho de la responsabilidad de los Estados, el Estado responde de las infracciones del Derecho internacional humanitario que se produzcan por el uso de un sistema de armas autónomo.

Si, por ejemplo, un dron autónomo atacara por error, sin intervención humana, un objetivo civil en contra del DIH, la responsabilidad recae en el Estado que lo desplegó, del mismo modo que respondería por un soldado que cometiera un acto similar. El Estado no puede eximirse de responsabilidad alegando que se trató de un error del algoritmo. Además, si el Estado desplegara un arma con IA sin pruebas o exámenes suficientes y se produjera una infracción del Derecho, ello constituye por sí mismo otra infracción de la que el Estado responde. Esto subraya la importancia de los exámenes y pruebas obligatorios de armas ya mencionados: su omisión podría tener consecuencias jurídicas.

Desde el punto de vista de la responsabilidad individual puede surgir el llamado «accountability gap», es decir, el temor de que en una toma de decisiones plenamente autónoma no sea posible determinar un culpable concreto. En el plano jurídico se parte, no obstante, de que siempre existe un eslabón humano al que cabe atribuir la responsabilidad por el despliegue del arma.

Normalmente será el mando que decidió utilizar el sistema en una situación de combate o, en su caso, el operador que activó el dispositivo. Si un arma autónoma causa un daño ilícito, podrá examinarse si el mando o el operador actuó con negligencia (por ejemplo, desplegó el sistema en condiciones inadecuadas) o infringió deliberadamente las normas. En el caso extremo podría tratarse de un crimen de guerra (por ejemplo, si alguien utilizara conscientemente un arma con IA para atacar a civiles).

El Derecho penal internacional conoce ya hoy el concepto de responsabilidad del mando, en virtud del cual el mando responde penalmente de los crímenes de sus subordinados si tenía conocimiento de ellos o no quiso impedirlos; por analogía, podría responder también de los actos de un arma «subordinada» si conocía los riesgos y no hizo nada. En la práctica, sin embargo, la prueba será compleja: la defensa puede alegar que se trató de un error imprevisible de la máquina, fuera del control del operador. Por esta razón se alzan voces que reclaman consagrar con claridad la obligación de control humano, para que siempre haya alguien a quien atribuir la responsabilidad jurídica. Por lo demás, también la postura básica de los Estados de la OTAN y de la UE, según la cual «el ser humano sigue siendo responsable de las decisiones sobre la vida y la muerte», pretende evitar que se cree un vacío de responsabilidad.

Otro plano es la responsabilidad del fabricante o del desarrollador del sistema de armas. Pueden darse situaciones fuera de un conflicto armado —por ejemplo, durante las pruebas o cuando las fuerzas de seguridad utilicen el arma en tiempo de paz— en las que se plantee la responsabilidad civil por daños. En el régimen de responsabilidad por productos defectuosos, los fabricantes del software o del programa podrían ser considerados responsables de los errores de programación o de las averías del sistema de armas autónomo.

Esto significa que, si el fallo de la IA se debiera a un defecto demostrable del sistema, los perjudicados (o el Estado que hubiera tenido que indemnizarlos) pueden reclamar una indemnización al proveedor. Los contratos militares contienen a menudo cláusulas específicas sobre responsabilidad y garantías: algunas pueden limitar la responsabilidad del fabricante (los gobiernos asumen a veces los riesgos de las tecnologías experimentales), mientras que en otros casos el Estado se reserva el derecho de repetición frente al proveedor en caso de defecto grave. Para las empresas es, por tanto, crucial regular contractualmente qué obligaciones asumen ante las consecuencias no intencionadas del despliegue de armas con IA. Dado el mayor riesgo, algunas aseguradoras estudian un seguro de responsabilidad específico para los sistemas de IA en la defensa.

Las consecuencias jurídicas del uso erróneo de la IA pueden manifestarse también en el plano político. Si un arma autónoma provoca un incidente internacional (por ejemplo, alcanza por error a un Estado neutral o mata a civiles), el Estado en cuestión puede enfrentarse a reclamaciones de Derecho internacional (protestas diplomáticas, arbitrajes sobre indemnización de daños) y a la fama de «usuario irresponsable». Por ello, los Estados ponen gran cuidado en investigar de forma transparente todo incidente con IA y en poder acreditar que actuaron conforme a Derecho. En el caso extremo, un fallo masivo de un arma con IA podría conducir a la actualización de la normativa o a presiones en favor de una moratoria, lo que supone un riesgo regulatorio para todos los desarrolladores de estas tecnologías.

Comparación de los enfoques de distintas jurisdicciones sobre las armas autónomas y sus cuestiones jurídicas

Los enfoques de las potencias y organizaciones mundiales sobre las armas autónomas difieren en el plano jurídico, lo que complica la armonización global. Los EE. UU. y otros ejércitos tecnológicamente avanzados (por ejemplo, Israel o Rusia) defienden por ahora la postura de que el Derecho vigente es suficiente y de que lo importante es su correcta aplicación.

Los Estados Unidos discrepan abiertamente de una prohibición preventiva de las armas autónomas y, en su lugar, abogan por no establecer nuevas restricciones internacionales mientras no esté del todo claro cómo serán estos sistemas. Argumentan que cualquier arma —con IA o sin ella— debe respetar el Derecho de la guerra vigente y, antes que una prohibición general, prefieren desarrollar marcos éticos y medidas técnicas que garanticen un uso legal.

En la práctica, esto significa que los EE. UU. invierten en IA para las armas, pero con cautela (con supervisión humana), y bloquean en la ONU los intentos de negociar de inmediato un tratado vinculante que prohíba los llamados «killer robots».

Una opinión similar mantiene, por ejemplo, el Reino Unido, que afirma que no tiene previsto desplegar sistemas letales plenamente autónomos sin supervisión humana, pero al mismo tiempo rechaza su prohibición anticipada; prefiere hacer hincapié en la «responsible AI» y en la importancia de las normas existentes.

Por otro lado, muchos Estados, entre ellos numerosos miembros de la UE, defienden un enfoque más estricto. Austria, España, Irlanda, Malta y otros llevan años reclamando un tratado internacional que prohíba las armas autónomas sin control humano. De modo similar, el Parlamento Europeo (como se ha mencionado) adoptó una postura firme en sus resoluciones. También grandes Estados como Alemania y Francia apoyan oficialmente la idea de una «regulación enérgica»: por ejemplo, en el marco de la CCW promueven una declaración política vinculante o un código de conducta que establezca que el ser humano debe tener la última palabra en el uso de la fuerza letal. Estos Estados tratan de encontrar un compromiso entre los intereses de seguridad (no quedarse atrás en el desarrollo de la IA militar) y las preocupaciones humanitarias.

El resultado es que la UE en su conjunto interviene en los foros internacionales reclamando normas para los LAWS, pero internamente no impide a sus miembros investigar estas armas (siempre que sea dentro de los límites del Derecho). Puede decirse que el enfoque europeo es más «jurídicamente prudente» y orientado a los derechos humanos —pone el acento en las normas preventivas (principio human-in-the-loop) y en la cooperación internacional—, mientras que el enfoque estadounidense es más «tecnológicamente pragmático»: deja mayor margen a la innovación, entendiendo que cada despliegue concreto se valorará caso por caso.

La OTAN debe buscar el equilibrio entre estos enfoques de sus miembros. La Alianza como tal apoya el uso responsable de la IA y las normas compartidas (como los seis principios mencionados). En sus documentos se afirma que el DIH se aplica plenamente y que la responsabilidad humana es indispensable, lo que refleja el consenso entre los Estados miembros. Por otra parte, la OTAN no ha limitado el desarrollo de armas autónomas de sus miembros mediante prohibición alguna; al contrario, la estrategia aliada menciona la necesidad de mantener el ritmo de los adversarios en el ámbito de las nuevas tecnologías.

Rusia y China, como importantes potencias militares ajenas a la OTAN, adoptan asimismo posturas distintas: Rusia se opone a cualquier nueva regulación (como demuestra su voto en contra de la citada resolución de la Asamblea General de la ONU de 2024), mientras que China declara su apoyo a la prohibición del uso de armas autónomas, pero sigue invirtiendo en su desarrollo (por lo que a menudo se la acusa de doble juego). Estas diferencias dificultan alcanzar un acuerdo a escala internacional.

En cuanto a las cuestiones jurídicas concretas, las jurisdicciones difieren, por ejemplo, en la definición de arma autónoma. Los EE. UU. han definido internamente los conceptos en la DoD 3000.09, donde LAWS designa un sistema capaz de seleccionar y atacar un objetivo sin más intervención humana. En cambio, en la ONU no existe todavía una definición única: los distintos Estados la entienden de forma diferente, lo que dificulta la creación de normas. Las instituciones de la UE operan a menudo con el concepto de «sistemas sin control humano significativo sobre las funciones críticas», que es la definición empleada por el Parlamento Europeo.

Las definiciones divergentes pueden dar lugar a un alcance distinto de la regulación. Por ejemplo, si los EE. UU. consideran que una determinada arma semiautónoma (loitering munition con objetivos preseleccionados) es «human in the loop» y, por tanto, ajena a la categoría de las prohibidas, mientras que otro Estado la consideraría una autonomía inaceptable, surge una controversia sobre el estatuto jurídico de dicha arma.

De forma análoga difieren los enfoques sobre el desarrollo: en los EE. UU. y en Rusia se lleva a cabo una investigación activa financiada por el Estado, mientras que algunos países más pequeños optan por moratorias. Las organizaciones humanitarias internacionales (como Human Rights Watch y el CICR) presionan para que se adopten medidas preventivas y advierten de la «brecha de responsabilidad» y del riesgo de vulnerar los principios fundamentales del DIH si una máquina decidiera sobre la vida y la muerte.

Estas opiniones influyen más en los Estados europeos y en los más pequeños que en las grandes potencias. La ventaja tecnológica plantea además un dilema jurídico y estratégico: los Estados que lideran el desarrollo de armas con IA (EE. UU., China, Rusia) no quieren limitar unilateralmente sus capacidades, mientras que los Estados que carecen de ellas reclaman restricciones para evitar una carrera armamentística.

En conjunto, puede decirse que los enfoques jurídicos sobre las armas autónomas en 2025 se mueven en una escala que va desde los controles internos voluntarios hasta la exigencia de un tratado internacional. Todos los Estados democráticos de la OTAN reconocen el carácter vinculante del Derecho de la guerra vigente y la necesidad de la responsabilidad humana; difieren, sin embargo, en si es necesaria una nueva consagración jurídica o prohibición explícita. Esta diferencia deben tenerla en cuenta también las empresas: por ejemplo, un proveedor estadounidense puede desarrollar un dron con IA para el Pentágono conforme a las directivas del DoD, pero ese mismo producto podría toparse con rechazo en Europa si careciera de algunos elementos de seguridad o se percibiera como un paso hacia los «killer robots». Para las empresas y los gobiernos es, por tanto, importante seguir tanto las regulaciones nacionales como los debates internacionales, a fin de conciliar el desarrollo tecnológico con las distintas exigencias jurídicas.

Equipo del despacho de abogados ARROWS

Principales retos para las empresas y la Administración pública en el cumplimiento de la normativa

El entorno jurídico de la IA en los sistemas de armas plantea en 2025 varios retos fundamentales para las empresas que desarrollan estas tecnologías y para las instituciones públicas que las adquieren y regulan:

Definiciones y estándares poco claros

La IA en la defensa es un concepto difícil de definir y faltan definiciones jurídicas consolidadas de las armas autónomas. La legislación sigue con dificultad el ritmo del rápido desarrollo técnico, lo que significa que las normas pueden ser vagas o estar obsoletas. Para las empresas resulta complejo diseñar sistemas conforme a reglas que no son inequívocas: por ejemplo, el concepto de «control humano significativo» puede interpretarse de distintas maneras. La Administración pública, por su parte, se enfrenta al problema de cómo crear normas eficaces para una tecnología que cambia constantemente.

Conformidad con regulaciones heterogéneas

Una empresa con actividad internacional debe tener en cuenta los distintos requisitos de los EE. UU., la UE, la OTAN y, en su caso, de otras regiones. Por ejemplo, en la UE (sobre todo en los proyectos financiados por el Fondo Europeo de Defensa) se espera de facto que los sistemas cuenten con control humano, mientras que las normas estadounidenses ponen el acento en los mecanismos técnicos de seguridad. Conciliar estos requisitos en un único programa de desarrollo exige análisis jurídicos minuciosos. Para la Administración pública supone también un reto la interoperabilidad: cómo garantizar que los ejércitos aliados puedan cooperar si sus límites jurídicos de autonomía difieren.

Previsibilidad tecnológica y pruebas

Los sistemas de IA, en especial los que incorporan aprendizaje automático, pueden modificar su comportamiento con el tiempo, lo que dificulta la certificación tradicional. La regulación exige pruebas reiteradas y revalidación con cada actualización del software, lo que alarga los ciclos de desarrollo y eleva los costes. No obstante, garantizar unas pruebas suficientemente exhaustivas para todos los escenarios de uso es necesario; de lo contrario existe un riesgo jurídico (el Estado respondería de un arma insuficientemente probada). Para las empresas, el reto consiste, pues, en incorporar al desarrollo procesos de verificación robustos, y para los Estados, en disponer de capacidad para comprobar esas pruebas (por ejemplo, mediante autoridades independientes o centros de ensayo militares).

Transparencia y auditabilidad de la IA

Los juristas y los mandos militares exigirán la capacidad de explicar las decisiones de la IA una vez producido el ataque, sobre todo si surgen dudas sobre la legalidad del objetivo. Por ello, la OTAN insiste en la trazabilidad y la explicabilidad de los algoritmos. Para los desarrolladores, esto supone incorporar elementos como el registro de datos y la conservación de los registros de los sensores y de los procesos de decisión de la IA, de modo que pueda analizarse ex post por qué el sistema eligió un objetivo determinado. Esta «explainability» choca, sin embargo, a veces con el carácter propietario de los modelos de IA o con el secreto empresarial, lo que constituye otro reto: cómo cumplir el requisito de transparencia sin que las empresas tengan que revelar su know-how. Es posible que las administraciones públicas deban implantar auditorías de algoritmos antes del despliegue, lo que requerirá nuevas capacidades especializadas (expertos en IA capaces de valorar los modelos desde el punto de vista de los riesgos).

Responsabilidad y riesgo asegurador

Como ha mostrado el apartado anterior, todavía no está del todo aclarado quién responderá en los distintos escenarios de fallo de la IA. Las empresas temen enfrentarse a demandas o sanciones si su producto provoca un accidente, incluso cuando lo haya utilizado el ejército. Por ello pueden dudar en invertir en el desarrollo de capacidades verdaderamente autónomas sin un marco jurídico claro de responsabilidad. Para los Estados, el reto es configurar un régimen que incentive la innovación y que, al mismo tiempo, garantice que en caso de daño los perjudicados sean indemnizados. El seguro de responsabilidad en este ámbito está aún en pañales y los precios pueden ser elevados debido a la incertidumbre del riesgo.

Mantener la conformidad con el DIH en la práctica

En teoría, todos los ejércitos de la OTAN declaran que utilizarán la IA de conformidad con el Derecho internacional. El reto es garantizarlo en la práctica en condiciones de combate: será necesario formar al personal, adaptar las reglas de enfrentamiento (ROE) e implantar nuevos procedimientos operativos. Por ejemplo, los mandos deben comprender los límites de las herramientas de IA para no utilizarlas de forma inadecuada (lo que podría acarrear sanciones jurídicas). Las empresas, por su parte, deben facilitar a sus clientes (las fuerzas armadas) información suficiente sobre las capacidades y las limitaciones del sistema, para evitar su uso incorrecto.

Evolución dinámica de la regulación

El marco jurídico puede cambiar de forma sustancial en los próximos años: por ejemplo, si la ONU adoptara un nuevo tratado sobre armas autónomas, las empresas tendrían que reaccionar con rapidez (quizá limitando o poniendo fin a algunos proyectos) y los Estados, actualizar sus leyes. Ya ahora algunos Estados estudian moratorias o prohibiciones nacionales de determinadas aplicaciones de la IA (por ejemplo, la prohibición de drones plenamente autónomos con fines policiales). La incertidumbre sobre la futura regulación es, por tanto, un reto en sí misma: exige planificación por escenarios y flexibilidad por parte de las empresas y de los gobiernos.

Conclusión

El uso de la inteligencia artificial en los sistemas de armas conlleva un considerable riesgo jurídico, pero también una ventaja competitiva para quienes sepan mantener el equilibrio entre la innovación y el cumplimiento normativo. En 2025, ninguna empresa ni ningún Estado puede ignorar este ámbito: los aspectos jurídicos de la IA en la defensa se han convertido en parte inseparable de las decisiones sobre la investigación, el desarrollo y el despliegue de nuevas tecnologías. Para los juristas y los responsables de la toma de decisiones es clave seguir de forma continua la evolución a escala nacional (legislación, políticas del DoD, directrices de la UE para los fondos, etc.) y en la escena internacional (negociaciones en la ONU, principios de la OTAN), a fin de garantizar que sus organizaciones cumplan todas las normas vigentes y, al mismo tiempo, no se queden atrás en el progreso tecnológico.

Dada la rápida evolución de la IA y de la situación de seguridad, cabe esperar que el marco jurídico siga precisándose; el objetivo de todos los implicados debería ser fijar normas claras que permitan aprovechar las ventajas de la IA en la defensa y que, a la vez, impidan su uso erróneo o ilícito.