AI ACT: ¿qué obligaciones tiene desde el 2 de febrero de 2025?
Desde el 2 de febrero de 2025, el AI Act prohíbe determinadas prácticas de riesgo e impone a los proveedores y usuarios de IA la obligación de garantizar un nivel adecuado de alfabetización en materia de IA. Por ejemplo, una empresa que utiliza IA en la selección de personal debe informar a sus empleados sobre las posibilidades y los riesgos de estas herramientas. El artículo explica los usos prohibidos, el reparto de responsabilidades y los pasos prácticos para implantar formaciones y normas internas.
La primera regulación integral de la IA en Europa
Prácticas prohibidas: ¿qué dejará de ser posible?
El Reglamento AI ACT establece prohibiciones estrictas de algunos usos de la IA que pueden suponer un riesgo para los derechos fundamentales y la seguridad de los ciudadanos. Entre las prácticas prohibidas más importantes figuran:
- la puntuación social: la evaluación de las personas en función de su comportamiento, su situación económica o sus características personales,
- la identificación biométrica remota en tiempo real en espacios públicos, salvo su uso por la policía para la investigación de delitos graves,
- las técnicas de IA manipuladoras, que explotan deliberadamente las vulnerabilidades de las personas (por ejemplo, de los niños o de las personas con discapacidad).
¿Qué significa esto para las empresas? Si su solución de IA entra en estas categorías, será necesario modificarla o dejar de utilizarla por completo. El incumplimiento de estas prohibiciones puede dar lugar en el futuro a sanciones elevadas para los proveedores de IA y los organismos notificados, como se indica más adelante.
Obligaciones de los proveedores y usuarios de IA
El AI ACT introduce nuevas obligaciones no solo para los desarrolladores de IA, sino también para las empresas que utilizan tecnologías de IA. Una parte de estas obligaciones ya es aplicable desde el 2 de febrero.
¿Qué significa esto para su empresa? La alfabetización en materia de IA ya no será una opción, sino una necesidad. Si en su empresa está implantando sistemas de inteligencia artificial o tiene previsto utilizarlos, no podrá eludir una obligación clave: la de garantizar un nivel suficiente de alfabetización en materia de IA en su empresa. Si se enfrenta a un problema similar, póngase en contacto con nosotros en consultas@arws.cz.
Esto no afecta únicamente a los especialistas en TI o a la dirección, sino a todos los que entren en contacto con la IA, desde el personal administrativo hasta el departamento comercial. El objetivo es que los empleados comprendan no solo cómo funciona la IA, sino que también sean capaces de valorar críticamente sus resultados y sean conscientes de los posibles riesgos asociados a su uso.
¿Qué significa en concreto la obligación de alfabetización en materia de IA?
Deberá adoptar medidas que garanticen que las personas de su sociedad comprendan los principios de la IA, sus posibilidades y sus riesgos. Esto puede incluir formaciones adaptadas al nivel de conocimientos de cada empleado, ya se trate de una introducción básica a la inteligencia artificial o de formaciones especializadas para el personal técnico. Las empresas deberán tener en cuenta no solo los procesos internos, sino también el contexto en el que funcionan sus sistemas de IA.
Aunque por el momento no se han establecido sanciones directas por el incumplimiento de esta obligación, la falta de alfabetización en materia de IA puede convertirse en el futuro en una circunstancia clave que, hipotéticamente, podría alegarse en perjuicio de la sociedad proveedora de IA, por ejemplo, en un litigio judicial.
Por ello, las empresas deberían empezar cuanto antes a preparar e implantar programas formativos centrados en la alfabetización en materia de IA, para estar preparadas ante los cambios que se avecinan y poder aprovechar plenamente el potencial de la inteligencia artificial en su actividad empresarial.
Otros hitos importantes
2 de agosto de 2025: ampliación de la regulación a otros sectores e introducción de nuevas obligaciones para los proveedores de IA. A partir de esa fecha, los proveedores de IA (o los organismos notificados con arreglo al Reglamento) se exponen además a sanciones elevadas por el incumplimiento del AI ACT:
- por el incumplimiento de la prohibición de las prácticas de IA con arreglo al artículo 5 del AI ACT podrá imponerse una multa de hasta 35 millones de EUR o, en el caso de una empresa, de hasta el 7 % del volumen de negocios mundial total anual del ejercicio financiero anterior, si esta cuantía fuese superior,
- por el incumplimiento del artículo 99, apartado 4, del AI ACT en relación con los proveedores de IA o los organismos notificados, no mencionados en el artículo 5 del AI ACT, podrá imponerse una multa de hasta 15 millones de EUR o, en el caso de una empresa, de hasta el 3 % del volumen de negocios mundial total anual del ejercicio financiero anterior, si esta cuantía fuese superior,
- por no facilitar información correcta, completa y no engañosa a los organismos notificados o a las autoridades nacionales competentes en respuesta a una solicitud podrá imponerse una multa de hasta 7,5 millones de EUR o, en el caso de una empresa, de hasta el 1 % del volumen de negocios mundial total anual del ejercicio financiero anterior, si esta cuantía fuese superior.
Cabe añadir que el 2 de febrero de 2027 marca la entrada en aplicación de las restantes disposiciones del AI ACT, incluida la disposición relativa a las sanciones para los proveedores de modelos de IA de uso general. ¿No está seguro de cómo afectará el AI ACT a su empresa? Póngase en contacto con los expertos jurídicos de ARROWS, que le ayudarán con el análisis de riesgos y la definición de la estrategia de cumplimiento normativo.