IA en el trabajo: ¿Quién es responsable de los errores de la inteligencia artificial?
De los errores de la inteligencia artificial en el trabajo no responde el propio sistema, sino, según las circunstancias, el empleador, el trabajador o el proveedor. Por ejemplo, si una IA discrimina a un candidato durante un proceso de selección, la empresa debe asumir la responsabilidad y corregir la decisión. El artículo explica los riesgos legales según el Derecho checo, el reparto contractual de responsabilidades y la importancia de las normas internas, la formación y la supervisión humana.
La responsabilidad por los errores de la IA según el Derecho checo
Las principales cuestiones que se plantean en la práctica son:
- ¿Es la IA solo una herramienta o puede ser ella misma responsable de un error? – Hoy en día, la responsabilidad legal recae siempre en la persona o entidad que utiliza la IA.
- ¿Quién responde por los daños causados por la IA? – Si la IA está integrada en los procesos de trabajo, la responsabilidad recae en el empleador. En caso de una decisión errónea de la IA en el ámbito de recursos humanos (por ejemplo, una decisión discriminatoria en un proceso de selección), pueden ser responsables tanto el empleador como el proveedor del software.
- ¿Cómo protegerse contractualmente? – Las empresas deben delimitar claramente, en los contratos de trabajo y en las directrices internas, la responsabilidad de los trabajadores por el uso de la IA y asegurarse una cobertura de responsabilidad frente a terceros.
La regulación europea de la IA: ¿qué traerá la AI Act?
La Unión Europea está preparando el Reglamento AI Act, que establecerá normas para el uso de la inteligencia artificial en distintos sectores. Los puntos clave para los empleadores son:
- Clasificación de los sistemas de IA según su nivel de riesgo – La IA utilizada en las relaciones laborales probablemente se clasificará como de «alto riesgo» (selección de personal, RR. HH. y gestión de trabajadores).
- Obligación de transparencia – Los empleadores tendrán que informar a los trabajadores sobre el funcionamiento de los sistemas de IA y qué decisiones toman.
- Responsabilidad por las decisiones de la IA – La regulación subraya la responsabilidad de la supervisión humana sobre las decisiones de la IA.
- Pruebas obligatorias de los sistemas de IA – Las empresas tendrán que auditar sus herramientas de IA para minimizar el riesgo de errores y discriminación.
¿Cómo deberían prepararse las empresas?
Para evitar los riesgos legales asociados al uso de la IA, recomendamos a los empleadores los siguientes pasos:
- Actualizar los contratos de trabajo – Definir claramente la responsabilidad de los trabajadores por el uso de la IA y sus límites.
- Garantizar la supervisión humana – Hacer que los trabajadores verifiquen las decisiones clave, de modo que la IA no pueda por sí sola causar un problema legal.
- Directrices internas sobre el uso de la IA – Asegurarse de que los trabajadores sepan cómo trabajar con la IA, qué está permitido y qué no.
- Prepararse para la AI Act – Seguir la evolución legislativa y prepararse para las nuevas obligaciones.
Conclusión
La IA aporta innovación, pero también nuevos retos legales. Las empresas deben estar preparadas para la cuestión de la responsabilidad por los errores de la IA y, al mismo tiempo, adaptarse a la próxima regulación europea. La falta de reglas claras puede dar lugar a litigios y sanciones. Por ello, recomendamos consultar a abogados especializados en Derecho laboral y cumplimiento normativo en materia de IA.