Uso de sistemas de IA para reconocer las emociones de los empleados
El uso de la IA para reconocer las emociones de los empleados está, en principio, prohibido en el lugar de trabajo cuando el sistema infiere las emociones a partir de datos biométricos. La excepción se aplica al uso por motivos médicos o de seguridad, no al seguimiento habitual del estado de ánimo o del rendimiento. El artículo explica cómo distinguir el reconocimiento de emociones prohibido de otras formas de monitorización y a qué riesgos se expone el empleador.
Regulación de la IA en la Unión Europea
Por otro lado, el Reglamento de Inteligencia Artificial establece expresamente que no se considera sistema de reconocimiento de emociones aquel que detecta estados físicos, como el dolor o la fatiga, incluidos, por ejemplo, los sistemas utilizados para detectar el estado de fatiga de pilotos o conductores profesionales con el fin de prevenir accidentes. Tampoco está prohibida la mera detección de expresiones, gestos o movimientos fácilmente visibles, siempre que no sirva para detectar o inferir emociones. Estas expresiones pueden ser expresiones faciales básicas, como fruncir el ceño o sonreír, gestos como el movimiento de las manos, los brazos o la cabeza, o características de la voz de la persona, como una voz elevada o un susurro.
Consecuencias prácticas para las empresas
Para las empresas que se planteen utilizar un sistema de IA, por ejemplo, para analizar las grabaciones de las cámaras instaladas en el lugar de trabajo
(más información sobre el uso de cámaras en el lugar de trabajo aquí: https://www.arws.cz/novinky-v-arrows/kamery-na-pracovistich-na-co-si-dat-pozor), esto significa que deben sopesar cuidadosamente los riesgos y garantizar que utilizarán estas tecnologías de conformidad con las normas establecidas en el Reglamento de Inteligencia Artificial.
El uso de sistemas de IA para monitorizar a los empleados supone, por su propia naturaleza, un reto importante
en el ámbito de la protección de la privacidad y de los derechos de los empleados. Por ello, las empresas deben actuar con prudencia al implantar este tipo de tecnologías, a fin de garantizar el cumplimiento de las nuevas normas y evitar sanciones potencialmente elevadas, que el Reglamento de Inteligencia Artificial fija en este caso en hasta 35 000 000 EUR o hasta el 7 % del volumen de negocios anual total a escala mundial de la empresa correspondiente al ejercicio financiero anterior.