¿Qué medidas laborales incluye el Reglamento de IA (hoy en DOUE)?
El 2 de agosto de 2026 será de aplicación (salvo determinadas excepciones) el Reglamento de Inteligencia Artificial (IA), publicado hoy, 12 de julio de 2024, en el DOUE. En materia laboral, las principales cuestiones que incorpora son las siguientes:
En primer lugar, el Reglamento remarca que, dado que el desequilibrio de poder en el contexto laboral o educativo, unido al carácter intrusivo de determinados sistemas de IA, dichos sistemas podrían dar lugar a un trato perjudicial o desfavorable de determinadas personas físicas o colectivos enteros.
Por tanto, debe prohibirse la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA destinados a ser utilizados para detectar el estado emocional de las personas en situaciones relacionadas con el lugar de trabajo y el ámbito educativo.
Ahora bien, dicha prohibición no debe aplicarse a los sistemas de IA introducidos en el mercado estrictamente con fines médicos o de seguridad, como los sistemas destinados a un uso terapéutico.
Deben clasificarse como sistemas de alto riesgo los siguientes en materia de empleo, gestión de los trabajadores y acceso al autoempleo:
- Selección de personal: Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos
- Toma de decisiones laborales o extinción de contratos: Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones.
- Las relaciones contractuales de índole laboral deben incluir, de manera significativa, a los empleados y las personas que prestan servicios a través de plataformas, como indica el programa de trabajo de la Comisión para 2021.
Los sistemas de IA pueden perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, determinados grupos de edad, las personas con discapacidad o las personas de orígenes raciales o étnicos concretos o con una orientación sexual determinada, durante todo el proceso de contratación y en la evaluación, promoción o retención de personas en las relaciones contractuales de índole laboral.
Los sistemas de IA empleados para controlar el rendimiento y el comportamiento de estas personas también pueden socavar sus derechos fundamentales a la protección de los datos personales y a la intimidad.
Reconocimiento de emociones e inteligencia artificial
Asimismo, también se establece expresamente que son sistemas de alto riesgo los sistemas de IA destinados a ser utilizados para el reconocimiento de emociones
El concepto de «sistema de reconocimiento de emociones» a que hace referencia el presente Reglamento debe definirse como un sistema de IA destinado a distinguir o deducir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos.
El concepto se refiere a emociones o intenciones como la felicidad, la tristeza, la indignación, la sorpresa, el asco, el apuro, el entusiasmo, la vergüenza, el desprecio, la satisfacción y la diversión.
Ahora bien, el Reglamento establece expresamente que no incluye los estados físicos, como el dolor o el cansancio, como, por ejemplo, los sistemas utilizados
para detectar el cansancio de los pilotos o conductores profesionales con el fin de evitar accidentes.
Tampoco incluye la mera detección de expresiones, gestos o movimientos que resulten obvios, salvo que se utilicen para distinguir o deducir emociones. Esas expresiones pueden ser expresiones faciales básicas, como un ceño fruncido o una sonrisa; gestos como el movimiento de las manos, los brazos o la cabeza, o características de la voz de una persona, como una voz alzada o un susurro.
