Obligaciones del IA Act para empresas que utilizan Inteligencia Artificial en RRHH

¿Tu empresa utiliza Inteligencia Artificial para seleccionar currículums, evaluar candidaturas, gestionar a la plantilla o apoyar decisiones sobre personas trabajadoras? ¡Ojo! El AI Act establece una serie de obligaciones que debes conocer.

El Reglamento (UE) 2024/1689 de Inteligencia Artificial (AI Act) regula el desarrollo y uso de sistemas de IA en la Unión Europea y presta especial atención a determinados usos en el ámbito laboral y de Recursos Humanos.

¿El motivo? Algunas herramientas pueden intervenir en decisiones relevantes para las personas, como acceder a un empleo, conseguir una promoción, ser evaluadas en su puesto de trabajo o finalizar una relación laboral.

A continuación, analizamos qué obligaciones establece el AI Act para las empresas que utilizan Inteligencia Artificial en Recursos Humanos y qué deberían hacer para adaptarse a la normativa.

¿Qué es el AI Act y cómo afecta a las empresas que utilizan Inteligencia Artificial en Recursos Humanos?

El AI Act o Reglamento Europeo de Inteligencia Artificial (Reglamento UE 2024/1689) es la normativa europea que establece las reglas para desarrollar y utilizar sistemas de Inteligencia Artificial en la Unión Europea.

Su objetivo es promover una IA segura y fiable y garantizar un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales de las personas.

Para los departamentos de Recursos Humanos esta normativa es especialmente relevante porque el AI Act identifica determinados usos de la IA relacionados con el empleo, la gestión de las personas trabajadoras y el acceso al trabajo por cuenta propia como potencialmente de alto riesgo.

Esto no significa que cualquier herramienta de IA utilizada en Recursos Humanos sea automáticamente de alto riesgo. Es necesario analizar cuál es la finalidad del sistema, qué tarea realiza y hasta qué punto influye en la toma de decisiones.

Por ejemplo, no es lo mismo utilizar una herramienta de IA para ayudar a redactar una oferta de empleo que emplear un sistema que analiza cientos de currículums, puntúa las candidaturas y determina cuáles deberían pasar a la siguiente fase del proceso de selección.

En este último caso, el sistema puede influir directamente en las oportunidades laborales de las personas candidatas y puede entrar dentro de los usos clasificados como de alto riesgo por el AI Act, siempre teniendo en cuenta las condiciones y excepciones previstas en el propio Reglamento.

¿Qué sistemas de IA utilizados en Recursos Humanos se consideran de alto riesgo?

El AI Act considera de alto riesgo algunos sistemas de Inteligencia Artificial utilizados en Recursos Humanos cuando pueden influir en decisiones importantes sobre candidatos o personas trabajadoras.

El Anexo III del Reglamento (UE) 2024/1689 incluye, entre otros, sistemas de IA utilizados para:

• Seleccionar personal, por ejemplo, para analizar o filtrar CVs, evaluar candidaturas o mostrar anuncios de empleo a determinados perfiles.
• Tomar o apoyar decisiones laborales relaciones con promociones, condiciones de trabajo o finalización de una relación laboral.
• Asignar tareas en función del comportamiento, características o rasgos de una persona.
• Supervisar o evaluar el rendimiento y comportamiento de las personas trabajadoras.

Por ejemplo, imagina que una empresa recibe 300 currículums y utiliza un sistema de IA que analiza las candidaturas, les asigna una puntuación y determina cuáles deberían pasar a la siguiente fase. Este uso puede encajar dentro de los sistemas de IA de alto riesgo previstos por el AI Act.

Lo mismo ocurre con determinados sistemas que evalúan el rendimiento de la plantilla cuando sus resultados se utilizan para tomar decisiones sobre promociones, condiciones laborales, asignación de tareas o finalización de una relación laboral.

No obstante, el AI Act contempla determinadas excepciones.

Un sistema incluido en el Anexo III puede no considerarse de alto riesgo cuando no presente un riesgo significativo para la salud, la seguridad o los derechos fundamentales de las personas y no influya materialmente en el resultado de la toma de decisiones, siempre que se cumplan las condiciones previstas en el Reglamento.

Además, cuando un sistema incluido en el Anexo III realiza elaboración de perfiles de personas físicas (profiling), se considera de alto riesgo.

IMPORTANTE: las obligaciones específicas del AI Act para los sistemas de IA de alto riesgo del Anexo III, entre los que se encuentran determinados usos en empleo y Recursos Humanos, serán aplicables a partir del 2 de diciembre de 2027.

¿Utilizar la Inteligencia Artificial para seleccionar currículums se considera de alto riesgo?

Utilizar un sistema de IA para analizar, filtrar o evaluar candidaturas puede considerarse un uso de alto riesgo según el AI Act.

Por ejemplo, debemos prestar especial atención cuando la herramienta se utiliza para:

• Analizar o filtrar currículums recibidos en un proceso de selección.
• Puntuar o clasificar candidaturas para establecer cuáles son las más adecuadas.
• Evaluar a las personas candidatas durante el proceso de selección.
• Influir en la decisión sobre quién continúa o queda fuera del proceso.

No es lo mismo utilizar la IA como apoyo para una tarea administrativa que permitir que sus resultados influyan de forma significativa en quién continúa o queda fuera de un proceso.

¿Qué herramientas de Inteligencia Artificial en RRHH no se consideran de alto riesgo?

No toda herramienta de Inteligencia Artificial utilizada en Recursos Humanos se considera automáticamente de alto riesgo.

El artículo 6 del AI Act establece que determinados sistemas incluidos en el Anexo III pueden no considerarse de alto riesgo cuando no planteen un riesgo importante para la salud, la seguridad o los derechos fundamentales y no influyan sustancialmente en el resultado de la toma de decisiones.

Por ejemplo, en el ámbito de Recursos Humanos habría que diferenciar entre utilizar IA para apoyar tareas auxiliares o administrativas y utilizarla para evaluar a una persona o influir en una decisión laboral.

En principio, podrían presentar un riesgo menor usos como:

• Mejorar o corregir una oferta de empleo previamente redactada.
• Resumir documentos o información interna.
• Traducir textos o comunicaciones.
• Preparar presentaciones, materiales formativos o comunicaciones para la plantilla.
• Realizar tareas administrativas o preparatorias que no condicionen de forma significativa una decisión sobre candidatos o personas trabajadoras.

No obstante, hay que analizar cada sistema y su finalidad concreta.

¿Qué obligaciones tiene una empresa que utiliza un sistema de IA de alto riesgo en Recursos Humanos?

Cuando una empresa utilice un sistema de IA de alto riesgo desarrollado por un tercero, normalmente tendrá la consideración de responsable del despliegue (deployer).

Esto significa que las obligaciones no recaerán únicamente sobre quien haya desarrollado o comercializado el sistema. La empresa que lo utilice también deberá cumplir una serie de requisitos.

Entre las principales obligaciones que establece el artículo 26 del AI Act para los responsables del despliegue se encuentran:

• Utilizar la herramienta siguiendo las instrucciones del proveedor y adoptar las medidas necesarias para garantizar un uso adecuado.
• Asignar la supervisión humana a personas que tengan la formación, competencia y autoridad necesarias para intervenir cuando sea preciso.
• Vigilar el funcionamiento del sistema y actuar si se detectan riesgos, resultados inesperados o posibles incidentes.
• Cuando la empresa controle los datos que se introducen en el sistema, comprobar que sean pertinentes y suficientemente representativos para su finalidad.
• Conservar los registros generados por el sistema que estén bajo el control de la empresa durante el plazo que corresponda.
• Informar a las personas trabajadoras afectadas y a sus representantes antes de utilizar un sistema de IA de alto riesgo en el lugar de trabajo.
• Cuando la IA tome o ayude a tomar decisiones sobre personas, informar a las personas afectadas de que están sujetas al uso de este tipo de sistema.
• Cooperar con las autoridades competentes cuando sea necesario.

Esto supone que una empresa no debería implantar una herramienta de IA de alto riesgo en Recursos Humanos y dejar que funcione de manera autónoma sin control.

Debe saber quién la utiliza, quién supervisa sus resultados, cómo se actúa ante un error y qué información debe facilitarse a las personas afectadas.

¿Debe una empresa informar a su plantilla si utiliza Inteligencia Artificial?

Sí, cuando se trate de determinados sistemas de IA de alto riesgo utilizados en el entorno laboral, la empresa deberá informar previamente a las personas afectadas.

En concreto, antes de utilizar un sistema de IA de alto riesgo en el lugar de trabajo, el artículo 26.7 del AI Act establece que la empresa deberá informar a:

• Las personas trabajadoras que vayan a estar sujetas al uso del sistema.
• Sus representantes.

¿También hay que informar a las personas candidatas de que se está utilizando IA?

Sí, cuando un sistema de IA de alto riesgo tome o ayude a tomar decisiones sobre una persona la empresa deberá informar a la persona afectada de que está sujeta al uso de dicho sistema.

¿Es obligatoria la supervisión humana de la IA utilizada en Recursos Humanos?

Sí, el AI Act exige que exista una supervisión humana efectiva.

El artículo 14 del AI Act establece que los sistemas de IA de alto riesgo deben estar diseñados para que puedan ser supervisados de manera efectiva durante su utilización.

Esta supervisión busca evitar o reducir posibles riesgos, especialmente aquellos que puedan afectar a los derechos de candidatos y personas trabajadoras.

La persona encargada de supervisar la IA debe poder:

• Comprender las capacidades y limitaciones de la herramienta.
• Interpretar correctamente sus resultados.
• Detectar posibles errores, sesgos o resultados inesperados.
• Evitar confiar automáticamente en una recomendación simplemente porque la ha generado una IA.
• Ignorar, modificar o invalidar el resultado cuando existan motivos para hacerlo.
• Intervenir o detener el sistema cuando sea necesario.

¿Puede una empresa dejar que una IA decida automáticamente a quién contratar o despedir?

Una empresa debe tener especial cautela si pretende dejar exclusivamente en manos de una IA decisiones como contratar o despedir a una persona.

En este caso no solo entra en juego el AI Act. También es fundamental el Reglamento General de Protección de Datos (RGPD) cuando se tratan datos personales.

El artículo 22 del RGPD reconoce el derecho de las personas a no ser objeto de una decisión basada únicamente en un tratamiento automatizado cuando esta produzca efectos jurídicos o les afecte significativamente de forma similar.

Existen excepciones, pero están sujetas a condiciones y garantías específicas.

Una decisión sobre contratación o despido puede tener un impacto muy importante sobre la persona afectada. Por eso, dejar que un sistema analice la información y tome automáticamente la decisión final puede plantear importantes problemas legales.

¿Es obligatorio formar a la plantilla que utiliza Inteligencia Artificial?

El artículo 4 del Reglamento Europeo de Inteligencia Artificial (AI Act) establece que las empresas que sean proveedoras o responsables del despliegue de sistemas de IA deben adoptar medidas para apoyar el desarrollo de la alfabetización en Inteligencia Artificial de su personal y de otras personas que utilicen o gestionen estos sistemas en su nombre.

En Recursos Humanos esto significa que no basta con empezar a utilizar una herramienta de IA.

Las personas que trabajan con ella deben contar con conocimientos adecuados para utilizarla de forma segura y responsable.

La formación debería adaptarse a las herramientas utilizadas y a los riesgos que pueden generar. Por ejemplo, el personal de RRHH debería conocer:

• Cómo funcionan y para qué sirven las herramientas de IA que utiliza.
• Sus principales posibilidades y limitaciones.
• Riesgos como errores, alucinaciones o sesgos.
• Qué información y datos personales pueden o no introducirse en estas herramientas.
• Cómo puede afectar su uso a candidatos y personas trabajadoras.
• Cómo realizar una supervisión humana adecuada cuando sea necesaria.

La formación debe adaptarse al uso que cada persona hace de la IA, sus conocimientos y los riesgos asociados.

Además, el AI Act no establece un número mínimo de horas ni exige un certificado oficial concreto. Lo importante es que la empresa pueda demostrar que ha adoptado medidas adecuadas para que las personas que utilizan IA tengan los conocimientos necesarios.

En Grupo2000 contamos con dos cursos fundamentales:

• Curso de Alfabetización en Inteligencia Artificial: riesgos y responsabilidades, que permite garantizar la alfabetización en IA de las plantillas.
• Curso de Cumplimiento IA Act para Recursos Humanos. Supervisión humana de sistemas de IA de alto riesgo. 

¿Qué sanciones puede recibir una empresa por incumplir el AI Act?

El incumplimiento del AI Act puede conllevar sanciones económicas importantes, cuya cuantía dependerá del tipo y gravedad de la infracción.

El artículo 99 del Reglamento (UE) 2024/1689 establece, con carácter general, los siguientes límites:

• Hasta 35 millones de euros o el 7 % del volumen de negocio mundial anual del ejercicio anterior, si esta cifra es superior, por incumplir las prohibiciones sobre determinadas prácticas de IA.
• Hasta 15 millones de euros o el 3 % del volumen de negocio mundial anual, si esta cifra es superior, por incumplir otras obligaciones del Reglamento. Aquí se incluyen, entre otras, las obligaciones que corresponden a las empresas que actúan como responsables del despliegue de sistemas de IA de alto riesgo.
• Hasta 7,5 millones de euros o el 1 % del volumen de negocio mundial anual, si esta cifra es superior, cuando se facilite información inexacta, incompleta o engañosa a las autoridades competentes u organismos notificados.

Estas cantidades son límites máximos y no significa que cualquier incumplimiento vaya a ser sancionado con estas cuantías.

Para determinar la sanción deben tenerse en cuenta la naturaleza, gravedad y duración de la infracción, sus consecuencias y otras circunstancias previstas en el propio Reglamento.

¿Qué debe hacer una empresa antes de utilizar IA en Recursos Humanos?

Antes de incorporar una herramienta de Inteligencia Artificial a Recursos Humanos es recomendable revisar cómo se va a utilizar y establecer unas reglas claras desde el principio.

Estos son algunos de los pasos que debería tener en cuenta la empresa:

• Identificar qué herramientas de IA se utilizan. Conviene conocer no solo las herramientas contratadas oficialmente, sino también aquellas que utiliza el equipo de RRHH en su trabajo diario.
• Definir para qué se utiliza cada herramienta. No es lo mismo usar IA para redactar una oferta de empleo que para filtrar currículums, evaluar candidaturas o analizar el rendimiento de la plantilla.
• Comprobar el nivel de riesgo. Si la herramienta interviene en decisiones sobre candidatos o personas trabajadoras, habrá que valorar si puede considerarse un sistema de IA de alto riesgo.
• Revisar quién proporciona la herramienta. La empresa debe conocer las condiciones de uso, instrucciones, capacidades y limitaciones del sistema, especialmente cuando se trate de IA de alto riesgo.
• Establecer quién supervisará la IA. Cuando sea necesario, debe existir una persona con conocimientos y autoridad suficientes para revisar, cuestionar o descartar los resultados generados por el sistema.
• Formar a las personas que utilizan IA. La empresa debe adoptar medidas de alfabetización en IA adaptadas a las herramientas utilizadas, al nivel de conocimientos del personal y a los riesgos que puedan existir.
• Controlar qué información se introduce. Si se utilizan datos de candidatos o personas trabajadoras, habrá que prestar especial atención a la protección de datos, confidencialidad y RGPD.
• Informar a las personas afectadas cuando corresponda. Como hemos visto, determinados usos de sistemas de IA de alto riesgo implican obligaciones de información a las personas trabajadoras, sus representantes o las personas afectadas.
• Prepararse para posibles errores o sesgos. La empresa debería establecer qué hacer si la IA genera un resultado incorrecto, discriminatorio o inesperado y quién será responsable de revisarlo.
• Documentar las medidas adoptadas. Es recomendable dejar constancia de las herramientas utilizadas, las reglas internas establecidas, la formación realizada y las medidas de control aplicadas.

Grupo2000, centro especializado en contratos de formación y formación bonificada para empresas

Grupo2000 somos un centro acreditado por el SEPE para dar formación bonificada con más de 25 años de experiencia en el sector.

Disponemos de un amplio Catálogo de cursos en el que podrás encontrar el que mejor se adapte a las necesidades de tu plantilla sobre Inteligencia Artificial.

Además, en Grupo2000 estamos especializados en contratos de formación en alternancia.

Si estás interesado/a en ampliar tu plantilla el contrato de formación es una opción muy útil. Te permitirá contratar hasta 2 años y aplicar hasta 3 bonificaciones mensuales durante toda su vigencia.

Fuente: Reglamento (UE) 2024/1689