¿Cuándo se considera de alto riesgo un sistema de IA en Recursos Humanos?

El uso de herramientas de Inteligencia Artificial en Recursos Humanos está creciendo continuamente y de forma muy rápida.

Cada vez existen más herramientas capaces de ayudar a redactar ofertas de empleo, clasificar documentación, analizar candidaturas, asignar tareas o evaluar determinados aspectos relacionados con la plantilla.

Pero surge una duda importante: ¿toda IA utilizada en Recursos Humanos se considera de alto riesgo?

El Reglamento Europeo de Inteligencia Artificial establece determinados casos en los que los sistemas de IA utilizados en el ámbito laboral se consideran de alto riesgo por el impacto que pueden tener sobre los derechos y oportunidades profesionales de las personas.

Sin embargo, no es el departamento en el que se utiliza la herramienta lo que determina su clasificación de Inteligencia Artificial de alto riesgo, sino la finalidad de este sistema de IA y la función que desempeña.

A continuación, analizamos cuándo se considera de alto riesgo un sistema de IA en Recursos Humanos y qué excepciones existen.

Tabla de contenidos

¿Qué dice el Reglamento Europeo de Inteligencia Artificial sobre el uso de la IA en Recursos Humanos?

El Reglamento (UE) 2024/1689 establece un sistema de clasificación basado en el riesgo que pueden generar determinados usos de la Inteligencia Artificial.

El Anexo III de la normativa incluye expresamente algunos sistemas utilizados en el ámbito del empleo y la gestión de las personas trabajadoras.

En concreto, pueden considerarse de alto riesgo los sistemas de Inteligencia Artificial destinados a:

La contratación o selección de personas, especialmente cuando se utilizan para publicar anuncios de empleo dirigidos, analizar y filtrar candidaturas o evaluar a las personas candidatas.
Tomar decisiones que afecten a las condiciones de las relaciones laborales.
Adoptar decisiones relacionadas con la promoción profesional o con la finalización de una relación laboral.
Asignar tareas basándose en el comportamiento individual o en rasgos o características personales.
Supervisar y evaluar el rendimiento y comportamiento de las personas en el ámbito de las relaciones laborales.

El motivo de esta protección es que las herramientas de Inteligencia Artificial pueden tener una influencia muy relevante sobre las oportunidades profesionales y los derechos de las personas trabajadoras.

Banner Curso Ia Asesorias Rrhh Grupo2000

¿Todas las herramientas de Inteligencia Artificial utilizadas en Recursos Humanos son de alto riesgo?

No, no todas las herramientas de Inteligencia Artificial que se usan en Recursos Humanos son de alto riesgo.

Para determinar su clasificación es necesario analizar para qué está diseñado ese sistema y cómo influye en las decisiones relacionadas con las personas trabajadoras o con las personas candidatas.

El artículo 6 del Reglamento contempla algunos supuestos en los que un sistema incluido en uno de los ámbitos del Anexo III puede no considerarse de alto riesgo.

Según la normativa no serán sistemas de alto riesgo cuando no planteen un riesgo importante para la salud, la seguridad o los derechos fundamentales y no influyan sustancialmente en el resultado de la toma de decisiones.

Esto puede ocurrir, por ejemplo, cuando el sistema esté destinado únicamente a:

Realizar una tarea de procedimiento limitada.
Mejorar el resultado de una actividad previamente realizada por una persona.
Detectar patrones o desviaciones respecto de decisiones anteriores sin sustituir ni influir en la valoración humana sin una revisión humana adecuada.
Realizar una tarea preparatoria para una evaluación posterior.

Hay que analizar cada herramienta y su finalidad concreta. Si después hay evaluación humana, en general, esa herramienta de IA no se va a considerar de alto riesgo.

¿Qué ocurre si la Inteligencia Artificial realiza perfiles de las personas trabajadoras o de las personas candidatas?

Cuando un sistema incluido en el Anexo III realiza elaboración de perfiles de personas físicas el Reglamento establece que deberá considerarse siempre de alto riesgo.

En estos casos, no se puede utilizar la excepción del artículo 6.3.

¿Qué sistemas de Inteligencia Artificial usados en Recursos Humanos pueden ser de alto riesgo?

Algunos de los casos más habituales en los que los sistemas de Inteligencia Artificial usados en Recursos Humanos pueden considerarse de alto riesgo son:

Uso del sistema de IA en RRHH	¿Puede considerarse de alto riesgo?	Motivo
Analizar CVs y puntuar candidaturas	Sí, en principio	Una puntuación desfavorable puede reducir las posibilidades de una persona de acceder a un empleo. Además, los criterios utilizados por el sistema podrían generar discriminaciones durante la selección.
Filtrar automáticamente candidaturas	Sí, en principio	Una persona puede quedar excluida de una oportunidad laboral como consecuencia del resultado generado por la IA, incluso antes de que su candidatura sea valorada por una persona real.
Evaluar candidaturas para recomendar a quién contratar	Sí, en principio	La valoración de la IA puede condicionar el acceso al empleo y perjudicar las oportunidades profesionales de determinadas personas.
Mostrar anuncios de empleo únicamente a determinadas personas	Sí, en principio	Puede provocar que haya grupos que tengan menos oportunidades de conocer y de acceder a una oferta de empleo. Esto puede generar situaciones discriminatorias.
Evaluar el rendimiento de la plantilla mediante IA	Sí, en principio	Una evaluación automatizada puede afectar a las condiciones laborales y a las futuras decisiones sobre promoción, retribución, asignación de funciones o continuidad en la empresa.
Recomendar promociones mediante puntuaciones de IA	Sí, en principio	Puede afectar directamente a las oportunidades de desarrollo y promoción profesional. Existe riesgo de que determinados criterios perjudiquen sistemáticamente a algunas personas.
Recomendar la finalización de contratos	Sí, en principio	Puede influir en una decisión que afecta directamente al empleo y a los medios de subsistencia de una persona trabajadora determinada.
Asignar tareas según comportamientos o características personales	Sí, en principio	Puede afectar a las condiciones de trabajo y al reparto de oportunidades dentro de la empresa. Puede generarse un trato desfavorable o discriminatorio basado en determinadas características personales.
Ordenar o clasificar documentación administrativa	No, en principio	Podría serlo si la clasificación implica evaluar o categorizar a personas y el resultado influye sustancialmente en una decisión sobre contratación, promoción, condiciones laborales, asignación de tareas o finalización de la relación laboral. En ese caso, la IA podría afectar a sus oportunidades profesionales o condiciones de trabajo.
Detectar documentos duplicados entre numerosas solicitudes	No, en principio	Podría ser de alto riesgo si no se limita a detectar duplicados y utiliza el análisis para valorar, puntuar, descartar o priorizar candidaturas. En ese caso estaría influyendo en el acceso de las personas a una oportunidad de empleo y podría generar exclusiones o discriminaciones.
Ayudar a redactar una oferta de empleo sin seleccionar destinatarios ni candidatos	No, en principio	Podría entrar en el ámbito de alto riesgo si el sistema no solo redacta la oferta, sino que recomienda a qué personas debe mostrarse mediante publicidad de empleo dirigida. Esto puede condicionar quién puede acceder a una oportunidad laboral y generar desigualdades en el acceso al empleo.
Resumir un documento de RRHH para que posteriormente lo valore una persona	No necesariamente	Podría ser de alto riesgo si deja de limitarse a resumir información y comienza a evaluar, puntuar, clasificar o formular recomendaciones sobre la persona que influyan en una decisión laboral. Por ejemplo, si a partir del documento recomienda contratar, promocionar, sancionar o finalizar la relación laboral, puede afectar directamente a sus oportunidades profesionales y condiciones de trabajo.

¿Un sistema que filtra currículums con Inteligencia Artificial es de alto riesgo?

Sí, cuando el sistema está destinado a analizar y filtrar solicitudes de empleo o evaluar candidaturas puede considerarse de alto riesgo.

El propio Anexo III del Reglamento incluye expresamente estos usos entre los sistemas relacionados con el empleo que pueden clasificarse como de alto riesgo.

Por ejemplo, una herramienta que analiza 500 currículums y asigna automáticamente una puntuación a cada candidatura para decidir cuáles pasan a una entrevista puede encontrarse dentro de esta categoría de alto riesgo.

¿Una IA que evalúa el rendimiento de la plantilla es de alto riesgo?

Puede serlo cuando está destinada a supervisar o evaluar el rendimiento o el comportamiento de las personas trabajadoras.

Por ejemplo, podría entrar dentro de esta categoría un sistema que analiza continuamente determinados indicadores de actividad y genera una puntuación individual que, posteriormente, utiliza la empresa para evaluar el rendimiento profesional.

¿Una IA que ayuda a redactar ofertas de empleo es de alto riesgo?

Si una herramienta se utiliza únicamente para ayudar a una persona de Recursos Humanos a redactar el texto de una oferta de empleo, sin seleccionar las personas destinatarias, analizar candidaturas ni participar en la decisión sobre quién será contratado, su uso no coincide por sí mismo con los supuestos de selección del Anexo III.

Otra cosa diferente sería que ese sistema decidiera a qué personas hay que mostrar la oferta de empleo basándose únicamente en sus características o perfiles.

El Anexo III contempla expresamente los sistemas utilizados para publicar anuncios de empleo dirigidos como sistemas de alto riesgo.

¿Cómo puede saber una empresa si sus herramientas de Inteligencia Artificial en RRHH son de alto riesgo?

Para determinar si un sistema de Inteligencia Artificial usado en Recursos Humanos es de alto riesgo hay que analizar para qué se utiliza esa herramienta, qué tareas realiza y si puede o no influir en las decisiones que afectan a las personas candidatas o a las personas trabajadoras.

¿Qué obligaciones existen cuando una empresa utiliza una IA de alto riesgo en Recursos Humanos?

El Reglamento hace una distinción entre las obligaciones de quienes proveen el sistema y las obligaciones de quienes los utilizan o despliegan.

Una empresa que utiliza una herramienta de IA de alto riesgo proporcionada por un tercero normalmente es responsable del despliegue y, por lo tanto, algunas de las obligaciones que deberá cumplir son:

Utilizar el sistema de IA según las instrucciones facilitadas.
Adoptar las medidas técnicas y organizativas adecuadas.
Garantizar una supervisión humana efectiva, asignándola a personas con la competencia, formación y autoridad necesarias.
Garantizar, cuando controle los datos de entrada, que sean suficientemente representativos para la finalidad prevista.
Supervisar el funcionamiento del sistema.
Conservar determinados registros generados automáticamente por el sistema cuando estén bajo su control.
Actuar cuando detecte riesgos o incidentes graves.

Además, antes de utilizar un sistema de IA de alto riesgo en el lugar de trabajo la empresa tendrá que informar a la representación de las personas trabajadoras y a las personas afectadas de que van a estar expuestas a la utilización de dicho sistema.

¿Desde cuándo se aplican las obligaciones para la Inteligencia Artificial de alto riesgo en Recursos Humanos?

Tras los cambios introducidos en el Reglamento Europeo de Inteligencia Artificial, las disposiciones específicas que afectan a los sistemas de IA de alto riesgo incluidos en el Anexo III, entre los que se encuentran los usos de IA en empleo y gestión de personas trabajadoras, van a ser de aplicación a partir del 2 de diciembre de 2027.

Esto no significa que ahora mismo no existan obligaciones relacionadas con el uso de Inteligencia Artificial en RRHH.

Por ejemplo, las obligaciones en materia de alfabetización en IA son aplicables desde el 2 de febrero de 2025.

¿Qué usos de Inteligencia Artificial están prohibidos en Recursos Humanos?

Algunos sistemas de Inteligencia Artificial directamente están prohibidos.

Un ejemplo muy importante para los departamentos de Recursos Humanos es el uso de sistemas de IA para inferir las emociones de una persona en el lugar de trabajo, salvo cuando su uso esté destinado a razones médicas o de seguridad.

Es fundamental distinguir entre:

IA prohibida: no está permitida, salvo excepciones previstas legalmente. Por ejemplo: una Inteligencia Artificial que interfiere en las emociones de una persona trabajadora mediante datos biométricos.
IA de alto riesgo: puede utilizarse, pero debe cumplir una serie de requisitos y obligaciones. Por ejemplo, una IA que analiza y filtra candidaturas durante un proceso de selección.
IA que no es de alto riesgo: no está sometida al régimen específico de alto riesgo. Por ejemplo: una IA utilizada únicamente para ayudar a redactar una oferta de empleo sin seleccionar personas candidatas ni evaluar candidaturas.

¿Qué sanciones puede recibir una empresa por incumplir las obligaciones sobre IA de alto riesgo?

El incumplimiento de determinadas obligaciones aplicables a proveedores, responsables del despliegue y otros operadores puede ser sancionado con multas administrativas de hasta 15 millones de euros.

Si el infractor es una empresa la multa puede ser de hasta el 3% de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior.

En el caso de las pymes se aplica como límite máximo el menor de los importes correspondientes.

Las infracciones relacionadas con prácticas de IA prohibidas tienen un régimen sancionador todavía más elevado.

Ejemplo práctico: ¿cuáles de estas herramientas de IA son de alto riesgo?

Imaginemos que una empresa utiliza Inteligencia Artificial para tres tareas diferentes:

Herramienta 1. Utiliza una IA generativa para ayudar al equipo de Recursos Humanos a redactar ofertas de empleo.
Herramienta 2. Utiliza un sistema que analiza automáticamente los currículums recibidos, asigna una puntuación a cada candidatura y recomienda cuáles deben pasar a la siguiente fase.
Herramienta 3. Utiliza una herramienta para clasificar y ordenar documentación administrativa de la plantilla.

En estos casos, las tres herramientas de Inteligencia Artificial tienen objetivos diferentes.

La segunda herramienta encaja en uno de los usos relacionados con selección de personal contemplados en el Anexo III, por tanto, podría ser IA de alto riesgo.

Sin embargo, tanto las herramientas 1 como 3 podrían no estar sometidas al régimen de alto riesgo.

¿Qué debe hacer una empresa que utiliza IA en Recursos Humanos?

Es muy importantes que los departamentos de Recursos Humanos tengan control sobre qué herramientas de Inteligencia Artificial se usan, para qué y quiénes las están utilizando.

Lo ideal sería:

Elaborar un inventario de herramientas y sistemas de IA utilizados en Recursos Humanos.
Identificar la finalidad de cada herramienta.
Analizar si interviene en decisiones sobre candidaturas o personas trabajadoras.
Determinar si encaja en alguno de los supuestos del Anexo III.
Comprobar si podría aplicarse alguna de las excepciones del artículo 6.3.
Identificar si la herramienta de IA realiza elaboración de perfiles.
Determinar si la empresa actúa como proveedor o como responsable del despliegue.
Revisar las obligaciones de información, supervisión humana, registro y control que correspondan.
Formar a las personas que utilizan estos sistemas para garantizar un nivel adecuado de alfabetización en IA.

¿Tienes controladas las herramientas de IA en tu departamento de Recursos Humanos?

En resumen: ¿Cuándo se considera de alto riesgo un sistema de IA en RRHH?

No todas las herramientas de Inteligencia Artificial utilizadas en Recursos Humanos son de alto riesgo. Su clasificación va a depender de la finalidad para la que se utilicen y de su influencia en decisiones que afecten a personas candidatas o trabajadoras.

Los sistemas que intervienen en procesos como la selección de personal, evaluación del rendimiento, promoción, asignación de tareas o finalización de relaciones laborales pueden considerarse de alto riesgo y estar sujetos a obligaciones específicas.

Por ello, las empresas deben conocer qué herramientas de IA utilizan, para qué las emplean y qué nivel de riesgo presentan, además de garantizar una adecuada supervisión y formar a las personas que trabajan con estos sistemas.

Preguntas frecuentes sobre IA de alto riesgo en Recursos Humanos

¿Toda IA utilizada en Recursos Humanos es de alto riesgo?

No. La clasificación depende de la finalidad del sistema y de cómo influya en las decisiones que afectan a personas candidatas o trabajadoras.

¿Usar ChatGPT en Recursos Humanos se considera de alto riesgo?

No necesariamente. Por ejemplo, utilizar una IA generativa únicamente para ayudar a redactar una oferta de empleo no implica, por sí mismo, un uso de alto riesgo.

¿Qué debe hacer una empresa si utiliza IA en Recursos Humanos?

Es recomendable identificar qué herramientas utiliza, para qué se emplean y si intervienen en decisiones sobre personas candidatas o trabajadoras.

También debe analizar el nivel de riesgo y las obligaciones que correspondan y garantizar.

Grupo2000, centro especializado en contratos de formación y formación bonificada para empresas

Grupo2000 somos un centro acreditado por el SEPE para dar formación bonificada con más de 25 años de experiencia en el sector.

Disponemos de un amplio Catálogo de cursos en el que podrás encontrar el que mejor se adapte a las necesidades de tu plantilla sobre Inteligencia Artificial.

Además, en Grupo2000 estamos especializados en contratos de formación en alternancia.

Si estás interesado/a en ampliar tu plantilla el contrato de formación es una opción muy útil. Te permitirá contratar hasta 2 años y aplicar hasta 3 bonificaciones mensuales durante toda su vigencia.