Sesgos Algorítmicos en RRHH: Cuando la Máquina Discrimina

La Inteligencia Artificial no es neutral. Es un espejo matemático de la sociedad que la crea, con todas sus virtudes y, peligrosamente, con todos sus defectos históricos. Muchos líderes creen erróneamente que sustituir a un reclutador humano por un algoritmo elimina la subjetividad y el prejuicio. Se equivocan estrepitosamente. Si el algoritmo aprende de datos históricos sesgados ("basura entra"), no solo replicará esos sesgos: los automatizará, los cristalizará en código impenetrable ("caja negra") y los amplificará a una escala industrial ("basura sale").

El peligro de la 'Caja Negra' (Black Box AI)

Muchas de las herramientas comerciales para filtrado de CVs que se venden hoy en día ("ATS con IA") funcionan bajo el principio de "caja negra". El departamento de RRHH introduce datos (miles de perfiles) y obtiene una clasificación (ranking del 1 al 10), sin entender por qué la máquina ha tomado esas decisiones. La explicabilidad brilla por su ausencia, y donde no hay explicabilidad, no puede haber responsabilidad.

El caso más infame es el de Amazon. En 2014, comenzó a desarrollar una IA para automatizar la búsqueda de los mejores talentos. En 2018 tuvieron que desmantelarla. El sistema había aprendido que la palabra "femenino" (como en "capitana del equipo femenino de ajedrez" o "premio women in tech") correlacionaba negativamente con el éxito en la empresa. ¿Por qué? Porque sus datos de entrenamiento eran los CVs recibidos en los últimos 10 años, que provenían mayoritariamente de hombres. El algoritmo dedujo ciegamente que "ser hombre" era un predictor de competencia técnica. Penalizaba incluso a graduados de universidades femeninas.

Más allá del género: Los sesgos invisibles (Proxies)

A veces el sesgo es obvio (género, raza), pero otras veces es sutil y se esconde en variables sustitutas (proxies) que parecen inocentes pero correlacionan con grupos protegidos:

• Sesgo de Clase (Código Postal): Un algoritmo puede penalizar vivir en ciertos códigos postales porque "históricamente" los empleados de allí tienen mayor rotación. En la práctica, puede estar discriminando barrios pobres o minorías étnicas (Redlining digital).
• Sesgo Cultural/Hobbies: Si el algoritmo favorece candidatos que practican golf, vela o lacrosse (porque correlacionan con los directivos actuales de éxito), está imponiendo un filtro socioeconómico brutal.
• Sesgo Lingüístico: Descartar candidatos brillantes no nativos porque su estructura gramatical, el uso de ciertas preposiciones o su vocabulario no coincide con el "estándar corporativo de éxito" aprendido de los emails de los fundadores.

El nuevo Sheriff en la ciudad: El EU AI Act

La época del "Salvaje Oeste" en la IA está llegando a su fin. La Unión Europea ha aprobado la Ley de Inteligencia Artificial (AI Act), la primera regulación integral del mundo. Y tiene una implicación directa y severa para RRHH: clasifica los sistemas de IA utilizados para empleo, gestión de trabajadores y acceso al autoempleo como Sistemas de Alto Riesgo.

Esto no prohíbe su uso, pero impone obligaciones estrictas bajo pena de multas millonarias (hasta el 7% de la facturación global):

1. Gobernanza de Datos: Garantizar que los datasets de entrenamiento son representativos, pertinentes y están libres de errores.
2. Documentación Técnica (Logs): Mantener un registro detallado de todo el ciclo de vida del modelo para poder auditar qué pasó si alguien denuncia discriminación.
3. Transparencia: Informar claramente a los candidatos cuando están siendo evaluados o filtrados por una IA. El "derecho a saber que hablas con una máquina".
4. Supervisión Humana (Human Oversight): La decisión final de contratación (o despido) nunca puede ser 100% automatizada. Debe haber un humano real con autoridad y competencia para revisar la decisión del sistema.

Manual de Defensa para Directores de RRHH

No basta con comprar la herramienta más cara y confiar en el folleto de marketing. Hay que gobernarla activamente. Propongo tres líneas de defensa obligatorias:

1. Auditoría de Datos (Data Hygiene)

Antes de entrenar o desplegar nada, mira tus datos históricos. Si el 85% de tus directivos exitosos son hombres blancos de entre 40 y 50 años, cualquier modelo que entrenes con eso intentará clonarlos. Necesitas técnicas de "sobremuestreo" de minorías, reponderación o incluso usar datos sintéticos corregidos para equilibrar la balanza antes de que el algoritmo empiece a aprender.

2. Exigir IA Explicable (XAI)

Cuando un proveedor te venda una solución, haz la pregunta incómoda: "¿Ofrece 'feature importance' o valores SHAP?". Necesitas saber qué variables pesaron más en la decisión de descartar a María. ¿Fue su falta de experiencia en Python (legítimo) o fue el hecho de que tuvo un parón laboral de 6 meses (posible sesgo de maternidad)? Si el proveedor te dice "es secreto comercial" o "es demasiado complejo", huye.

3. El Humano en el Bucle (Human-in-the-Loop)

La IA debe ser un copiloto, un filtro de ruido masivo, nunca el juez final. Usa la IA para cribar los 5.000 CVs iniciales que no cumplen los requisitos técnicos duros (títulos, idiomas, herramientas), pero asegúrate de que los 50 finalistas sean evaluados por humanos. La intuición, la evaluación del "culture fit" y la detección de "soft skills" (pasión, curiosidad, resiliencia, humor) siguen siendo territorio exclusivamente humano.

La ética en la IA no es un freno a la innovación ("compliance molesto"); es el cinturón de seguridad que nos permite ir más rápido sin estrellarnos. Una empresa justa es una empresa más diversa, y está demostrado que las empresas diversas son más rentables y resilientes. No dejes que un algoritmo decida el ADN de tu compañía sin supervisión.