La IA muestra una mayor propensión a generar sesgos en la contratación que los humanos
La irrupción de la inteligencia artificial en procesos críticos como la selección de personal ha abierto la puerta a una eficiencia sin precedentes, pero también ha levantado interrogantes fundamentales sobre la equidad. Históricamente, se ha debatido si los sistemas de IA podrían mitigar los sesgos humanos inherentes a la contratación o, por el contrario, exacerbarlos. Una investigación reciente ha aportado una nueva y preocupante perspectiva: la inteligencia artificial es más propensa que los propios humanos a generar y manifestar sesgos en el ámbito del reclutamiento.
Hasta ahora, la preocupación principal residía en la capacidad de los grandes modelos de lenguaje (LLM) para internalizar y replicar los prejuicios presentes en los vastos conjuntos de datos con los que son entrenados. Estos datos, al reflejar la sociedad y sus desigualdades históricas, pueden llevar a la IA a discriminar inconscientemente por género, etnia u otros factores irrelevantes para la capacidad laboral. Sin embargo, el nuevo estudio va un paso más allá al sugerir que los LLM no se limitan a ser espejos de los sesgos existentes; tienen la capacidad inherente de desarrollar sus propios patrones de discriminación, independientemente de los prejuicios iniciales de sus datos.
Este hallazgo implica un desafío significativo para las empresas que adoptan la IA en sus departamentos de recursos humanos. Si la automatización de la criba de currículums y la evaluación inicial de candidaturas se apoya en sistemas con una tendencia intrínseca a generar sesgos, el riesgo de perpetuar y ampliar la desigualdad en el acceso al empleo se multiplica. Los aspirantes a un puesto podrían ser descartados por razones no relacionadas con sus méritos o habilidades, incluso antes de que un ojo humano evalúe su perfil.
La implicación de esta investigación subraya la urgencia de una mayor transparencia y auditoría en los algoritmos de IA aplicados a la contratación. Las empresas y los desarrolladores de tecnología deberán redoblar esfuerzos para comprender no solo cómo se heredan los sesgos, sino también cómo emergen de la propia dinámica interna de los modelos, a fin de diseñar salvaguardas más robustas y garantizar procesos de selección verdaderamente equitativos.
Por qué importa
Este hallazgo es crucial para entender los riesgos de la inteligencia artificial en la configuración del mercado laboral. Si los sistemas de IA utilizados para la contratación no solo replican, sino que activamente desarrollan sesgos, las decisiones sobre quién es apto para un puesto podrían verse afectadas por prejuicios algorítmicos difíciles de detectar y corregir. Esto podría llevar a una discriminación sistémica amplificada, con implicaciones éticas, sociales y económicas profundas, afectando la diversidad y la equidad en las organizaciones a gran escala.
Antecedentes
La capacidad de los algoritmos para aprender y replicar sesgos humanos a partir de sus datos de entrenamiento es un problema conocido desde hace años en el campo de la inteligencia artificial. Sin embargo, la novedad reside en la sugerencia de que la IA puede ir más allá de la mera replicación, desarrollando sesgos propios, lo que añade una capa de complejidad al desafío de crear sistemas de contratación imparciales y justos.
Dos tipos de sesgos en la IA
La investigación distingue entre los sesgos que los grandes modelos de lenguaje (LLM) heredan directamente de los datos de entrenamiento —reflejo de prejuicios históricos y sociales— y aquellos que los LLM pueden generar de forma autónoma. Estos últimos son una novedad que sugiere una complejidad adicional en la lucha contra la discriminación algorítmica.
Fuente original: MIT Technology Review
