Una investigación científica demostró que los sesgos de la IA influyen de forma directa en cómo las plataformas automatizadas evalúan a las personas según sus facciones. El trabajo académico, encabezado por el psicólogo Steven Lehr de la Universidad de Harvard en Estados Unidos, comprobó que modelos avanzados atribuyen rasgos morales y de conducta basándose exclusivamente en fotos creadas digitalmente.
El estudio analizó el desempeño de herramientas contemporáneas como GPT-4o, GPT-5, Gemini 3 Flash Preview y Claude Sonnet 4.5. Los científicos presentaron imágenes simuladas de rostros y solicitaron a las plataformas comparar atributos como la predisposición para ayudar, la inteligencia, el nivel de agresividad, la capacidad de trabajo y el egoísmo.
Evaluaciones automatizadas sobre credibilidad y riesgo
Los investigadores sometieron a los algoritmos a pruebas de mayor impacto social y económico. Pidieron a los sistemas definir qué perfiles resultaban más confiables para recibir financiamiento de capital de riesgo o determinar quiénes lucían sospechosos de cometer delitos. En las pruebas enfocadas en credibilidad, el modelo GPT-4o coincidió en un 74,88 % con los prejuicios habituales de los seres humanos.
Este patrón se repitió en el resto de los sistemas evaluados durante el experimento. El informe, difundido por la revista PNAS Nexus, cuestionó la supuesta neutralidad técnica de los modelos automatizados. Según los expertos, los resultados revelan que la tecnología replica los juicios subjetivos que dominan el comportamiento humano cotidiano.
El origen cultural detrás de los sesgos de la IA
El equipo científico planteó diversas hipótesis para explicar la procedencia de estas respuestas arbitrarias. La teoría principal sostiene que el entrenamiento algorítmico se nutrió de siglos de producciones culturales, entre las que figuran textos literarios, películas, coberturas de prensa y ensayos artísticos. Esos archivos históricos asocian tradicionalmente ciertos rasgos fisonómicos con el peligro o la bondad.
El documento advirtió que la falta de corrección temprana de los sesgos de la IA puede consolidar discriminaciones en áreas críticas como la justicia, los procesos de contratación laboral y los servicios bancarios. Si las entidades públicas o privadas asumen que una máquina carece de prejuicios, corren el riesgo de validar exclusiones sistemáticas disfrazadas de rigor técnico.
Alcance técnico y desafíos para la región
Los autores aclararon que el experimento se desarrolló bajo estrictas condiciones de laboratorio, por lo que su manifestación podría variar según el contexto de uso. Aunque no se constató que las herramientas reconocieran las caras de prueba como material previo de entrenamiento, los especialistas insistieron en diseñar auditorías constantes para aminorar los sesgos de la IA.
En países en desarrollo y en América del Sur, donde la digitalización avanza en el sector financiero y en la seguridad pública mediante videovigilancia biométrica, el debate cobra relevancia urgente. La incorporación acrítica de estos modelos en tribunales, ministerios o compañías crediticias podría perjudicar a ciudadanos basándose en lecturas superficiales del aspecto corporal, alertaron expertos del área tecnológica.
Datos clave
- Investigación académica: la Universidad de Harvard comprobó que sistemas avanzados como GPT-4o y Gemini atribuyen rasgos de personalidad según la apariencia física.
- Alto nivel de coincidencia: GPT-4o igualó las opiniones y estereotipos de evaluadores humanos en casi el 75 % de las pruebas de fiabilidad.
- Impacto en áreas críticas: los modelos aplicaron distinciones arbitrarias en simulaciones de asignación de créditos y detección de presuntos sospechosos criminales.
- Causa identificada: el sesgo proviene de materiales culturales, cinematográficos y literarios usados para entrenar a los grandes modelos de lenguaje.
