Tech
Lectura 2 - 3 minutos
Desafío ético: Acusan de racismo a la inteligencia artificial de OpenAI
TXT rubén chicharro

Desafío ético: Acusan de racismo a la inteligencia artificial de OpenAI

Fotógraf@/ hipertextual
  • Like
  • Comentar

Una reciente investigación realizada por Bloomberg ha arrojado luz sobre un aspecto alarmante del uso de la inteligencia artificial (IA) en el ámbito laboral. Según el informe, GPT, el modelo de lenguaje generativo de OpenAI, muestra sistemáticamente sesgos raciales al examinar currículums en busca de candidatos. Este hallazgo plantea preocupaciones significativas sobre el uso generalizado de la IA en procesos de contratación y reclutamiento.

Muchas empresas han adoptado la IA de OpenAI, incluyendo su aplicación en el departamento de recursos humanos, con el objetivo de optimizar el proceso de selección de personal. A pesar de que OpenAI prohíbe específicamente el uso de su IA para este propósito, el estudio de Bloomberg revela que muchas empresas confían en que GPT puede evaluar a los candidatos de manera más justa que los humanos.

La tarea asignada a GPT es aparentemente simple: evaluar la experiencia, educación y habilidades de los candidatos para determinar su idoneidad para un puesto determinado. Sin embargo, el experimento realizado por Bloomberg revela que, incluso cuando los candidatos poseen la misma experiencia, la IA de OpenAI tiende a calificar como menos aptos para el puesto a las personas con nombres que demográficamente difieren de los nombres comunes en Estados Unidos.

Para probar esta tendencia, Bloomberg solicitó a GPT 3.5, la versión más utilizada del modelo, que evaluara los mismos currículums en hasta 1.000 ocasiones. A pesar de que todos los currículums presentaban la misma experiencia laboral, se observaron "signos claros de discriminación basada en nombres". Los currículums asociados con nombres que no son comunes en Estados Unidos, especialmente de personas negras, tenían menos probabilidades de ser clasificados como los principales candidatos para un puesto, en comparación con los currículums con nombres asociados con otras razas y etnias.

Este sesgo persistente es un problema serio que plantea preocupaciones éticas y prácticas en el uso de la IA en procesos de contratación. No solo sugiere que la IA de OpenAI utiliza los nombres como una fuente de sesgo, sino que también señala un riesgo potencial de discriminación automatizada a gran escala si las empresas confían exclusivamente en la IA para clasificar candidatos.

Al ser cuestionada sobre este sesgo, OpenAI respondió que "las empresas que utilizan su tecnología a menudo toman medidas para mitigar aún más el sesgo", como ajustar las respuestas del software o gestionar los mensajes del sistema. Sin embargo, estas medidas no abordan el problema subyacente y muchas empresas pueden optar por depender de la IA sin implementar medidas efectivas para prevenir la discriminación racial en el proceso de contratación.

En resumen, los hallazgos de esta investigación subrayan la importancia de abordar los sesgos inherentes en los sistemas de IA y de garantizar que su implementación en contextos críticos, como la contratación de personal, se realice con la debida consideración ética y la aplicación de salvaguardas adecuadas para evitar la discriminación. El futuro de la IA y su impacto en la sociedad dependen de cómo enfrentemos estos desafíos en la actualidad.

Visto 2193 veces
Inicia sesión y comenta
Ant. Crean vidrios inteligentes en baños públicos de Tokio: Se ve casi todo
Sig. Google despide a empleado por protesta contra contrato con ejército israelí

Hay 6162 invitados y ningún miembro en línea

© 2024 LaUnión.News. All Rights Reserved. Design & Developed by La Unión Digital Back To Top

Publish modules to the "offcanvas" position.