En medio de las crecientes preocupaciones sobre la capacidad de manipulación y creación de contenido engañoso a través de la inteligencia artificial generativa, OpenAI, la creadora de ChatGPT, ha anunciado una estrategia proactiva para prevenir abusos durante las elecciones. En un año cargado de procesos electorales, la compañía ha establecido medidas con el objetivo de salvaguardar la integridad de la información electoral y brindar transparencia.

Prohibición para Políticos:

OpenAI ha declarado que los políticos y sus campañas no podrán utilizar las herramientas de inteligencia artificial de la compañía oficialmente. Esta decisión responde a la creciente preocupación global sobre la posibilidad de manipulación y desinformación a través de tecnologías emergentes.

Medidas de Seguridad y Transparencia:

La compañía enfatizó su compromiso continuo con la seguridad de la plataforma, destacando la importancia de proporcionar información electoral precisa y aplicar políticas medidas. OpenAI se asociará con una coalición de empresas de inteligencia artificial para implementar credenciales digitales en las imágenes generadas por su herramienta DALL-E, proporcionando detalles sobre su origen.

Herramientas para Detectar Desinformación:

OpenAI está trabajando en una nueva herramienta llamada "clasificador de procedencia" que permitirá a investigadores y periodistas detectar si una imagen fue generada por inteligencia artificial. Esta herramienta se espera que esté disponible para evaluadores en un futuro cercano.

Colaboración con Autoridades Electorales:

En Estados Unidos, OpenAI ha establecido una alianza con la Asociación Nacional de Secretarios de Estado para dirigir a los usuarios a fuentes autorizadas de información electoral. Este enfoque podría replicarse en otros países con el objetivo de combatir la desinformación y disuadir cualquier aplicación que busque desalentar la participación en procesos democráticos.

La decisión de OpenAI de prohibir el uso de su inteligencia artificial en campañas electorales es un paso significativo hacia la prevención de abusos y la protección de la integridad electoral. A medida que la inteligencia artificial continúa desempeñando un papel crucial en diversas esferas, la transparencia y la colaboración con autoridades electorales se convierten en elementos clave para garantizar elecciones justas y libres de manipulación.