OpenAI anunció nuevas medidas de seguridad en ChatGPT para mejorar la detección y atención de situaciones de crisis emocional y riesgo de autolesión.

La decisión surge tras la denuncia pública de los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril y cuyas conversaciones con el chatbot, según explican, priorizaron la interacción antes que su seguridad.

Actualmente, ChatGPT ya cuenta con protocolos que se activan al detectar intenciones suicidas o de violencia, ofreciendo recursos de ayuda, bloqueando contenido sensible y disuadiendo a los usuarios.

También contempla la desactivación de cuentas y la notificación a las autoridades en casos de riesgo inminente. Sin embargo, OpenAI reconoció fallos en estas protecciones, especialmente en conversaciones prolongadas o cuando los usuarios intentan evadir las barreras de seguridad.

Los cambios anunciados incluyen una mejora en la detección a lo largo de toda la interacción, para que el sistema no solo responda al primer aviso de riesgo, sino que mantenga activa la atención incluso en charlas posteriores.

Además, se reforzará el bloqueo de imágenes de autolesión y se desarrollarán mecanismos de apoyo en casos de angustia más sutiles, ofreciendo mensajes que conecten a la persona con la realidad en lugar de dar respuestas automáticas.

Otro eje clave será el acceso a recursos de emergencia. En Estados Unidos y Europa, OpenAI ya trabaja en integrar contactos directos con profesionales especializados y pretende ampliar esta red para que, con un solo clic, los usuarios puedan comunicarse con servicios de crisis.

También se estudia facilitar la conexión con familiares o amigos cercanos, ofreciendo incluso mensajes prediseñados para hacer más sencillo el primer contacto.

En el caso de los menores, la compañía implementará controles parentales y permitirá que los adolescentes designen contactos de confianza a los que acudir en situaciones críticas.

El anuncio coincide con la demanda presentada por los padres de Adam Raine contra OpenAI, quienes, tras revisar los intercambios de su hijo con ChatGPT, aseguran que el sistema, pese a mostrar empatía en varias ocasiones, falló al activar las protecciones cuando el joven comenzó a hablar de suicidio, especialmente al disfrazar sus intenciones como un ejercicio creativo.

Con estas actualizaciones, OpenAI busca fortalecer las salvaguardias de ChatGPT y evitar que casos como el de Adam vuelvan a repetirse, en un contexto en el que la responsabilidad de la inteligencia artificial frente a la salud mental de los usuarios está cada vez más en el centro del debate.