OpenAI anunció que está desarrollando un nuevo sistema que permitirá a ChatGPT detectar automáticamente cuándo interactúa con adolescentes o menores de edad, con el fin de activar medidas de seguridad y ofrecer una experiencia adaptada a su edad.

La compañía, dirigida por Sam Altman, explicó que este cambio busca reforzar la protección de los más jóvenes dentro de la plataforma, en línea con otras medidas de seguridad ya presentadas, como los controles parentales.

De acuerdo con OpenAI, cuando se identifique que un usuario es menor de 18 años, el sistema ajustará las políticas de interacción: desde bloquear contenido sexual explícito, hasta intervenir en casos excepcionales de angustia extrema, lo que podría derivar en la notificación a las fuerzas del orden para salvaguardar la integridad del menor.

En situaciones donde el sistema no pueda confirmar la edad, se aplicará automáticamente la experiencia diseñada para menores, priorizando la seguridad. Los adultos, por su parte, podrán verificar su edad para acceder sin restricciones a las funciones completas del chatbot.

Además, OpenAI incorporará herramientas para que los padres administren cómo sus hijos usan la plataforma.

Entre las opciones estarán deshabilitar funciones como la memoria, historial de chat, establecer horarios de uso e incluso recibir alertas si el sistema detecta un estado grave de angustia emocional en sus hijos.

Estas funciones estarán disponibles a finales de septiembre.

La medida se suma a las actualizaciones introducidas en agosto, cuando OpenAI reforzó sus modelos para identificar con mayor precisión situaciones de crisis mental y emocional, añadiendo salvaguardias y recursos de apoyo más eficaces.

Estos cambios llegan tras el caso de un adolescente de 16 años en Estados Unidos, que se quitó la vida en abril. Sus padres demandaron a la compañía al señalar que, pese a que ChatGPT ofreció recursos de ayuda en varias ocasiones, las protecciones fallaron y las conversaciones terminaron girando en torno al suicidio.

Con este nuevo sistema, OpenAI busca no solo fortalecer la seguridad de los adolescentes, sino también restaurar la confianza en el uso de la IA como herramienta de acompañamiento responsable.