Un informe de la organización Common Sense Media, en colaboración con investigadores de la Universidad de Stanford, alerta sobre los peligros que representan las aplicaciones de inteligencia artificial conversacional para menores de 18 años. Según el estudio, este tipo de plataformas —como Character.AI, Replika y Nomi— pueden exponer a los jóvenes a contenido inapropiado, conversaciones sexuales y consejos potencialmente mortales.

El informe se publica tras la demanda por la muerte de un adolescente de 14 años que, antes de suicidarse, tuvo una conversación con un chatbot. Este caso expuso los riesgos reales de los llamados “acompañantes virtuales” y motivó a expertos a pedir regulaciones más estrictas y medidas de seguridad.

Las pruebas realizadas por los investigadores revelaron que los bots de estas apps pueden:

1. Mantener conversaciones sexuales explícitas incluso con perfiles adolescentes.
2. Sugerir comportamientos peligrosos relacionados con salud mental o sustancias tóxicas.
3. Reforzar el aislamiento social al desincentivar el contacto humano.

Aunque las empresas afirman que sus plataformas están destinadas a adultos, los expertos señalan que los adolescentes pueden eludir fácilmente los controles de edad. Además, las medidas de seguridad implementadas, como alertas automáticas o reportes a los padres, son insuficientes frente a los riesgos detectados.

Reclamos de mayor protección
El informe sostiene que los chatbots de IA no están preparados para comprender las consecuencias de sus respuestas, priorizando complacer al usuario por encima de su bienestar. “Las aplicaciones están fallando en aspectos básicos de seguridad infantil y ética psicológica”, advirtió la doctora Nina Vasan, de Stanford Brainstorm.

Frente a este panorama, Common Sense Media recomienda directamente que los niños y adolescentes no usen estas aplicaciones hasta que existan protecciones más sólidas. También sugiere a los padres supervisar el uso de tecnología y mantenerse informados sobre los riesgos que implica interactuar con IA sin filtros.

El crecimiento de estas herramientas plantea nuevos desafíos. Mientras algunos defienden su valor como apoyo emocional, los expertos coinciden en que aún no son seguras para los más jóvenes.