Un grupo bipartidista de fiscales generales de Estados Unidos emitió una advertencia formal a 13 de las principales empresas tecnológicas —entre ellas Microsoft, Meta, Google, Apple y OpenAI— por los riesgos que generan las llamadas “respuestas delirantes” de sus chatbots, señalando posibles violaciones a leyes estatales y fallas en la protección de usuarios, especialmente menores de edad.
En una carta pública divulgada este miércoles, los fiscales advirtieron que los modelos de inteligencia artificial generativa están ofreciendo respuestas que “fomentan delirios”, validan ideas dañinas y entregan información incorrecta presentada como confiable.
Según los funcionarios, estas fallas han contribuido a situaciones de riesgo real, incluyendo casos de suicidio adolescente, envenenamientos y episodios de psicosis.
La misiva detalla dos amenazas principales:
- ●Las alucinaciones de la IA, en las que los sistemas entregan respuestas erróneas o fabricadas que pueden influir peligrosamente en usuarios vulnerables.
- ●La ausencia de salvaguardas sólidas para niños y adolescentes, lo que ha permitido que algunos chatbots mantengan conversaciones sobre temas como suicidio, explotación sexual, uso de drogas, manipulación emocional e incluso incitaciones a la violencia.
Los fiscales subrayan que estas interacciones “son más extendidas y mucho más gráficas de lo imaginado”, y aseguran que no actuar podría violar leyes estatales de protección al consumidor y seguridad infantil.
Además de las cuatro grandes tecnológicas, la advertencia también incluye a Anthropic, Chai AI, Character Technologies, Luka, Nomi AI, Perplexity AI, Replika y xAI.
Los fiscales piden a todas ellas permitir auditorías independientes, pruebas de seguridad más estrictas y la implementación de protocolos documentados para retirar modelos defectuosos.
La carta también solicita que reguladores estatales y federales tengan acceso para evaluar estas tecnologías, en medio de un conflicto creciente entre los gobiernos locales y la administración del presidente Donald Trump, que busca evitar que los estados aprueben sus propias leyes de regulación en IA.
Fiscales de ambos partidos ya han expresado su rechazo a esta propuesta, argumentando que limitar la acción estatal dejaría a millones de usuarios en mayor riesgo.
Plazo para actuar
Los fiscales dieron a las empresas hasta el 16 de enero de 2026 para presentar los cambios solicitados y demostrar avances concretos en seguridad.
De no hacerlo, advirtieron, podrían enfrentar acciones legales por incumplir con las obligaciones de protección al consumidor y por fallas en garantizar la seguridad de menores.
La advertencia representa uno de los llamados más contundentes hasta ahora para regular el uso de chatbots de IA generativa en Estados Unidos, en un momento en el que su adopción crece más rápido que las medidas de protección para los usuarios.
