El gobierno del Reino Unido solicitó explicaciones formales a X, la red social propiedad de Elon Musk, tras detectarse que Grok, su chatbot de inteligencia artificial, generó imágenes de personas sin ropa e incluso contenido sexualizado que involucraría a menores.
Las autoridades buscan esclarecer cómo ocurrió este fallo y si la plataforma incumplió su obligación legal de proteger a los usuarios.
El regulador británico de medios, Ofcom, informó que está al tanto de las “serias preocupaciones” relacionadas con esta función y confirmó que se ha puesto en contacto de manera urgente con X y xAI para conocer qué medidas se han tomado para cumplir con la legislación vigente en el Reino Unido.
“Queremos saber qué acciones se han implementado para garantizar la seguridad de los usuarios”, señaló un portavoz del organismo.
Por su parte, Grok reconoció el viernes que hubo fallos en sus salvaguardias, los cuales permitieron la generación de “imágenes de menores con poca ropa”.
La empresa aseguró que ya trabaja en correcciones urgentes y afirmó que, aunque existen mecanismos de protección, estos están siendo reforzados para bloquear por completo este tipo de solicitudes.
En el Reino Unido, la creación o difusión de imágenes íntimas no consentidas y de material de abuso sexual infantil, incluidos los deepfakes sexuales generados por IA, es un delito.
Además, la ley obliga a las plataformas digitales a prevenir el acceso a contenidos ilegales y a retirarlos de inmediato cuando se tenga conocimiento de su existencia.
La presión sobre X no se limita al Reino Unido.
Días antes, autoridades francesas denunciaron a la plataforma ante la fiscalía y organismos reguladores por la aparición de imágenes calificadas como “sexuales y sexistas”, las cuales consideraron “manifiestamente ilegales”.
El caso ha reavivado el debate en Europa sobre la responsabilidad de las plataformas tecnológicas y los límites de la inteligencia artificial generativa, especialmente cuando se trata de la protección de menores y el control de contenidos sensibles en redes sociales.
