Malasia suspendió de manera temporal el acceso a Grok, el chatbot de inteligencia artificial integrado en la red social X, propiedad de Elon Musk, luego de detectar que la herramienta estaba siendo utilizada para generar contenido pornográfico mediante la manipulación de imágenes.

La decisión fue confirmada este domingo por el regulador tecnológico del país.

De acuerdo con la Comisión de Comunicaciones y Multimedia de Malasia, la restricción se aplicó con efecto inmediato tras comprobar que la función de creación de imágenes de Grok permitía sexualizar fotografías de mujeres y niños a partir de simples instrucciones de texto.

El organismo señaló que el uso indebido de la plataforma se repitió en diversas ocasiones, lo que encendió las alertas de las autoridades.

En un comunicado oficial, el regulador explicó que la medida responde a la generación de imágenes “obscenas, sexualmente explícitas, indecentes, gravemente ofensivas y no consensuadas”, lo que representa una violación a las normas locales sobre contenidos digitales y protección de personas vulnerables.

Un día antes, Indonesia se convirtió en el primer país en bloquear completamente el acceso a Grok, tras detectar problemas similares relacionados con la creación de material sexual explícito mediante inteligencia artificial.

La decisión del gobierno indonesio sentó un precedente en la región y abrió el debate sobre la regulación de este tipo de herramientas tecnológicas.

Hasta ahora, en otros países, la función de generación de imágenes de Grok había sido limitada principalmente a usuarios de pago, sin que se aplicaran prohibiciones totales como las implementadas en el sudeste asiático.

Crece la presión sobre la regulación de la IA

El caso de Malasia e Indonesia se suma a una creciente preocupación internacional por el uso de inteligencia artificial para crear contenidos sensibles, especialmente aquellos que involucran la sexualización no consentida de personas.

Las autoridades malasias subrayaron que la suspensión se mantendrá mientras se evalúan medidas adicionales y posibles acciones correctivas por parte de la plataforma.

Este nuevo episodio vuelve a colocar a las herramientas de IA generativa bajo escrutinio, en un contexto donde gobiernos y reguladores buscan establecer límites claros para prevenir abusos y proteger a los usuarios frente a contenidos dañinos.