La expansión acelerada de la inteligencia artificial generativa se enfrenta a un nuevo freno regulador. Malasia suspendió de manera inmediata el acceso al chatbot Grokintegrado en la red social incógnitapropiedad de Elon Muskluego de que el regulador tecnológico confirmará que la herramienta podía generar imágenes pornográficas y sexualizar a mujeres y menores de edad mediante simples instrucciones de texto.
La medida, anunciada este domingo por la Comisión de Comunicaciones y Multimedia de Malasia (MCMC)coloca al país asiático entre los gobiernos que ya actúan con firmeza ante los riesgos del uso indebido de la IAespecialmente cuando involucra contenido sexual no consensuado y explotación infantil digital.
Por qué Malasia decidió suspender Grok
En un comunicado oficial, la MCMC informó que ordenó una restricción temporal del acceso a la inteligencia artificial Grok con efecto inmediatotras detectar un uso reiterado para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes y groseramente ofensivas..
Según el regulador, la función de creación de imágenes con IA permitía sexualizar fotografías de mujeres y niñosun hallazgo que activó alertas sobre violaciones a la ley de contenidos en línea, protección de menores y derechos digitales.
Esta decisión se produce apenas un día después de que Indonesia se convertirá en el primer país en bloquear oficialmente Grokmarcando un precedente regional en el sudeste asiático frente a las plataformas de IA integrada en redes sociales.
Grok bajo la lupa internacional
Aunque Grok había estado Limitado a suscriptores de pago en varios países.los reguladores consideran que esa restricción no impide la difusión masiva de contenidos ilegalesespecialmente cuando las imágenes generadas pueden compartirse de forma viral en X.
Expertos en seguridad digital y gobernanza de IA advierten que el caso Grok evidencia una brecha crítica: la velocidad de despliegue de herramientas de IA supera la capacidad de control y moderación de las plataformas.
El conflicto se extiende al Reino Unido
La polémica escaló cuando Elon Musk acusó al gobierno del Reino Unido de actuar de manera “fascista”luego de que las autoridades británicas intensificaron la presión para bloquear imágenes sexualizadas presuntamente generadas por IA y difundidas en X.
Desde Londres, organismos encargados de identificar contenidos ilegales en línea informe haber detectado imágenes sexualizadas de niñas de entre 11 y 13 añosalgunas de ellas localizadas incluso en la web oscuraque habrían sido generados con herramientas asociadas a Grok.
La Fundación de vigilancia de Internet advirtió que parte de este material viola los umbrales legales más graveslo que obliga a la intervención de fuerzas de seguridad y refuerza la exigencia de acciones urgentes contra la explotación infantil digital.
El primer ministro británico, Keir Starmerprometió acelerar medidas contra este fenómeno y exigió a X controles más estrictos y efectivos. En la misma línea, la secretaría de Tecnología, Lisa Kendalladvirtió que el gobierno podría bloquear servicios completos en el Reino Unido si las empresas no cumplen con la legislación vigente.
Este escenario coloca a Grok ya X en una zona de alto riesgo regulatoriodonde las sanciones podrían escalar desde bloqueos parciales hasta restricciones totales de operación.
Impacto en Estados Unidos y tensión con la Casa Blanca
El conflicto también genera ruido político en Estados Unidos. Elon Musk enfrenta el riesgo de tensar aún más su relación con la administración de Donald J. Trumpque ya había expresado preocupación por el uso de inteligencia artificial para producir contenido ilegal.
De acuerdo con información oficial, el vicepresidente JD Vance Abordó el tema recientemente en Washington, subrayando la inquietud por la falta de salvaguardas robustas en herramientas de IA generativa.
Aunque Musk reconoció públicamente que el problema es “tumba” y dijo estar preocupado por el uso indebido de imágenesinsistió en que las presiones gubernamentales representan, a su juicio, un avance excesivo del Estado sobre la libertad de expresión.
Punto de inflexión en el debate
El bloqueo de Grok en Malasia e Indonesia marca un punto de inflexión en el debate internacional sobre regulación de la inteligencia artificial, libertad de expresión y protección de menores en entornos digitales. Gobiernos, plataformas tecnológicas y organizaciones civiles coinciden en un punto: la IA generativa ya no es un tema futurista, sino un desafío urgente de seguridad, ética y derechos humanos.
Mientras tanto, X y Grok se enfrentan a un escenario cada vez más complejo, con Presión regulatoria simultánea en Asia, Europa y Estados Unidos.que podría redefinir el futuro de la IA en redes sociales.
asc
