Cuando una herramienta de inteligencia artificial termina generando imágenes sexualizadas sin control ni consentimiento, las alarmas no tardan en sonar. Eso es justamente lo que le pasó a Grokmil chatbot desarrollado por xAI (la empresa de Elon Musk), que opera dentro de la red social incógnita.
Te puede interesar: (Estas predicciones de Bill Gates nunca se cumplieron, pero la IA las podría transformar en realidad)
Tras una fuerte reacción pública e incluso presión política, el sistema recibe su primera gran reprimenda: ahora solo los usuarios pagos podrán acceder a la función de generación de imágenes.
¿Qué pasó con Grok?
Durante las últimas semanas, varios usuarios aprovecharon las capacidades de Grok para hacer lo impeensado: editar imágenes de personas reales, desvistiendo digitalmente a los sujetos o colocándolos en poses sexualizadas.
Y sí, en muchos casos esto sucedió sin consentimiento de las personas afectadas. Peor aún: Grok no solo generaba las imágenes, sino que incluso las publicaba automáticamente como respuesta en X.
La respuesta fue rápida (aunque no lo suficiente para muchos). El pasado viernes, Grok anunció que la generación y edición de imágenes solo estaría disponible para pagos de suscriptoreses decir, aquellos que pagan por X Premium.
¿Funcionan las nuevas restricciones?
Depende de cómo se mire. El cambio logró detener la publicación automática de imágenes directamente en hilos y respuestas.pero no impide que los usuarios sigan creando contenido polémico a través de la pestaña de Grok o mediante su app independiente, la cual ni siquiera requiere suscripción para acceder a la función de imágenes.
Es decir: si bien el daño inmediato se contuvo, el problema sigue latente.
Europa pone el ojo (y el dedo en el botón rojo)
La Comisión Europea no se mostró satisfecha con las medidas.
De hecho, criticó duramente el enfoque de “solo suscriptores”calificándolo de insuficiente y dejando claro que el problema no es quién paga, sino el tipo de contenido que se puede generar, sus consecuencias y la falta de filtros reales.
“Con o sin suscripción paga, no queremos ver esas imágenes”, afirmó un portavoz de la Comisión. “Limitar el acceso no elimina el riesgo, solo lo disfraza”.
A esto se sumaron declaraciones fuertes como las del Ministro de Medios de Alemania, Wolfram Weimer.quien describió la situación como “la industrialización del acoso sexual”. Un término que no deja lugar a dudas sobre la gravedad del asunto.
¿Qué dice Elon Musk?
La postura del magnate no ha sido particularmente conciliadora. cuando Reuters solicitó un comentario formal a xAIrecibió como respuesta automática: “Mentiras de Legacy Media”.
Musk, por su parte, declaró hace unos días que cualquier persona que utilice Grok para generar contenido ilegal se enfrentará a consecuencias legales… aunque no detalló cómo se haría cumplir esta advertencia ni qué medidas específicas tomarían.
¿Qué sigue para Grok?
La IA de Musk se enfrenta a su primer gran desafío ético y legaly la atención de gobiernos y organismos internacionales no hará más que crecer. Aunque el acceso se ha limitado, la facilidad con la que se pueden generar imágenes sin consentimiento sigue siendo una gran preocupación.
Te puede interesar: (Una Waifu real: Esta sería la asistente de IA con forma física holográfica que llegaría en 2026)
Con la presión pública en aumentotodo apunta a que xAI y X tendrán que hacer algo más que mover funciones detrás de un muro de pago. Porque cuando la inteligencia artificial empieza a cruzar líneas, el simple “ups” ya no alcanza.
