Grokel chatbot de inteligencia artificial propiedad de Elon Muskha protagonizado estas semanas un sonado escándalo internacional a causa de una función que permite desnudar sin consentimiento imágenes de cualquier persona. Su dueña, la empresa xAIrespondió ayer a la polémica anunciando que limitará el servicio con la intención de atajar el problema.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, indicó el miércoles por la noche la puesta en marcha en una publicación es incógnitala redes sociales rojas también propiedad del hombre más rico del mundo. “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”. La generación de otro tipo de imágenes también queda limitada únicamente a quienes paguen una suscripción.
Hasta ahora, Grok ha permitido crear imágenes hiperrealistas de mujeres o incluso menores de edad con bikinis microscópicos, en posiciones sexualizadas, incluso denigrantes, y con moretones en el cuerpo. A finales de la semana pasada, Musk trató de calmar la indignación al anunciar una restricción a los medios que limitaba la creación de desnudos a los suscriptores de pago. Con ese método, apuntó el magnate, se garantizaba la identificación de los usuarios que hiciesen un uso indebido de Grok. No fue suficiente. Y es que el flujo de imágenes de chicas desnudadas ilegalmente en X siguió sin cesar este miércoles, indica Reuters.
Malasia se suma a bloquear el acceso a Grok por generar “imágenes manipuladas obscenas” /Archivo
Indignación global
El movimiento de xAI responde a la indignación de miles de personas de todo el mundo, que han denunciado que la Iowa está sirviendo para perpetrar violencia sexual contra colectivos que ya sufren ese problema más allá de Internet. Musk afirmó ayer que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”. Aun así, la empresa asegura que “toma medidas” para eliminar el contenido de abuso sexual infantil.
Gobiernos y organismos reguladores de todo el mundo han tomado medidas drásticas para cortar el problema de raíz. Malasia e Indonesia han sido los más radicales al prohibir directamente el acceso a Grok. Otros, como España, Estados Unidos oh Australiahan abierto la puerta a investigaciones judiciales contra un posible delito Delaware porno infantil. “Se trata de una vulneración de derechos fundamentales”, aseguró la semana pasada la ministra española de Juventud e Infancia, Sira Rego. En Francia, uno de los primeros en actuar, la Fiscalía advirtió que desnudar a terceros sin consentimiento se castiga con penas de dos años de prisión y con sanciones de hasta 60.000 euros.
Suscríbete para seguir leyendo
