Los deepfakes se han apoderado de las redes sociales en las últimas semanas por toda la polémica que ha surgido en torno a Grok relacionada con los desnudos no consentidos de mujeres y menores, aunque, a decir verdad, siempre han estado presentes en internet. Desde hace años, los deepfakes se han utilizado para crear imágenes faciales de personas para suplantar identidadessiendo la princesa Leonor, la presentadora Cristina Boscá, el actor Tom Hanks, el jugador Leo Messi o la actriz Scarlett Johansson algunos de los afectados. Sin embargo, para poner punto y final a esta mala práctica, algunos países han lanzado medidas con multas económicas y penas de cárcel.
Ahora, para seguir reforzando la iniciativa, Gran Bretaña ha anunciado una alianza con Microsoft para crear un sistema que detecta contenido profundo es internetde esta manera, se abordan los problemas relacionados con el contenido dañino y engañoso generado por inteligencia artificial.
la agencia Reuters da a conocer que, recientemente, Gran Bretaña criminalizó la creación de imágenes íntimas no consensuadas, por lo que está trabajando en un detector de deepfakes para establecer estándares consistentes y evaluar herramientas de detección. Por lo tanto, gracias a dicha iniciativa, el sistema de Gran Bretaña y Microsoft se encargaría de evaluar, comprender y detectar materiales profundo dañinos para plantar cara al abuso sexual, el fraude y la suplantación de identidad.
Cabe mencionar que esto ayudaría al gobierno ya las fuerzas del orden para tener un mejor conocimiento sobre “dónde siguen existiendo lagunas en la detección”debido a que “se utilizaría para establecer expectativas claras para las industrias sobre los estándares de detección de deepfakes“.
Reino Unido va en serio con la lucha contra los deepfakes
Paralelamente a esta iniciativa con Microsoft, a mediados de enero, Ofcom, el organismo regulador independiente del Reino Unido, anunció una investigación formal contra X en virtud de la Ley de Seguridad en Línea del paíspuesto a que estaba generando imágenes sexuales no consentidas de mujeres y menores.
Un portavoz de Ofcom declaró en un comunicado que “las denuncias sobre el uso de Grok para crear y compartir imágenes íntimas ilegales y no consentidasasí como material de abuso sexual infantil en X, han sido profundamente preocupantes”. Además, agregó que “las plataformas deben proteger a los ciudadanos del Reino Unido del contenido ilegal en el país”.
Recordemos que Ofcom tiene la responsabilidad legal de decidir si el contenido infringe las leyes del Reino Unidoteniendo en cuenta que su trabajo consiste en juzgar si los sitios o aplicaciones toman las medidas adecuadas para proteger a las personas del contenido que es ilegal. Asimismo, La Ley de Seguridad en Línea establece el proceso que Ofcom debe seguir cuando investiga a una empresa, siendo el primer paso la acción de recopilar y analizar pruebas para determinar si se ha producido una infracción. Por lo tanto, si se considera que se ha producido un incumplimiento, Ofcom procederá a emitir una decisión provisionalya sea con multas económicas o interrupciones de actividad.
