Los grupos extremistas empiezan a entrenarse en el uso de la Inteligencia Artificial y plantean una nueva amenaza global.

Mientras el resto del mundo se apresura a aprovechar el poder de la Inteligencia Artificiallos grupos extremistas también están experimentando con la tecnología, incluso si no están seguros de qué hacer exactamente con ella.

Para las organizaciones extremistas, la IA podría ser una herramienta poderosa para reclutar nuevos miembrosgenerar imágenes deepfake realistas y perfeccionar sus ciberataques, han advertido expertos en seguridad nacional y agencias de espionaje.

Alguien que publicó en un sitio web pro- ISIS el mes pasado instó a otros simpatizantes a incorporar la IA en sus operaciones. “Una de las mejores cosas de la IA es lo fácil que es de usar”escribió el usuario en inglés.

“Algunas agencias de inteligencia temen que la IA contribuya al reclutamiento”, continuó el usuario. “Así que convertirán sus pesadillas en realidad”.

El ISIS, que tomó territorio en Irak y Siria hace años pero ahora es una alianza descentralizada de grupos que comparten una ideología violenta, se dio cuenta hace años de que las redes sociales podrían ser una herramienta potente para el reclutamiento y la desinformación, por lo que no es sorprendente que el grupo esté probando la IAdicen expertos en seguridad nacional.

Para grupos extremistas poco organizados y con escasos recursos, o incluso para un individuo malintencionado con conexión a internet, la IA puede ser utilizada para difundir propaganda o deepfakes a gran escala. ampliando su alcance e influencia.

“Para cualquier adversario, la IA realmente facilita muchas las cosas”, explicó John Laliberte, ex investigador de vulnerabilidades en la Agencia de Seguridad Nacional que ahora es CEO de la firma de ciberseguridad ClearVector. “Con la IA, incluso un grupo pequeño que no tiene mucho dinero aún puede tener un impacto”.

Los grupos radicales comenzaron a usar la IA tan pronto como programas como ChatGPT se hicieron ampliamente accesibles. En los años siguientes, han utilizado cada vez más programas de IA generativa. para crear fotos y vídeos de apariencia realista.

Cuando se combinan con algoritmos de redes sociales, este contenido falso puede ayudar a reclutar nuevos creyentes, confundir o asustar a los enemigos y difundir propaganda a una escala inimaginable hace solo unos años.

Hace dos años, tales grupos difundieron imágenes falsas de la guerra entre Israel y Hamas que mostrandon bebés ensangrentados y abandonados en edificios bombardeados. Las imágenes provocaron indignación y polarización y opacaron los horrores reales de la guerra. Grupos violentos en el Oriente Medio usaron las fotos para reclutar nuevos miembros, al igual que grupos de odio antisemita en Estados Unidos y otros lugares.

Algo similar ocurrió el año pasado después de un ataque reivindicado por un afiliado del ISIS que mató a casi 140 personas en un lugar de conciertos en Rusia. En los días posteriores al tiroteo, videos de propaganda creados por IA circularon ampliamente en foros de discusión y redes sociales, buscando nuevos reclutas.

El ISIS también ha creado grabaciones de audio deepfake de sus propios líderes recitando escrituras y ha utilizado la IA para traducir rápidamente mensajes a múltiples idiomassegún investigadores del Grupo de Inteligencia SITE, una firma que rastrea actividades extremistas y ha investigado el uso evolutivo de la IA por parte del ISIS.

Tales grupos están rezagados respecto a China, Rusia o Irán yy para ellos el uso de la IA es “solo una aspiración”, según Marcus Fowler, ex agente de la CIA que ahora es CEO de Darktrace Federal, una firma de ciberseguridad que trabaja con el gobierno federal.

Pero los riesgos son demasiado altos para ignorarlos y es probable que crezcan a medida que se expanda el uso de IA barata y poderosa, dijo.

Los hackers ya están utilizando audio y vídeo sintéticos para campañas de phishing, en las que intentan hacerse pasar por un líder empresarial o gubernamental para acceder a redes sensibles. También pueden usar la IA para escribir código malicioso o automatizar algunos aspectos de los ciberataques.

Lo más preocupante es la posibilidad de que los grupos extremistas intentan usar la IA para ayudar a producir armas biológicas o químicascompensando la falta de experiencia técnica. Ese riesgo fue incluido en la Evaluación de Amenazas a la Seguridad Nacional actualizada del Departamento de Seguridad Nacional, publicada a principios de este año.

“El ISIS se metió en Twitter temprano y encontró formas de usar las redes sociales a su favor”, declaró Fowler. “Siempre están buscando lo próximo para agregar a su arsenal”.

Los legisladores han propuesto varias iniciativas, diciendo que hay una necesidad urgente de actuar.

El senador Mark Warner de Virginia, el principal demócrata en el Comité de Inteligencia del Senado, dijo, por ejemplo, que Estados Unidos debe facilitar que los desarrolladores de IA compartan información sobre cómo sus productos están siendo utilizados por actores malintencionados, ya sean extremistas, hackers criminales o espías extranjeros.

“Ha sido obvio desde finales de 2022, con la publicación de ChatGPT, que la misma fascinación y experimentación con la IA generativa que ha tenido el público también se aplicaría a una gama de actores malignos”, indicó Warner.

Durante una reciente audiencia sobre amenazas extremistas, los legisladores de la Cámara de Representantes supieron que el ISIS y Al Qaeda han realizado talleres de capacitación para ayudar a los simpatizantes a aprender a usar la IA.

La legislación que aprobó la Cámara de Representantes el mes pasado requiere que los funcionarios de seguridad nacional evalúen los riesgos de la IA planteados por tales grupos cada año.

Protegerse contra el uso malicioso de la IA no es diferente de preparar para ataques más convencionalesseñaló el representante August Pfluger, republicano de Texas, patrocinador de la ley. “Nuestras políticas y capacidades deben mantenerse al ritmo de las amenazas del mañana”, sostuvo.