Muy conscientes de estos son los grupos extremistas y terroristas como el Dáesh que lleva años apostando por internet y diferentes plataformas sociales para difundir su propaganda. Ahora, conscientes de su potencial, abrazan además la inteligencia artificial y, en especial, la IA generativa para generar aún más contenidos propagandísticos.
Según explican SITE Intelligence Group, una organización que se encarga de monitorizar movimientos extremistas en internet, han puesto el foco en este grupo terrorista de Oriente Medio que está empleando nuevas tecnologías para aumentar su impacto en la red.
Así, el Dáesh o Estados Islámico ha creado un programa denominado News Harvest que utiliza IA generativa para crear presentadores de televisión falsos con los que difundir información sobre sus operaciones a nivel mundial.
News Harvest ha estado emitiendo vídeos casi de manera semanal que imitan el formato de los informativos en los que una serie de falsos presentadores “informan” sobre las misiones del Estados Islámico
Este programa supone un hito clave en el uso de tecnologías avanzadas por parte de organizaciones extremistas para amplificar su alcance y reclutar a más miembros. Concretamente, desde el mes de marzo, News Harvest ha estado emitiendo vídeos casi de manera semanal que imitan el formato de los informativos de cadenas tradicionales como Al Jazeera en los que una serie de falsos presentadores vestidos de combatientes o con túnicas formales “informan” sobre las misiones del Estados Islámico. En los vídeos sí se incluyen imágenes de archivo y narraciones provenientes de medios oficiales de la organización terrorista como Al-Naba y Amaq.
El uso de esta tecnología permite al grupo generar contenido propagandístico con una apariencia inofensiva, similar a la de un informativo de televisión, lo que dificulta a las empresas tecnológicas bloquear y moderar los contenidos.
“Producciones que antes tardaban semanas, incluso meses, en pasar por equipos de redactores, editores, editores de vídeo, traductores, diseñadores gráficos o narradores, ahora pueden ser creadas con herramientas de IA por una sola persona en cuestión de horas”, asegura Rita Katz, cofundadora de SITE Intelligence Group.
Chatbots y otros usos para la IA
El uso de la inteligencia artificial en los grupos islamistas no se limita solo a la generación de falsos presentadores de televisión, sino que también se han construido chatbos de IA, generadores de imágenes y clonadores de voz para crear una desinformación más eficiente.
En febrero, un grupo afiliado a Al Qaeda anunció que empezaría a ofrecer talleres online para formar a sus seguidores en IA y otras tecnologías. "Este taller tiene por objeto desarrollar las competencias necesarias para utilizar programas informáticos de inteligencia artificial en los medios de comunicación, en particular, y en otros ámbitos”, explicaban.
“Las empresas de IA deberían empezar a preguntarse si sus productos deberían estar al alcance de todos los ciudadanos”
“Las empresas de IA deberían empezar a preguntarse si sus productos -que, según ellas mismas atestiguan, son potentes y capaces de cambiar el mundo- deberían estar al alcance de todos los ciudadanos”, señala Rita Katz, cofundadora de SITE Intelligence Group. “Si no es así, ¿cómo pueden crear vallas para evitar que los malos actores utilicen sus productos, al tiempo que identifican y expulsan a los que se cuelan por las grietas?”, se pregunta la investigadora.
Incumple la ley islámica
Este fenómeno no pasa desapercibido entre las filas del propio ISIS y es que se ha generado un amplio dilema y debate entre los más fervientes islamistas por el uso de representaciones generadas artificialmente de seres humanos, algo que choca contra las leyes islámicas
Si (
No(
