A medida que Cataluña se acerca a las elecciones de 2024, se ha evidenciado que el empleo de la Inteligencia Artificial (IA) en las campañas electorales a nivel global presenta ventajas y desventajas. Por una parte, puede revolucionar la manera en que nos comunicamos, pero por otro lado, podría debilitar las bases de nuestra democracia.
En base a esto, Check Point Research ha analizado más de 36 campañas electorales a nivel mundial y ha descubierto que aproximadamente una tercera parte de ellas incluye material de audio y video generado por IA. Estos materiales deepfake, que son contenido generado por IA que engaña de manera convincente, se difunden durante las campañas electorales. La IA se ha utilizado para crear contenido que engaña a los votantes, promueve candidatos, ataca a adversarios políticos y manipula la opinión pública. Y esto no es todo, la compañía también ha revelado el tráfico de herramientas sofisticadas en los mercados criminales de Internet, que incorporan capacidades de IA para crear deepfakes y gestionar cuentas de redes sociales. Estas herramientas se utilizan para automatizar la distribución de contenido a través de perfiles falsificados en plataformas de redes sociales como Instagram y Facebook. Además, han surgido múltiples servicios especializados en la creación de deepfakes, conversión de voz basada en recuperación (RVC) y correos electrónicos de spam impulsados por IA, que explotan esta tecnología para eludir los protocolos de seguridad y aumentar sus tasas de éxito a la hora de dirigirse al electorado.
Las capacidades de la IA han sido ampliamente utilizadas en campañas electorales a nivel mundial
Además, las capacidades de la IA han sido ampliamente utilizadas en campañas electorales a nivel mundial, lo que ha generado preocupación sobre la integridad del proceso electoral. Existe el temor de que la aplicación generalizada de nuevas tecnologías, capaces de producir y difundir contenido de video y audio fabricado, pueda desvincular el discurso público de sus raíces factuales y disminuir la confianza pública en las instituciones democráticas.
Paralelamente, es importante destacar que OpenAI ha actualizado sus políticas de uso para prohibir el uso de herramientas de IA generativa, como ChatGPT, para crear campañas electorales y de lobby. Esto se hace para garantizar que la tecnología no se utilice para socavar los procesos electorales. Es crucial tomar medidas legales y encontrar soluciones tecnológicas para contrarrestar el progreso de la tecnología deepfake y mantener la confianza en los procesos democráticos. La población debe tener en cuenta la importancia de verificar la autenticidad de la información que consumen y limitar su difusión a fuentes confiables y actualizadas. Además, es fundamental que todos los involucrados en las elecciones trabajen juntos para establecer regulaciones que controlen el uso de tecnologías avanzadas, asegurando así la seguridad y transparencia en las futuras votaciones.
Si (
No(
