Deepfakes

La inteligencia artificial está transformando tanto la innovación empresarial como el cibercrimen. Así lo revela el informe State of AI Security Report 1H 2025 de Trend Micro, que advierte del auge de los fraudes basados en contenido manipulado y del incremento de ataques automatizados por IA.

Meta vuelve al foco de la polémica después de que se haya conocido que la compañía ha permitido la creación y difusión de un chatbot que imitaba a celebridades sin tener la autorización expresa de estos famosos.

Lo que empezó como un experimento digital para manipular vídeos se ha convertido en una de las amenazas más inquietantes de la ciberseguridad actual. El IA Security Report 2025 de Check Point Research alerta sobre la madurez que han alcanzado los deepfakes y su uso cada vez más frecuente en campañas de fraude, suplantación de identidad y ataques de ingeniería social.

Hace cosa de un mes se hicieron virales unos vídeos en los que una reportera argentina entrevista a personas a pie de calle, generando sus respuestas a través de inteligencia artificial. Así, se daban situaciones desde cómicas o extrañas hasta hilarantes, como por ejemplo ver a una anciana salir disparada volando a hacer la compra para volver en apenas segundos.

La irrupción de la inteligencia artificial en el sistema judicial ha alcanzado un nuevo hito con el caso de Christopher Pelkey, un veterano del ejército fallecido en un homicidio en la carretera en Arizona.

El fenómeno de los deepfakes ha mostrado un aumento significativo, con un total de 179 incidentes reportados en el primer trimestre de 2025. Este incremento del 19% en comparación con todo el año anterior ha sido documentado en un análisis de Surfshark.

El desarrollo tecnológico ha traído consigo innumerables ventajas, pero también ha generado nuevos riesgos, especialmente para los menores de edad en los entornos digitales.

La herramienta de detección de ‘deepfakes’ que Honor presentó durante el Mobile World Congress de Shanghái que tuvo lugar en julio, AI Deepfake Detection, estará disponible a nivel mundial a partir de abril de este año.

En los últimos años, el fenómeno de los deepfakes ha cobrado gran relevancia en el debate público. Para quien no lo sepa, se trata de una inteligencia artificial, que permite crear imágenes y videos falsos con un alto grado de realismo que ha generado preocupaciones en la sociedad. La utilización de esta tecnología por parte de delincuentes para imitar la apariencia, voz y movimientos de personas con fines fraudulentos ha aumentado considerablemente. Según el informe Get Identity Fraud Report 2023, los casos de fraude relacionados con deepfakes se incrementaron diez veces entre 2022 y 2023. Por lo tanto, identificar y desmantelar estas prácticas se ha convertido en un desafío significativo en 2024.

Google ha revelado recientemente sus planes para implementar cambios significativos en las políticas de Google Play. Estos cambios están dirigidos específicamente a las aplicaciones que utilizan inteligencia artificial para la creación de contenido. El objetivo principal es prevenir el uso indebido de estas aplicaciones, especialmente aquellas que puedan dar lugar a la creación de deepfakes, tanto en formato de imagen como de audio.

Check Point, proveedor de soluciones de ciberseguridad en la nube basadas en IA, ha presentado su primer Security Report Iberia, un informe sobre el panorama de ciberseguridad en la región de Iberia, que incluye España y Portugal.

Las deepfakes han tomado el protagonismo de la actualidad. El uso de imágenes de video con declaraciones de dirigentes políticos o ataques a ciudades europeas ha despertado la inquietud y el interés de la sociedad por una nueva forma de recurrir al video-engaño como fuente de manipulación de los ciudadanos.

La inteligencia artificial está avanzando apresuradamente, sin embargo, estos avances pueden suponer un riesgo en muchos aspectos. Actualmente, existe un servicio que mediante la tecnología deepfake cambia la cara de una persona para involucrarla en un video porno.

El 96 % de vídeos deepfake, que incrustan artificialmente caras de personas famosas en cuerpos de otras personas, son pornográficos.

El jefe científico de McAfee, Raj Samani, ha asegurado durante una amplia entrevista con Zonamovilidad.es que “todavía existe mucha incertidumbre sobre el futuro del 5G y las ciberamenazas que pueden surgir a partir de su despliegue, pero hay formas en las que los usuarios se pueden preparar para prevenir ataques”. La entrevista, que estaba pendiente que se realizara en el marco del MWC 2020 Barcelona, se retrasó tras la cancelación de la feria.