Deepfakes

La presión internacional comienza a tener efectos visibles sobre Grok, el chatbot de inteligencia artificial impulsado por Elon Musk e integrado en la red social X. Tras una oleada de críticas y la apertura de investigaciones en varios países, la herramienta ha restringido la generación y edición de imágenes únicamente a los usuarios de pago. Sin embargo, la medida dista de calmar a las autoridades europeas, que consideran insuficiente la respuesta.

El avance imparable de la inteligencia artificial vuelve a situar a la ciberseguridad en el centro del debate tecnológico. A medida que las herramientas digitales ganan sofisticación y accesibilidad, también lo hacen las amenazas. En este contexto, el equilibrio entre innovación y riesgo se convierte en uno de los grandes desafíos de los próximos años, con un escenario en el que la frontera entre lo legítimo y lo fraudulento resulta cada vez más difusa.

La inteligencia artificial está transformando tanto la innovación empresarial como el cibercrimen. Así lo revela el informe State of AI Security Report 1H 2025 de Trend Micro, que advierte del auge de los fraudes basados en contenido manipulado y del incremento de ataques automatizados por IA.

Meta vuelve al foco de la polémica después de que se haya conocido que la compañía ha permitido la creación y difusión de un chatbot que imitaba a celebridades sin tener la autorización expresa de estos famosos.

Lo que empezó como un experimento digital para manipular vídeos se ha convertido en una de las amenazas más inquietantes de la ciberseguridad actual. El IA Security Report 2025 de Check Point Research alerta sobre la madurez que han alcanzado los deepfakes y su uso cada vez más frecuente en campañas de fraude, suplantación de identidad y ataques de ingeniería social.

Hace cosa de un mes se hicieron virales unos vídeos en los que una reportera argentina entrevista a personas a pie de calle, generando sus respuestas a través de inteligencia artificial. Así, se daban situaciones desde cómicas o extrañas hasta hilarantes, como por ejemplo ver a una anciana salir disparada volando a hacer la compra para volver en apenas segundos.

La irrupción de la inteligencia artificial en el sistema judicial ha alcanzado un nuevo hito con el caso de Christopher Pelkey, un veterano del ejército fallecido en un homicidio en la carretera en Arizona.

El fenómeno de los deepfakes ha mostrado un aumento significativo, con un total de 179 incidentes reportados en el primer trimestre de 2025. Este incremento del 19% en comparación con todo el año anterior ha sido documentado en un análisis de Surfshark.

El desarrollo tecnológico ha traído consigo innumerables ventajas, pero también ha generado nuevos riesgos, especialmente para los menores de edad en los entornos digitales.

La herramienta de detección de ‘deepfakes’ que Honor presentó durante el Mobile World Congress de Shanghái que tuvo lugar en julio, AI Deepfake Detection, estará disponible a nivel mundial a partir de abril de este año.

En los últimos años, el fenómeno de los deepfakes ha cobrado gran relevancia en el debate público. Para quien no lo sepa, se trata de una inteligencia artificial, que permite crear imágenes y videos falsos con un alto grado de realismo que ha generado preocupaciones en la sociedad. La utilización de esta tecnología por parte de delincuentes para imitar la apariencia, voz y movimientos de personas con fines fraudulentos ha aumentado considerablemente. Según el informe Get Identity Fraud Report 2023, los casos de fraude relacionados con deepfakes se incrementaron diez veces entre 2022 y 2023. Por lo tanto, identificar y desmantelar estas prácticas se ha convertido en un desafío significativo en 2024.

Google ha revelado recientemente sus planes para implementar cambios significativos en las políticas de Google Play. Estos cambios están dirigidos específicamente a las aplicaciones que utilizan inteligencia artificial para la creación de contenido. El objetivo principal es prevenir el uso indebido de estas aplicaciones, especialmente aquellas que puedan dar lugar a la creación de deepfakes, tanto en formato de imagen como de audio.

Check Point, proveedor de soluciones de ciberseguridad en la nube basadas en IA, ha presentado su primer Security Report Iberia, un informe sobre el panorama de ciberseguridad en la región de Iberia, que incluye España y Portugal.

Las deepfakes han tomado el protagonismo de la actualidad. El uso de imágenes de video con declaraciones de dirigentes políticos o ataques a ciudades europeas ha despertado la inquietud y el interés de la sociedad por una nueva forma de recurrir al video-engaño como fuente de manipulación de los ciudadanos.

La inteligencia artificial está avanzando apresuradamente, sin embargo, estos avances pueden suponer un riesgo en muchos aspectos. Actualmente, existe un servicio que mediante la tecnología deepfake cambia la cara de una persona para involucrarla en un video porno.