Deepfakes

La digitalización avanza, pero también lo hacen los riesgos. En España, el 45% de la población ya ha sido víctima de algún intento de fraude digital, una cifra que refleja cómo la sofisticación de estas amenazas está creciendo al mismo ritmo que la tecnología. La inteligencia artificial, especialmente a través de herramientas como la clonación de voz o vídeo, está elevando el nivel de estos ataques y dificultando su detección.

El avance imparable de la inteligencia artificial está transformando el entorno digital a gran velocidad, pero también está abriendo la puerta a nuevas formas de fraude cada vez más sofisticadas. En este contexto, el crecimiento del contenido generado por IA y la facilidad para manipular imágenes, audios o vídeos están elevando la exposición de los usuarios. De hecho, el 45% de la población española ya ha sido víctima de algún intento de fraude digital, una cifra que refleja la dimensión del problema.

La manipulación de contenidos visuales mediante inteligencia artificial ya no es un riesgo teórico, sino una realidad creciente que está poniendo en cuestión la confianza en las pruebas digitales. En este contexto, garantizar la autenticidad del vídeo se ha convertido en un desafío urgente para empresas, instituciones y organismos públicos.

UNICEF advierte de un incremento acelerado de deepfakes sexuales con niños y niñas y reclama cambios legales urgentes, responsabilidades para las plataformas digitales y salvaguardas obligatorias en los sistemas de inteligencia artificial.

El Consejo de Ministros ha dado luz verde al anteproyecto de Ley Orgánica de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, una reforma de calado que busca adaptar la legislación española al impacto de la inteligencia artificial y de las plataformas digitales.

La presión internacional comienza a tener efectos visibles sobre Grok, el chatbot de inteligencia artificial impulsado por Elon Musk e integrado en la red social X. Tras una oleada de críticas y la apertura de investigaciones en varios países, la herramienta ha restringido la generación y edición de imágenes únicamente a los usuarios de pago. Sin embargo, la medida dista de calmar a las autoridades europeas, que consideran insuficiente la respuesta.

El avance imparable de la inteligencia artificial vuelve a situar a la ciberseguridad en el centro del debate tecnológico. A medida que las herramientas digitales ganan sofisticación y accesibilidad, también lo hacen las amenazas. En este contexto, el equilibrio entre innovación y riesgo se convierte en uno de los grandes desafíos de los próximos años, con un escenario en el que la frontera entre lo legítimo y lo fraudulento resulta cada vez más difusa.

La inteligencia artificial está transformando tanto la innovación empresarial como el cibercrimen. Así lo revela el informe State of AI Security Report 1H 2025 de Trend Micro, que advierte del auge de los fraudes basados en contenido manipulado y del incremento de ataques automatizados por IA.

Meta vuelve al foco de la polémica después de que se haya conocido que la compañía ha permitido la creación y difusión de un chatbot que imitaba a celebridades sin tener la autorización expresa de estos famosos.

Lo que empezó como un experimento digital para manipular vídeos se ha convertido en una de las amenazas más inquietantes de la ciberseguridad actual. El IA Security Report 2025 de Check Point Research alerta sobre la madurez que han alcanzado los deepfakes y su uso cada vez más frecuente en campañas de fraude, suplantación de identidad y ataques de ingeniería social.

Hace cosa de un mes se hicieron virales unos vídeos en los que una reportera argentina entrevista a personas a pie de calle, generando sus respuestas a través de inteligencia artificial. Así, se daban situaciones desde cómicas o extrañas hasta hilarantes, como por ejemplo ver a una anciana salir disparada volando a hacer la compra para volver en apenas segundos.

La irrupción de la inteligencia artificial en el sistema judicial ha alcanzado un nuevo hito con el caso de Christopher Pelkey, un veterano del ejército fallecido en un homicidio en la carretera en Arizona.

El fenómeno de los deepfakes ha mostrado un aumento significativo, con un total de 179 incidentes reportados en el primer trimestre de 2025. Este incremento del 19% en comparación con todo el año anterior ha sido documentado en un análisis de Surfshark.

El desarrollo tecnológico ha traído consigo innumerables ventajas, pero también ha generado nuevos riesgos, especialmente para los menores de edad en los entornos digitales.

La herramienta de detección de ‘deepfakes’ que Honor presentó durante el Mobile World Congress de Shanghái que tuvo lugar en julio, AI Deepfake Detection, estará disponible a nivel mundial a partir de abril de este año.