Los bots impulsados por inteligencia artificial son cada vez más difíciles de distinguir de los usuarios reales en las redes sociales, especialmente cuando no adoptan un comportamiento agresivo o claramente sospechoso. Un análisis realizado por Surfshark con 1.722 participantes de todo el mundo concluye que los usuarios solo fueron capaces de identificar el 40% de los comentarios generados por bots durante una simulación de redes sociales.
La investigación pone el foco precisamente en aquellos perfiles que pueden resultar menos evidentes para los usuarios, frente a la imagen tradicional del bot como una cuenta agresiva, provocadora o dedicada a generar conflictos, los sistemas que utilizan un tono amable, positivo y aparentemente razonable son los que más dificultades presentan para ser detectados.
Según Luís Costa, responsable de Investigación y Análisis en Surfshark, este tipo de cuentas pueden utilizarse en campañas de manipulación para respaldar opiniones expresadas por usuarios reales o aumentar artificialmente el número de comentarios de una conversación. De esta manera, una opinión minoritaria puede aparentar tener un respaldo mucho mayor del que realmente tiene.
Los bots amables son más difíciles de detectar
La diferencia entre los distintos comportamientos resulta especialmente significativa en los resultados de la simulación, cuando los bots mostraban una actitud negativa o confrontativa, los participantes fueron capaces de identificar el 50,2% de ellos. Sin embargo, cuando los mismos sistemas adoptaban una personalidad positiva y amable, la tasa de detección descendía hasta el 38%. El resultado pone de manifiesto uno de los problemas que plantea la utilización de IA en campañas de manipulación, los contenidos que llaman menos la atención pueden ser precisamente los que más fácilmente pasan desapercibidos.
Los bots no necesitan necesariamente iniciar una discusión o publicar mensajes polémicos para influir en una conversación, según el análisis de Surfshark, también pueden limitarse a apoyar las opiniones de otros usuarios, publicar mensajes de acuerdo o aumentar artificialmente el volumen de comentarios alrededor de una determinada posición.
La simulación también permitió analizar algunos de los patrones que los participantes utilizaron para intentar identificar cuentas automatizadas, uno de ellos fue el uso de emojis, aunque los resultados muestran que basarse únicamente en este indicador puede conducir a conclusiones equivocadas. Los bots que utilizaban una gran cantidad de emojis fueron identificados en más del 60% de los casos, mientras que aquellos que utilizaban una comunicación más sencilla solo fueron detectados en el 35% de las ocasiones.
La diferencia alcanza los 30,6 puntos porcentuales, lo que demuestra que pequeñas modificaciones en la forma de comunicarse pueden cambiar considerablemente la capacidad de los usuarios para identificar un contenido generado por IA. Para Surfshark, esto supone una advertencia frente a la utilización de patrones demasiado simples para detectar bots, un sistema automatizado o una persona que quiera pasar desapercibida puede modificar fácilmente elementos superficiales de su lenguaje, como el uso excesivo de emojis, sin cambiar el objetivo de la conversación.
Los usuarios de X detectan más bots que los de TikTok y Facebook
La plataforma utilizada también parece tener relación con la capacidad de los participantes para identificar este tipo de cuentas, los usuarios de X obtuvieron una tasa de detección del 49%, la más elevada entre las plataformas analizadas. Por detrás se situaron los usuarios de Facebook, con un 39%, y los de TikTok, con un 38%, Surfshark señala que estos resultados indican que los usuarios de plataformas centradas en contenido visual y vídeo pueden tener mayores dificultades para reconocer determinadas interacciones generadas por IA.
No obstante, los datos corresponden a la simulación realizada por Surfshark y no implican que todos los usuarios de una plataforma tengan necesariamente esa capacidad de detección, el estudio analiza el comportamiento de los participantes incluidos en la investigación y utiliza sus resultados para observar cómo cambia la identificación de los bots dependiendo de diferentes características.
Surfshark considera que una de las estrategias más útiles para identificar posibles cuentas falsas consiste en analizar el perfil completo en lugar de centrarse exclusivamente en el contenido de un comentario, entre los elementos que recomienda revisar se encuentran la fecha de creación de la cuenta, la fotografía de perfil, la información incluida en la biografía y el historial de publicaciones. Un perfil creado recientemente, con una imagen genérica, una descripción poco concreta y un historial compuesto por mensajes repetitivos puede presentar señales de alerta.
La compañía también recomienda mantener cierta cautela cuando una conversación en redes sociales se vuelve especialmente intensa, en este tipo de situaciones, las emociones pueden hacer que los usuarios sean menos cuidadosos a la hora de comprobar quién está detrás de determinadas cuentas y también pueden provocar que se acuse erróneamente a usuarios reales de ser bots.
Otro de los puntos destacados por la investigación es que el hecho de que una cuenta esté de acuerdo con nosotros no demuestra que sea una persona real, una sucesión rápida de mensajes de apoyo genéricos puede ser igualmente generada de manera automática. Esto adquiere especial relevancia en conversaciones relacionadas con cuestiones sociales o políticas, donde una acumulación artificial de mensajes puede contribuir a crear la percepción de que una determinada opinión cuenta con más respaldo del que realmente tiene.
La IA complica la frontera entre contenido humano y artificial
La evolución de los modelos generativos está haciendo que la identificación del contenido automatizado dependa cada vez menos de errores evidentes en la redacción. Los sistemas actuales pueden producir mensajes coherentes y adaptados al contexto de una conversación, lo que dificulta utilizar únicamente el estilo del texto como mecanismo de detección. El estudio de Surfshark plantea así un problema que va más allá de los tradicionales perfiles automatizados utilizados para publicar mensajes repetitivos, los bots pueden adoptar comportamientos diseñados para parecer usuarios normales y participar en conversaciones de una manera aparentemente natural.
En estos casos, el objetivo puede no ser convencer directamente a un usuario, sino crear una determinada percepción sobre una conversación, una cuenta que apoya repetidamente una opinión, otra que responde a determinados comentarios y varias que refuerzan una misma posición pueden generar la impresión de que existe un consenso más amplio del que realmente hay.
La investigación también señala que los bots positivos pueden presentar riesgos adicionales en contextos de ingeniería social, al no percibirse como una amenaza, un usuario podría estar más dispuesto a continuar la conversación en privado, compartir información personal o interactuar con enlaces publicados por esa cuenta.
Si (
No(
