El Gobierno de España ha anunciado la puesta en marcha de HODIO, una nueva herramienta destinada a medir de forma sistemática la presencia y la evolución del discurso de odio en redes sociales.
El presidente del Gobierno, Pedro Sánchez, ha presentado la iniciativa durante la inauguración de la Cumbre contra el Odio celebrada en la Galería de las Colecciones Reales de Madrid, donde ha alertado del creciente impacto que este tipo de contenidos tiene en el entorno digital y en la convivencia social.
“Si el odio ya es peligroso, las redes sociales lo han convertido en un arma de polarización masiva que termina filtrándose en la vida cotidiana"
Durante su intervención, el presidente ha defendido la necesidad de dotarse de nuevos instrumentos tecnológicos capaces de analizar y visibilizar el alcance real de estos mensajes en las plataformas. “Si el odio ya es peligroso, las redes sociales lo han convertido en un arma de polarización masiva que termina filtrándose en la vida cotidiana”, señala.
Asimismo, Sánchez explica que la herramienta permitirá identificar el papel que desempeñan las distintas plataformas en la difusión de estos contenidos. “La nueva herramienta permitirá que todo el mundo sepa quién frena el odio, quién mira hacia otro lado y quién hace negocio con él”, advierte.
En este sentido, el presidente ha asegurado de que el odio en internet no surge de manera espontánea, sino que responde a dinámicas de amplificación impulsadas por algoritmos y por determinados discursos políticos. Según señala Sánchez, estos mensajes suelen comenzar con estereotipos que reducen a las personas a etiquetas y que, con el tiempo, pueden derivar en discriminación o violencia.
“El odio es un producto que se mercantiliza"
En este sentido, Sánchez sostiene que el odio se ha convertido en un producto que genera interacción en las plataformas. “El odio es un producto que se mercantiliza”, afirma, al señalar que los sistemas algorítmicos tienden a potenciar contenidos polarizadores para aumentar el tiempo de permanencia de los usuarios. Durante su intervención ha mencionado como ejemplo el caso de la red social X, donde asegura que el discurso de odio habría aumentado en torno a un 50% tras la adquisición de la plataforma por parte de Elon Musk.
El objetivo de HODIO, según explica el presidente, consiste precisamente en hacer visible ese fenómeno y permitir que la sociedad conozca con mayor precisión cómo circulan estos mensajes en el ecosistema digital.
Cómo funciona HODIO: inteligencia artificial y análisis experto
La herramienta, denominada Huella de Odio y Polarización, está desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (OBERAXE). El sistema analiza la presencia de discurso de odio en las principales redes sociales utilizadas en España, entre ellas Instagram, TikTok, X, YouTube y Facebook. Además, genera rankings públicos que comparan el nivel de exposición al odio entre plataformas digitales con el objetivo de aportar transparencia y facilitar el seguimiento de su evolución.
Combina automatización y supervisión especializada con el objetivo de identificar tanto la prevalencia del discurso de odio como su amplificación
Desde el punto de vista técnico, HODIO emplea un modelo híbrido de análisis. Por un lado, utiliza técnicas cuantitativas y modelos de inteligencia artificial capaces de procesar grandes volúmenes de contenido público en redes sociales. Por otro, incorpora revisión humana experta para validar los resultados y garantizar precisión en la clasificación de los mensajes.
Este enfoque combina automatización y supervisión especializada con el objetivo de identificar tanto la prevalencia del discurso de odio como su amplificación dentro del ecosistema digital. Además, el sistema elaborará informes periódicos que permitirán analizar tendencias y seguir la evolución de estos contenidos en el tiempo, lo que facilitará la evaluación de las políticas de moderación aplicadas por las plataformas.
Este sistema está en funcionamiento desde, al menos, finales de 2024 cuando el Gobierno incorporó a un equipo de 8 personas, según avanza Bandaancha.eu, con el sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), que ahora recibe el nuevo nombre de HODIO. Para ello, el Ejecutivo se apoya en la herramienta Monitor de Observación de Odio en el Deporte que utiliza LaLiga de Fútbol Profesional para vigilar los mensajes de odio relacionados con su deporte en las redes sociales y que cedió al Ministerio como parte de un convenio firmado en octubre de 2024 durante tres años y prorrogables otros 4.
Esta herramienta rastrea las plataformas y analiza el lengauje empleado mediante un motor semántico con más de 50.000 reglas lingüisticas y algoritmos de IA para asignar puntuaciones de 0 a 10 en base a diferentes criterios, como las emociones y las temáticas de odio: racismo, acoso, xenofobia, homofobia... y el volumen de menciones registradas y su viralidad. Actualmente, el sistema solo procesa texto, aunque ya se está trabajando en ampliarlo a imagen, vídeo y audio.
Asimismo, según los últimos datos publicados por el Ministerio en su web, desde que empezó el año se han detectado más de 851.000 mensajes calificados como de odio.
Si (
No(
A favor (
En contra (
