Bruselas considera que el algoritmo de la sección ‘Para ti’ favorece la exposición continuada a contenidos potencialmente perjudiciales para la salud mental, especialmente entre menores y adultos vulnerables, y que las medidas introducidas por la plataforma para reducir estos efectos resultan insuficientes.
El Ejecutivo comunitario exige a la compañía, propiedad de ByteDance, cambios estructurales en el funcionamiento de su sistema de recomendaciones. Entre las modificaciones reclamadas figuran reducir la importancia del tiempo de visualización como criterio para seleccionar vídeos, priorizar las preferencias expresadas directamente por los usuarios y someter el algoritmo a evaluaciones periódicas.
La investigación todavía no ha concluido. TikTok podrá presentar sus alegaciones antes de que Bruselas adopte una decisión definitiva, que podría desembocar en una sanción de hasta el 6% de su facturación anual mundial.
Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para la Soberanía Tecnológica, Seguridad y Democracia, ha advertido de que “la Ley de Servicios Digitales responsabiliza a las plataformas de atajar los efectos negativos vinculados a sus sistemas de recomendación”.
El principal problema identificado por la Comisión es el denominado efecto rabbit hole, un fenómeno por el que los sistemas de recomendación conducen progresivamente al usuario hacia contenidos cada vez más similares.
En TikTok, el algoritmo interpreta señales como el tiempo de reproducción o los ‘me gusta’ para determinar qué vídeos aparecen posteriormente. Sin embargo, Bruselas advierte que estas interacciones pueden interpretarse como muestras de interés incluso cuando los contenidos están relacionados con problemas de salud mental. De este modo, una persona que visualiza vídeos sobre tristeza, aislamiento o imagen corporal puede recibir una sucesión de publicaciones similares, con independencia de sus posibles consecuencias psicológicas.
Esta exposición repetida puede contribuir al aumento de la ansiedad, la insatisfacción corporal y la pérdida de autoestima
Según la Comisión, esta exposición repetida puede contribuir al aumento de la ansiedad, la insatisfacción corporal y la pérdida de autoestima, además de agravar trastornos alimentarios o problemas de salud mental preexistentes. Para elaborar sus conclusiones, los investigadores europeos han examinado más de 20.000 vídeos y consultado a especialistas externos en psiquiatría y psicología. Asimismo, han mantenido contactos con las autoridades irlandesas, dado que la filial europea de ByteDance tiene su sede en Irlanda.
Otro de los elementos examinados es la capacidad real de los usuarios para modificar las recomendaciones que reciben. La Comisión considera que herramientas como el botón ‘No me interesa’ no consiguen corregir suficientemente la selección de contenidos, puesto que el algoritmo continúa concediendo una importancia predominante al tiempo de visualización.
Por ello, reclama que TikTok otorgue mayor peso a las decisiones explícitas de los usuarios y mejore los mecanismos de control sobre el contenido recomendado. Además, exige pruebas y auditorías periódicas que permitan evaluar los riesgos derivados del funcionamiento del sistema.