La competencia tecnológica entre las grandes plataformas sociales por dominar el mercado del contenido corto ha desencadenado una intensa carrera algorítmica cuyo impacto podría haber afectado a la seguridad de los usuarios.
Una investigación exclusiva de la BBC, basada en testimonios de más de una decena de exempleados y denunciantes internos, sostiene que compañías como TikTok y Meta tomaron decisiones que permitieron la circulación de más contenido problemático en los feeds con el objetivo de aumentar la interacción y retener a los usuarios.
La lógica del algoritmo: más indignación = más engagement
Según la investigación de la BBC, varios trabajadores de ambas compañías describen cómo los sistemas de recomendación comenzaron a favorecer contenidos que generaban reacciones intensas entre los usuarios. La razón, según los denunciantes, es que la indignación y la polémica aumentan el tiempo de permanencia en la plataforma y la interacción con las publicaciones.
En concreto, un ingeniero de Meta explica a la BBC que en determinados momentos la dirección pidió a los equipos técnicos permitir una mayor presencia de contenido “borderline”, es decir, material potencialmente dañino pero que no llega a ser ilegal: publicaciones que puede incluir misoginia, teorías conspirativas o mensajes que incitan a la polarización social.
La investigación apunta a que detrás de ello hay una razón vinculada al crecimiento explosivo de TikTok y a la presión competitiva que ha generado en el sector. Según uno de los testimonios recogidos por la investigación, algunos directivos argumentan que era necesario flexibilizar ciertos límites para competir por la atención de los usuarios. “Nos dijeron que era porque el precio de las acciones estaba cayendo”, afirma uno de los ingenieros citados en el reportaje de la BBC.
La irrupción de TikTok transformó profundamente el funcionamiento del ecosistema de redes sociales. Su algoritmo de recomendación de vídeos cortos demostró una enorme capacidad para captar la atención de los usuarios, lo que ha obligado a otras plataformas a reaccionar rápidamente.
Según un exinvestigador de Meta, los comentarios en Reels presentaban una prevalencia un 75% mayor de acoso y bullying
Meta respondió en 2020 con el lanzamiento de Reels en Instagram, su formato de vídeo corto diseñado para competir directamente con TikTok. Sin embargo, exempleados citados en la investigación señalan que esta expansión se realizó con menos salvaguardas de las que se habían aplicado en otras partes de la plataforma. Matt Motyl, exinvestigador sénior de Meta, apunta que documentos internos analizados por la BBC mostraban niveles significativamente mayores de contenidos problemáticos en Reels. En concreto, los comentarios en este formato presentaban una prevalencia un 75% mayor de acoso y bullying, un 19% más de discurso de odio y un 7% más de incitación a la violencia que otras áreas de Instagram.
Según Motyl, la compañía ha tratado de acelerar el crecimiento del producto para competir con TikTok, lo que ha generado tensiones entre los equipos encargados de la expansión del servicio y los responsables de seguridad.
Algoritmos opacos y difíciles de supervisar
Otro de los aspectos que subraya la investigación de la BBC es la dificultad de supervisar el funcionamiento real de los algoritmos de recomendación. Estos sistemas basados en aprendizaje automático operan como una “caja negra”, cuyo comportamiento resulta complejo incluso para los propios ingenieros que los desarrollan.
“Para nosotros todo el contenido es solo un identificador, un número distinto”
Ruofan Ding, antiguo ingeniero de aprendizaje automático que trabajó en el algoritmo de TikTok entre 2020 y 2024, explica que los sistemas analizan los contenidos principalmente como datos numéricos y no evalúan directamente su significado o contexto. “Para nosotros todo el contenido es solo un identificador, un número distinto”, revela. Según su explicación, los ingenieros confían en que los equipos de moderación eliminen los contenidos dañinos antes de que el algoritmo los recomiende a otros usuarios.
No obstante, el propio Ding reconoce que el ritmo constante de cambios en el algoritmo para mejorar el rendimiento de la plataforma provocó que apareciera con mayor frecuencia contenido problemático, especialmente tras periodos prolongados de navegación.
La investigación también recoge testimonios de usuarios que afirman haber sido expuestos repetidamente a contenido violento o extremista. Un joven entrevistado por la BBC asegura que fue “radicalizado por el algoritmo” desde los 14 años tras recibir recomendaciones continuas de vídeos racistas y misóginos.
Asimismo, un miembro del equipo de confianza y seguridad de TikTok advierte que el volumen de casos a revisar dificultaba una moderación eficaz. Según su testimonio, los sistemas internos priorizaban en algunos casos incidencias relacionadas con figuras políticas frente a denuncias que implicaban a menores. En uno de los ejemplos citados, un caso de burla hacia un político recibió mayor prioridad que denuncias de acoso y chantaje sexual que afectaban a adolescentes en diferentes países. El denunciante defiende que estas decisiones respondían al interés de mantener buenas relaciones con gobiernos y evitar posibles regulaciones o prohibiciones que pudieran afectar al negocio.
La respuesta de las plataformas
Tanto Meta como TikTok han rechazado las acusaciones planteadas por los denunciantes en la investigación de la BBC. Meta afirma que la idea de que la compañía amplifique deliberadamente contenido dañino con fines económicos es incorrecta y subraya que ha realizado importantes inversiones en seguridad durante la última década.
TikTok asegura que algunas de las acusaciones son “afirmaciones fabricadas”
TikTok, por su parte, califica algunas de las acusaciones como “afirmaciones fabricadas” y defiende que la plataforma cuenta con políticas estrictas de recomendación de contenido y herramientas de protección para adolescentes.
Sin embargo, el reportaje de la BBC plantea un debate más amplio sobre el papel de los algoritmos en la economía digital. A medida que las plataformas compiten por maximizar el tiempo de uso y los ingresos publicitarios, el diseño de los sistemas de recomendación se convierte en un factor clave que puede influir tanto en la experiencia de los usuarios como en la calidad del contenido que circula en internet.
Si (
No(
