X ha dado un paso más en su estrategia de transparencia al publicar una parte mucho más amplia del código que determina qué contenido aparece en su plataforma, la compañía ha abierto el código del algoritmo de recomendación de la sección «Para ti» y ha anunciado una nueva herramienta que permitirá a determinados usuarios consultar si sus publicaciones o cuentas han sido afectadas por los sistemas de clasificación de la red social.
La compañía ha publicado en GitHub el código correspondiente al feed «Para ti» bajo la licencia Apache v2, la actualización amplía considerablemente la información que ya había hecho pública anteriormente e incluye detalles sobre la configuración de los modelos, los filtros y el sistema central encargado de ordenar las publicaciones. También se han publicado los parámetros utilizados para ponderar las diferentes señales que determinan qué contenidos terminan apareciendo en el feed de cada usuario, según X, el nuevo repositorio es aproximadamente entre 10 y 15 veces más grande que el que había puesto a disposición anteriormente. La compañía considera que esto permitirá comprender con mucho más detalle cómo funciona su sistema de recomendación y qué factores influyen en la distribución de una publicación.
Una de las principales novedades es la llegada de una herramienta de transparencia que permitirá a los usuarios comprobar si los sistemas de clasificación de X han tenido algún efecto sobre sus cuentas o publicaciones, la función aparecerá progresivamente dentro de la sección «Under the Hood» de los ajustes de la aplicación. Durante esta primera fase de pruebas estará disponible para un grupo limitado de cuentas que tengan al menos un año de antigüedad, además, los usuarios deberán haber publicado al menos diez veces durante el último mes.
Los usuarios que tengan acceso podrán descargar un archivo JSON con estadísticas agregadas correspondientes al último mes y, en él, podrán comprobar si se han aplicado determinadas etiquetas a su cuenta o a sus publicaciones y conocer de esta forma cómo han intervenido los sistemas de clasificación de X. La compañía también contempla una alternativa para quienes no tengan conocimientos técnicos, X explica que los usuarios podrán proporcionar este archivo a un modelo de inteligencia artificial y pedirle que interprete los datos utilizando como referencia el código que la compañía ha publicado en GitHub.
El objetivo es facilitar que cualquier usuario pueda entender si sus contenidos han sido afectados por los mecanismos de distribución de la plataforma, aunque inicialmente la herramienta tendrá un alcance limitado debido a su lanzamiento como prueba piloto.
X también ha querido ir más allá de simplemente publicar el código, antes del lanzamiento, la compañía permitió a investigadores externos especializados en sistemas de recomendación analizar su código y utilizarlo para entrenar y ejecutar el sistema de puntuación Phoenix. Desde el repositorio de GitHub, los desarrolladores también podrán proponer modificaciones mediante pull requests, los ingenieros de X revisarán estas contribuciones y decidirán cuáles pueden incorporarse al algoritmo.
Keith Coleman, vicepresidente de Producto de X, ha destacado precisamente esta posibilidad de que el algoritmo deje de ser únicamente un sistema visible para el público y pueda recibir aportaciones directamente de la comunidad, la compañía pretende que investigadores, desarrolladores y usuarios puedan analizar cómo se distribuyen las publicaciones, detectar posibles problemas y proponer mejoras. De esta manera, X busca que su sistema de recomendación pueda ser auditado externamente y que exista una mayor capacidad para cuestionar cómo se determina el alcance de los contenidos.
A pesar de la ampliación del código disponible, X no ha publicado todos los sistemas que intervienen en la moderación y clasificación de contenido, entre los elementos que quedan fuera se encuentran algunos sistemas que utilizan Grok para determinar si una publicación podría infringir las reglas de la plataforma. X argumenta que mantener estos componentes fuera del repositorio permite evitar que actores maliciosos utilicen la información para intentar sortear los mecanismos de seguridad y distribuir spam o contenido que incumpla las normas. Por tanto, la publicación no supone que todo el funcionamiento interno de X haya quedado expuesto, sino que proporciona acceso a una parte mucho más amplia de los mecanismos que intervienen en la selección y clasificación de publicaciones.
La medida llega después de años de polémica sobre la forma en que X, anteriormente Twitter, distribuye el contenido y limita su alcance, una de las acusaciones más habituales ha sido el denominado shadowban, término utilizado para describir situaciones en las que una publicación o una cuenta pierde visibilidad sin que el usuario sea informado directamente. Twitter negó reiteradamente que utilizara este tipo de mecanismos de forma oculta, sin embargo, las dudas sobre cómo funcionan sus sistemas de recomendación han continuado incluso después de la adquisición de la plataforma por Elon Musk.
Con la publicación del código y la nueva herramienta de transparencia, X pretende ofrecer mecanismos más concretos para comprobar qué ocurre con las publicaciones una vez que son procesadas por sus sistemas. La compañía reconoce además que la transparencia sobre sus algoritmos es especialmente relevante debido al papel que tiene la plataforma en la distribución de información política, contenidos relacionados con elecciones y noticias, así como en la difusión de información potencialmente engañosa.
El objetivo declarado por X es que el público pueda analizar cómo se distribuyen las publicaciones, comprobar si existe un trato equilibrado entre cuentas y cuestionar aquellos aspectos del sistema que considere problemáticos, la compañía asegura que quiere utilizar esas críticas para mejorar el funcionamiento de su algoritmo y aumentar la confianza de los usuarios. Además, la plataforma ha reducido en otros ámbitos la cantidad de información pública disponible desde que pasó a ser una compañía privada, especialmente en cuestiones como métricas de usuarios, ingresos o determinadas solicitudes gubernamentales de retirada de contenido.