Instagram evita el contenido sobre suicidio en la UE
Ampliar

Instagram evita el contenido sobre suicidio en la UE

miércoles 11 de noviembre de 2020, 16:56h

google+

linkedin

Comentar

WhatsApp

  • Compartir en Meneame

Instagram, la red social destinada a la publicación de fotografías principalmente, ha decidido incluir sus ya existentes detectores de contenidos relacionados con el suicidio y las autolesiones en la Unión Europea. Estos filtros que hasta ahora solo actuaban en otras regiones, sirven para que la aplicación detecte hasta el 90% del contenido relacionado con estos temas y lo elimine de su plataforma asegurando que este no se expande y causa daños mayores a sus usuarios. La plataforma se hace cargo de los problemas que se pueden llegar a vincular con este tipo de imágenes y pone en marcha estos filtros por el bien de la salud mental de sus miembros.

Instagram ha asegurado hoy en un nuevo comunicado que la plataforma pondrá en marcha su filtro de cara a evitar que contenido relacionado con el suicidio o las autolesiones se publique en su plataforma. Han asegurado que la propia red social no se toma a la ligera los problemas que pueden llegar a estar vinculados con la salud mental, el suicidio y las autolesiones y por ese mismo motivo, comenzarán a implementar en la Unión Europea también su tecnología que rastrea este tipo de contenido autolesivo, al igual que ya lo hace en otros lugares del mundo de forma constante y proactiva.

Busca y encuentra

Esta nueva tecnología de búsqueda de contenido, incluye una serie de filtros con los que detecta las fotografías relacionadas con una serie de temas específicos para posteriormente proceder a eliminarlas. Funciona de forma que rastrea y elimina contenidos de forma proactiva en el momento en el que se relacionen con el suicidio y otros métodos de autolesión. Al ser detectados, estos contenidos son emitidos a un grupo de revisores, los cuales toman la decisión sobre cuál es el procedimiento a seguir tras su detección, el cual depende del contenido encontrado y puede suponer la eliminación del mismo, el contacto con asociaciones de ayuda e incluso avisar a los servicios de emergencia en casos extremos.

Entre los meses de abril y junio de este 2020, la compañía ahora parte de Facebook, pudo actuar sobre el 90% de los contenidos detectados en total por este filtro sin que nadie denunciara dicho contenido personalmente. A pesar de ello, el objetivo de Instagram es lograr que este porcentaje aumente hasta el 100%. Dado lo que suponen estas cifras, se ha decidido trasladar la efectividad de este sistema a la Unión Europea, lugar en el que se pondrá en marcha tanto en Instagram cómo en Facebook y permitirá a la comunidad reducir la visibilidad general de dicho contenido en apartados cómo ‘Explora’, además de eliminarlos si quebrantan las políticas de cualquiera de las dos plataformas.

Revisión humana

El paso final de este tipo de contenidos reside en los propios seres humanos, quienes deciden si dicho contenido es realmente perjudicial o no; por ese motivo se envían las publicaciones detectadas a los revisores para que puedan tomar la decisión final sobre qué se debe hacer. Al no existir por el momento este sistema en la Unión Europea, este trabajo resultaba poco eficiente y mucho más complicado, sin embargo, actualmente ya se está hablando con reguladores y gobiernos sobre la mejor forma de traer esta tecnología a la región, por lo que próximamente se atenderá a las consideraciones de privacidad y se pondrá en marcha este sistema de prevención.

¿Te ha parecido interesante esta noticia?    Si (0)    No(0)
  • Compartir en Meneame

+

0 comentarios