Facebook está implementando una nueva herramienta que utiliza la IA para detectar y eliminar las publicaciones que contengan fotos y vídeos íntimos subidos a la red sin el consentimiento del sujeto, a este tipo de amenaza se le denomina pornografía de venganza. Este sistema también se aplicará a Instagram.
Actualmente los usuarios de Facebook e Instagram o las propias víctimas del porno de venganza tienen que seleccionar las publicaciones inapropiadas y notificar antes de que los moderadores humanos de contenido las revisen. La nueva herramienta de machine learning de la compañía está diseñada para detectar y marcar las imágenes automáticamente y posteriormente enviarlas a los moderadores para su revisión.
Nueva tecnología de Facebook
El programa permite que los usuarios envíen fotos que temen que puedan circular, para que Facebook cree un código digital de la imagen para detectarla en caso de que alguna vez se publique, después la red elimina la foto original de sus servidores.
El responsable de seguridad de Facebook, Antigone Davis ha explicado que "a menudo, las víctimas temen las represalias, por lo que se muestran renuentes a informar el contenido por sí mismas o desconocen que el contenido haya sido compartido. El nuevo sistema de inteligencia artificial, hace que dicho contenido se puede encontrar y enviar a los moderadores humanos antes de que alguien lo informe".
Facebook ha recibido muchas críticas por permitir que las publicaciones ofensivas permanezcan en la web, por no eliminar las publicaciones que no cumplen con sus estándares y, en ocasiones, por eliminar imágenes con valor artístico o histórico.
La tecnología que va a utilizar la red se probó con imágenes que Facebook había detectado anteriormente como porno de venganza. Esta herramienta tiene la capacidad para reconocer una foto “casi desnuda” junto con un texto despectivo o vergonzoso que sugiere que alguien haya subido la foto sin el consentimiento de la persona fotografiada.
"Se trata de usar la tecnología para salir adelante del problema”
“Facebook lleva años trabajando para combatir la propagación de la pornografía de venganza en su red, confiando en gran medida en que los usuarios informen sobre el contenido inapropiado. Sin embargo, eso significa que para el momento en que se informa, alguien más lo ha visto. Y a menudo es difícil y embarazoso para una víctima reportar una foto de sí misma. Se trata de usar la tecnología para salir adelante del problema”, ha declarado la directora de operaciones, Sheryl Sandberg, en una entrevista con The Associated Press.
Por otro lado, la compañía ha instaurado un nuevo centro de soporte en línea para las víctimas de porno de venganza, denominado ‘Not Without My Consent’ (no sin mi consentimiento). Esta herramienta en línea se añade al centro de seguridad general de Facebook, y permite que las víctimas accedean a recursos y organizaciones para recibir ayuda.
Si (
No(
