En concreto, y según avanza Reuters, Meta ha permitido que se difunda en sus plataformas chatbots que imitaban a famosos como Taylor Swift, Scarlett Johansson y Anne Hathaway, entre otros, y en la mayoría de casos sin un etiquetado claro de ‘parodia’, permitiendo su interacción con millones de usuarios en Facebook, Instagram y WhatsApp.
El hallazgo expone fallos en el control interno de Meta y reabre el debate sobre la regulación del uso de datos personales y la generación de contenido sintético con IA.
Los chatbots creados no solo replicaban nombres e imágenes de personalidades públicas, sino que iba más allá y producía contenido sexualmente explícito. En pruebas realizadas por Reuters, los bots enviaron imágenes fotorrealistas de supuestos artistas en poses íntimas, como en bikinis o con lencería, y respondieron de manera afirmativa a solicitudes de material sexualizado. En el caso del actor adolescente (16 años) Walker Scobell, conocido por su papel como Percy Jackson en la serie de fantasía de Disney+, Percy Jackson and the Olympians, uno de los avatares generó una imagen sin camiseta acompañada de la frase “Pretty cute, huh? (traducido como ‘Muy bonito, ¿verdad?”.
Algunos de estos bots incluso simulaban ser la persona real e invitaban a encuentros presenciales. En el caso de los que imitaban a Taylor Swift, se registraron mensajes que proponían visitas a su “casa en Nashville” y comentarios insinuantes como “Do you like blonde girls?” (¿Te gustan las chicas rubias?).
“Permitimos la generación de imágenes que incluyan figuras públicas, pero nuestras políticas están diseñadas para impedir contenido sugerente”
Meta ha eliminado varias de estas creaciones tras ser consultada, pero ha admitido fallos en sus políticas. Andy Stone, portavoz de la compañía, ha señalado en declaraciones a la prensa que los sistemas no deberían haber generado contenido íntimo, y ha atribuido el problema a deficiencias en la aplicación de normas internas que prohíben material sexualmente explícito. “Permitimos la generación de imágenes que incluyan figuras públicas, pero nuestras políticas están diseñadas para impedir contenido sugerente”, asegura Stone.
En este sentido, el sindicato que representa a artistas y locutores en Estados Unidos (SAG-AFTRA), ha alertado sobre los riesgos de seguridad para celebridades ante posibles conductas obsesivas de usuarios. “Si un chatbot utiliza la imagen y las palabras de una persona, es evidente cómo esto puede salir mal”, ha apuntado Duncan Crabtree-Ireland, director ejecutivo de la organización, que promueve una legislación federal para proteger voces e identidades frente a la IA.
El incidente no es una cosa aislada. Documentos internos filtrados previamente ya indicaban que las directrices de Meta permitían interacciones “románticas” con menores, lo que provocó una investigación del Senado de Estados Unidos. Además, recientemente un hombre de 76 años falleció tras intentar encontrarse con un chatbot creado a partir de una celebridad.