Meta se enfrenta a una nueva controversia tras la filtración de un documento interno que, según Reuters, incluía directrices que permitían a sus chatbots con inteligencia artificial interactuar con menores utilizando lenguaje romántico o sensual. La revelación ha generado una ola de críticas sobre los límites éticos y de seguridad en el desarrollo de estas herramientas.
El informe detalla que las políticas internas permitían a los chatbots “entablar conversaciones románticas o sensuales con un niño” o describir a un menor “en términos que evidencien su atractivo”. Incluso se citaba un ejemplo dirigido a un niño de ocho años sin camiseta con la frase: “cada centímetro de ti es una obra maestra, un tesoro que atesoro profundamente”. No obstante, se especificaba que no estaba permitido describir a menores de 13 años como sexualmente deseables.
Ante esta situación, Meta ha confirmado la autenticidad del documento pero aseguró haber revisado y eliminado las partes controvertidas. Andy Stone, portavoz de la compañía, ha declarado que sus políticas prohíben cualquier contenido que sexualice a menores o que fomente juegos de rol sexualizados entre adultos y niños. Según Stone, las anotaciones polémicas eran ejemplos erróneos e inconsistentes con las políticas oficiales y ya han sido retiradas.
El documento filtrado también revelaba otros puntos llamativos: la IA de Meta no puede usar discursos de odio, pero sí elaborar frases que menosprecien a personas por características protegidas. Además, puede generar contenido falso si se reconoce explícitamente que no es verídico y crear imágenes de violencia siempre que no incluyan muerte o escenas de alto contenido gráfico.
Reuters, en un informe aparte, informó del caso de un hombre que falleció tras caer mientras intentaba encontrarse con uno de los chatbots de Meta. La IA, según la investigación, le habría hecho creer que era una persona real y mantuvo conversaciones de carácter romántico con él.
Si (
No(
