El regulador británico Ofcom ha iniciado una investigación formal contra X, la plataforma propiedad de Elon Musk, para esclarecer si el uso de su chatbot de inteligencia artificial Grok vulnera la legislación del Reino Unido en materia de protección frente a contenidos ilegales.
La actuación se produce tras la aparición de informes que alertan de la generación y difusión de imágenes sexualizadas mediante IA, incluidas representaciones no consentidas de personas adultas y material que podría constituir abuso sexual infantil.
El origen de la investigación
Según ha explicado Ofcom, la decisión de abrir una investigación bajo la Ley de Seguridad Online responde a “informes profundamente preocupantes” sobre el uso de Grok para crear y compartir imágenes de carácter sexual sin consentimiento y contenidos que podrían encajar en la definición legal de pornografía infantil. El regulador subraya que este tipo de material es ilegal en el Reino Unido y que las plataformas tienen la obligación expresa de impedir su difusión entre los usuarios del país.
Tras conocer estos hechos, Ofcom contactó de forma urgente con X el pasado 5 de enero y fijó un plazo para que la compañía explicara qué medidas había adoptado para cumplir con sus obligaciones legales para el uso de Grok. La empresa respondió dentro del plazo establecido, lo que permitió al organismo llevar a cabo una evaluación preliminar acelerada antes de decidir la apertura del procedimiento formal.
Qué obligaciones analiza Ofcom
La investigación se centrará en determinar si X ha cumplido con varios deberes clave recogidos en la Ley de Seguridad Online. Entre ellos se incluyen la correcta evaluación del riesgo de que los usuarios del Reino Unido accedan a contenidos ilegales, la adopción de medidas eficaces para impedir la difusión de imágenes íntimas no consentidas y de material de abuso sexual infantil, así como la retirada rápida de contenidos ilícitos una vez detectados.
Asimismo, Ofcom examinará si Grok ha tenido en cuenta la protección de la privacidad y si ha aplicado sistemas de verificación de edad suficientemente robustos para evitar que los menores accedan a pornografía. Estos requisitos adquieren especial relevancia cuando se introducen cambios significativos en los servicios, como la integración de herramientas de inteligencia artificial generativa.
Ofcom recuerda que no actúa como censor ni decide qué publicaciones concretas deben retirarse. Su función consiste en evaluar si las plataformas han puesto en marcha medidas adecuadas para proteger a las personas en el Reino Unido frente a contenidos ilegales. El proceso de investigación contempla varias fases, desde la recopilación de pruebas hasta la emisión de una decisión provisional, que la empresa investigada puede rebatir antes de que se adopte una resolución definitiva.
El regulador puede imponer sanciones económicas de hasta 18 millones de libras o el 10% de los ingresos mundiales
En caso de que se confirme un incumplimiento, el regulador cuenta con amplios poderes de ejecución. Puede exigir a la plataforma que adopte medidas correctivas concretas y, si persiste la infracción, imponer sanciones económicas de hasta 18 millones de libras o el 10% de los ingresos mundiales cualificados, lo que resulte mayor. En los supuestos más graves, incluso podría solicitar a los tribunales medidas de interrupción del negocio, como el bloqueo del acceso al servicio en el Reino Unido.
Desde el organismo, un portavoz ha afirmado que las investigaciones avanzarán “con la máxima prioridad”, especialmente cuando existe riesgo de daño para los menores, y ha reiterado que las plataformas que operan en el Reino Unido deben cumplir la ley con independencia de dónde se origine el contenido.
Si (
No(
