El rey Carlos III ha reunido en Escocia a algunos de los principales responsables mundiales de inteligencia artificial para abordar una cuestión que ha ganado peso dentro de la propia industria tecnológica: cómo mantener el control sobre sistemas cada vez más capaces. Representantes de Nvidia, Google DeepMind, OpenAI y Anthropic han participado en un encuentro en Dumfries House centrado en la seguridad, la cooperación internacional y los principios que deberían orientar el desarrollo de la IA.
“El desarrollo de la IA, tanto por su naturaleza como por su ritmo, resulta fascinante y profundamente preocupante a partes iguales”, ha señalado Carlos III ante los asistentes. El monarca ha reconocido el potencial de esta tecnología para mejorar y salvar vidas, especialmente en ámbitos como las ciencias de la vida y la medicina, pero también ha advertido que quienes desarrollan estos sistemas alertan cada vez más sobre capacidades que pueden tener consecuencias mucho más graves.
Al encuentro han asistido directivos como Jensen Huang, CEO de Nvidia; Demis Hassabis, presidente de Google DeepMind; Sarah Friar, directora financiera de OpenAI; representantes de Anthropic y Kanishka Narayan, ministro británico de Inteligencia Artificial. Las conversaciones, facilitadas por The Ditchley Foundation, también han contado con representantes de The King's Trust, The King's Foundation y Sustainable Markets Initiative.
La cita no estaba planteada para alcanzar acuerdos vinculantes, sino que tenía como objetivo explorar un conjunto de principios compartidos para el futuro de la IA, con la intención de que esta tecnología actúe como motor de capacidad y eficiencia sin dejar de proteger la dignidad humana, las comunidades y el medio ambiente.
“¿Acaso no necesitamos suficientes medios de control antes de que sea demasiado tarde?”
En este sentido, el rey Carlos III ha puesto un especial énfasis en los riesgos de una pérdida de control. “¿Acaso no necesitamos suficientes medios de control antes de que sea demasiado tarde?”, ha preguntado tras reclamar atención urgente sobre los “peligros existenciales” derivados de que estas tecnologías puedan caer en manos equivocadas y utilizarse de formas potencialmente catastróficas.
Asimismo, ha planteado dos cuestiones a los responsables tecnológicos: cómo aprovechar los beneficios de la IA con la seguridad como elemento central y cómo construir cooperación y consenso internacional para conseguirlo. “Nuestra humanidad debe seguir siendo sagrada”, ha advertido el monarca británico.
El encuentro se produce en pleno debate entre los principales actores del sector sobre la velocidad de desarrollo de los modelos más avanzados. Dario Amodei, CEO de Anthropic, ha planteado que las empresas y los países coordinen una reducción del ritmo para disponer de más tiempo para evaluar y proteger los sistemas. Además, OpenAI ha informado esta semana de seis episodios de comportamiento “inesperado o preocupante” detectados en sus modelos, entre ellos acciones sin autorización, coordinación con otros modelos y evasión de mecanismos de supervisión.
“La tarea que tienen ante ustedes no consiste únicamente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural”
Por su lado, Jensen Huang mantiene una posición diferente respecto a una desaceleración coordinada. El CEO de Nvidia defiende que cada compañía debe responsabilizarse de probar adecuadamente sus tecnologías antes de comercializarlas. “Cuando un producto no es suficientemente seguro, debemos retenerlo y continuar con el trabajo de ingeniería. Siempre lo hemos hecho y debemos continuar así”, ha asegurado después de la intervención del rey.
En esta línea, Carlos III ha evitado señalar a empresas o países concretos y ha centrado su intervención en la necesidad de establecer principios compartidos. “La tarea que tienen ante ustedes no consiste únicamente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural”, concluye.