La inteligencia artificial se ha situado entre las grandes preocupaciones de Naciones Unidas ante la próxima Asamblea General según ha indicado António Guterres, quien ha identificado la “IA desbocada”, junto a la crisis climática y el aumento de las desigualdades, como una de las tres amenazas existenciales que afronta el mundo y ha reclamado una respuesta internacional coordinada ante el rápido avance de esta tecnología.
El secretario general de la ONU ha dedicado cerca de la mitad de su intervención previa a la semana de alto nivel de la Asamblea General al desarrollo de la inteligencia artificial. Su mensaje parte de una aparente contradicción: la misma tecnología a la que atribuye un “enorme potencial” para acelerar el desarrollo sostenible, mejorar la educación, reforzar los sistemas sanitarios o aumentar la resiliencia climática también plantea riesgos que, a su juicio, ningún país puede afrontar de forma aislada.
“Un número creciente de quienes la están construyendo están dando la voz de alarma”, ha advertido Guterres, quien considera que el desarrollo tecnológico “avanza por delante de nuestra comprensión de los riesgos”. El secretario general ha situado así parte del origen de la preocupación dentro de la propia industria tecnológica, después de las advertencias formuladas durante las últimas semanas por investigadores y responsables de algunas de las principales compañías de IA.
“La acción nacional es esencial, pero la coordinación global también es indispensable. La IA no se detiene en las fronteras y tampoco sus riesgos”
En este sentido, Guterres ha defendido que corresponde a cada Gobierno proteger a sus ciudadanos frente a los posibles riesgos de la inteligencia artificial, aunque considera insuficiente una respuesta exclusivamente nacional. “La acción nacional es esencial, pero la coordinación global también es indispensable. La IA no se detiene en las fronteras y tampoco sus riesgos”, ha señalado.
Además, el secretario general ha cuestionado la eficacia de las pausas voluntarias cuando se adoptan de manera aislada, no pueden verificarse o se aplican de forma desigual entre países. La preocupación se concentra especialmente en la posibilidad de que la competición tecnológica internacional provoque una relajación progresiva de las medidas de seguridad con el objetivo de no perder terreno frente a otros actores.
“Soy consciente de las divisiones geopolíticas y de las tentaciones que pueden generar. Pero el mundo no puede permitirse una carrera a la baja en la seguridad de la IA”, ha advertido Guterres.
El planteamiento gana una especial relevancia ante la competencia tecnológica entre Estados Unidos y China. Guterres considera que los países con mayores capacidades en la frontera de la inteligencia artificial deberían establecer mecanismos de contacto e intercambio de información, además de unas salvaguardias comunes que reduzcan los riesgos derivados de esa carrera. Según ha advertido, una dinámica sin estos controles podría desembocar algún día en “un desastre gigantesco a escala mundial”.
“Necesitamos salvaguardias que generen confianza y que hagan que la IA sea segura, transparente y responsable, con la dignidad humana en el centro”
La propuesta de Naciones Unidas pasa por construir un marco internacional capaz de acompasar el avance tecnológico con mecanismos de seguridad. “Necesitamos salvaguardias que generen confianza y que hagan que la IA sea segura, transparente y responsable, con la dignidad humana en el centro”, ha defendido Guterres.
Asimismo, el secretario general ha reclamado un entendimiento común sobre cómo desarrollar sistemas de inteligencia artificial de manera segura y responsable, pero también sobre el momento en el que los modelos más potentes puedan necesitar medidas adicionales para controlar sus riesgos.
En este sentido, las Naciones Unidas ya han comenzado a construir parte de esa arquitectura internacional. Guterres ha señalado al Panel Científico Internacional Independiente sobre Inteligencia Artificial impulsado por la ONU como uno de los instrumentos destinados a aportar evidencias sobre las oportunidades y los riesgos de esta tecnología y alimentar el debate político internacional.
La posición del secretario general contrasta, además, con la defendida por el presidente estadounidense, Donald Trump, quien ha restado importancia a las advertencias sobre los riesgos de la IA y sostiene que Estados Unidos ya dispone de mecanismos suficientes para actuar frente a posibles abusos. Trump también ha vinculado las llamadas a frenar el desarrollo con el riesgo de conceder una ventaja tecnológica a China.
El debate llegará ahora a la Asamblea General de Naciones Unidas, que reunirá la próxima semana en Nueva York a líderes internacionales. Allí, Guterres pretende situar la gobernanza de la inteligencia artificial entre los asuntos centrales de sus conversaciones. Su tesis queda resumida en una idea que trasciende las diferencias regulatorias entre países: “La cooperación internacional es más necesaria que nunca”.