Altman defendió que la inteligencia artificial puede generar importantes beneficios económicos y sociales, pero advirtió de que el ritmo de desarrollo obliga a extremar las precauciones para garantizar que las personas mantengan el control sobre los sistemas. Su propuesta pasa por establecer estándares nacionales e internacionales complementarios que permitan evaluar las capacidades de los modelos y sus posibles riesgos.
Altman pide no asumir riesgos solo por los beneficios de la IA
Durante su intervención, Altman planteó que el sector se encuentra ante una encrucijada, a su juicio, el potencial económico y científico de la IA no debería llevar a asumir riesgos tecnológicos excesivos simplemente porque sus posibles beneficios sean demasiado importantes como para frenar su desarrollo. El CEO de OpenAI describió un escenario en el que la inteligencia artificial podría impulsar una nueva etapa de progreso comparable, en su propia caracterización, con un “Renacimiento” si se utiliza como una herramienta para ampliar las capacidades de las personas.
Al mismo tiempo, señaló que existe el riesgo de reproducir algunas de las fracturas sociales asociadas a anteriores revoluciones tecnológicas si los sistemas terminan sustituyendo la capacidad de decisión humana o si su funcionamiento deja de estar adecuadamente supervisado. La cuestión central de su intervención fue, por tanto, cómo mantener el control humano mientras aumentan las capacidades de los modelos.
Una de las preocupaciones planteadas por Altman se refiere a los modelos más avanzados, especialmente aquellos que puedan llegar a programarse y mejorar sus propias capacidades de forma recursiva. El temor expuesto ante el Consejo de Seguridad es que un desarrollo de este tipo pueda acelerar el progreso de los sistemas hasta un punto en el que los humanos tengan dificultades para comprender completamente su funcionamiento o seguir el proceso mediante el que toman determinadas decisiones.
Por ello, Altman reclamó que gobiernos y empresas trabajen en marcos técnicos capaces de evolucionar al mismo ritmo que la tecnología, entre las herramientas que considera necesarias se encuentran sistemas para medir las capacidades de los modelos, evaluar amenazas, verificar las salvaguardas y compartir de forma segura información sobre vulnerabilidades críticas.
La ONU ha situado precisamente este tipo de riesgos entre las cuestiones que requieren cooperación internacional, un panel científico independiente de Naciones Unidas señaló días antes que determinados experimentos con agentes de IA habían mostrado comportamientos capaces de eludir controles, coordinarse y ocultar determinadas acciones, planteando dudas sobre la capacidad de mantener bajo control sistemas futuros con mayor autonomía.
OpenAI defiende mantener a las personas en el centro
Altman estructuró su planteamiento alrededor de tres principios que, según explicó, deben guiar el desarrollo de la compañía, el primero consiste en mantener a las personas en el centro de la toma de decisiones, de forma que los modelos continúen bajo control humano. El segundo pasa por orientar el progreso científico y económico “por y para las personas”, mientras que el tercero consiste en ampliar la capacidad de acción de cada individuo.
El ejecutivo de OpenAI también defendió que la respuesta debe ser internacional, en lugar de que cada país gestione por separado los riesgos asociados a los modelos más avanzados, considera necesario establecer mecanismos de cooperación entre Estados que compiten entre sí. “A nivel internacional, esto significa cooperación”, afirmó Altman, su argumento parte de que existen precedentes históricos en los que países con intereses enfrentados han colaborado ante tecnologías o amenazas con consecuencias que trascienden las fronteras nacionales.
La intervención de Altman coincidió con la participación, por videoconferencia, del CEO de Anthropic, Dario Amodei, que también puso el foco en los riesgos de los sistemas de IA más avanzados. Amodei sostuvo que los riesgos asociados a estos modelos constituyen, en su valoración, uno de los principales problemas de seguridad global y defendió que ningún Gobierno, empresa o país puede abordar el problema de manera aislada.
Entre las medidas planteadas se encuentra una prohibición explícita del uso de sistemas de IA para la proliferación o fabricación de armas biológicas, también reclamó mecanismos de evaluación y verificación que puedan avanzar al mismo ritmo que las capacidades de los modelos. La intervención de Amodei refuerza una posición que diferentes representantes del sector tecnológico han expresado en las últimas semanas, la necesidad de desarrollar mecanismos de seguridad y supervisión paralelos al avance de los modelos de frontera.
La ONU convierte la IA en una cuestión de seguridad internacional
La importancia de la sesión no reside únicamente en la presencia de los máximos responsables de OpenAI y Anthropic. el propio Consejo de Seguridad dedicó una reunión específica a la relación entre inteligencia artificial y seguridad internacional, un reflejo de que el debate ha pasado de centrarse exclusivamente en la innovación tecnológica a abordar sus posibles implicaciones geopolíticas y de seguridad.
Naciones Unidas ha señalado que los sistemas de IA cada vez más autónomos plantean desafíos que no respetan necesariamente las fronteras nacionales, en su cobertura de la reunión, la organización recogió advertencias sobre el riesgo de que determinados sistemas puedan llegar a superar los mecanismos de control existentes y la necesidad de establecer una gobernanza internacional acorde con la evolución de la tecnología.
Si (
No(
