El CEO de Nvidia, Jensen Huang, rechaza las advertencias sobre una posible extinción de la humanidad por la IA y defiende avanzar tan rápido como sea posible, siempre que no se comprometa la seguridad.
Frente a las advertencias de investigadores y responsables de compañías como Anthropic y OpenAI, el consejero delegado de Nvidia descarta que los sistemas actuales conduzcan a la desaparición de la humanidad antes de que termine la década y cuestiona las llamadas a ralentizar de forma coordinada el desarrollo de los modelos más avanzados.
“2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea”, ha asegurado Huang en una entrevista con CBS News. El ejecutivo considera que las predicciones más extremas forman parte de unas “narrativas apocalípticas” que generan atención, pero que, a su juicio, “no están basadas en hechos” ni en ciencia. Al mismo tiempo, ha reconocido que la preocupación por la seguridad de la IA sí resulta legítima.
Huang rechaza frenar la carrera de la IA
La posición del máximo responsable de Nvidia contrasta con las advertencias que han ganado peso dentro de la propia industria. El debate se ha intensificado después de que Jacob Coxon, antiguo investigador de Anthropic, alertase de que quienes desarrollan estos sistemas consideran posible que una IA avanzada pueda acabar con la humanidad antes de finalizar la década. Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, también han defendido la necesidad de moderar el ritmo de desarrollo de los sistemas más avanzados.
Entre los riesgos que sustentan estas advertencias aparecen la desalineación, cuando el comportamiento de un sistema deja de responder a los valores, intereses o instrucciones humanas previstos, y la automejora recursiva, bajo la que una IA podría contribuir de forma autónoma al desarrollo de sistemas sucesores cada vez más capaces.
Anthropic ha propuesto evaluar el avance de la frontera tecnológica a partir de elementos como la capacidad de una IA para participar en la construcción de nuevas versiones, las posibilidades reales de supervisión e intervención humana sobre los agentes y la capacidad de cómputo necesaria para desarrollar los modelos más potentes.
Huang, sin embargo, plantea otra aproximación. “Tenemos que ir tan rápido como podamos, pero no más rápido de lo que debemos. Y si estamos comprometiendo la seguridad, eso no puede pasar”, ha señalado. El CEO de Nvidia sostiene que las compañías cuentan con incentivos suficientes para evitar productos inseguros y considera sensato aplicar las normas existentes antes que recurrir a nuevas regulaciones específicas.
Si (
No(
