En una comparecencia ante el Senado de Estados Unidos sobre la gobernanza de la inteligencia artificial generativa, Altman ha asegurado que la normativa es clave para reducir los riesgos de unos modelos que son cada vez más potentes, a medida que aumentan los temores sobre las amenazas para la sociedad.
"Una intervención regulatoria de los gobiernos es de una importancia crítica para reducir los riesgos de los potentes modelos de Inteligencia Artificial que se están creando"
"La Inteligencia Artificial y su influencia en las elecciones son un área de preocupación muy importante, por lo que una regulación sería bastante sabia", apunta Altman. "Creemos que una intervención regulatoria de los gobiernos es de una importancia crítica para reducir los riesgos de los potentes modelos de Inteligencia Artificial que se están creando. Estados Unidos debe liderar, pero para que sea efectivo, necesitamos una regulación global", defiende el CEO de OpenAI.
Durante su testimonio son varias las amenazas que se han discutido, especialmente centradas en la propagación de la desinformación y las violaciones de las leyes de privacidad de datos asociadas al modo en que OpenAI entrena sus modelos.
En este sentido, uno de los senadores ha asegurado que la perspectiva de una IA inadecuadamente entrenada "da más que un poco de miedo" y ha afirmado que las nuevas tecnologías deben "rendir cuentas".
Además, ha advertido de los riesgos que supone que ChatGPT sea capaz de imitar y simular interacciones humanas auténticas, una acción que ha reflejado al inicio de su intervención con un discurso generado por el modelo y entrenado con su voz.
Nuria Oliver: "Nos están distrayendo con una hipotética situación apocalíptica de una Inteligencia Artificial que no está cerca ni sabemos si algún día la tendremos"
Leer más
En esta línea, Altman ha sugerido que se cree una agencia gubernamental para regular la formación y el despliegue de la inteligencia artificial, lo cual sería útil para el desarrollo ya que contar con "una combinación de requisitos de licencias y pruebas" para los desarrolladores facilitaría los procesos. Además, ha propuesto que se revoquen las licencias de los desarrolladores que generen herramientas de IA que superen ciertos "umbrales" o "capacidades", como los modelos capaces de autorreplicarse o de generar contenidos dañinos.
"Mi mayor miedo es que la industria tecnológica cause un gran daño al mundo, y eso puede venir desde diferentes puntos. Es por eso por lo que empezamos Chat GPT. Si esta tecnología va mal, puede ser muy negativo. Por eso queremos trabajar de la mano del Gobierno, para evitar que eso suceda", explica el directivo.
Asimismo, ha instado a que se cree una norme que regule la forma en que las herramientas de aprendizaje automático recopilan datos de internet para generar respuestas. "Los usuarios deberían poder optar por que empresas como la nuestra u otras redes sociales no utilicen sus datos", asegura.
Si (
No(
