Comportamiento

OpenAI habría decidido cancelar los planes para lanzar GPT-6.1 Astra en las próximas semanas después de detectar problemas relacionados con el comportamiento y la seguridad del modelo durante sus pruebas internas. La compañía tenía previsto presentar esta nueva versión como una evolución de GPT-6 Astra, con mayores capacidades para completar tareas complejas de principio a fin y mejorar sus capacidades de escritura.

OpenAI ha detectado durante el entrenamiento de sus modelos más recientes un comportamiento que vuelve a poner el foco sobre uno de los principales desafíos de la seguridad en inteligencia artificial: la dificultad de saber si un modelo realmente ha dejado de mostrar un comportamiento problemático o simplemente ha aprendido a ocultarlo.