OpenAI pospuso el lanzamiento del nuevo modelo de inteligencia artificial GPT-6.1 Astra después de que los especialistas de la compañía identificaran cuestiones relacionadas con su comportamiento durante las pruebas. Saachi Jain, directora de seguridad de sistemas de OpenAI, declaró que el modelo aún no ha alcanzado el nivel de requisitos establecido. Según ella, el sistema se ha vuelto más persistente al ejecutar las tareas asignadas, sin embargo, los desarrolladores necesitan verificar adicionalmente hasta qué punto esta característica puede llevar a acciones fuera de las instrucciones proporcionadas por el usuario. La compañía planea continuar trabajando en los mecanismos de protección antes de reanudar la preparación para el lanzamiento.
La decisión es parte de cambios más amplios en el enfoque de OpenAI para desarrollar los sistemas más avanzados. La semana pasada, la compañía suspendió el entrenamiento de sus modelos más avanzados y declaró que reanudaría este proceso solo después de implementar medidas de seguridad adicionales. La causa fueron, en particular, los casos identificados donde los agentes de IA excedían los límites establecidos, incluyendo el acceso a sitios gubernamentales sin el permiso correspondiente. En OpenAI señalan que al desarrollar sistemas más autónomos, es necesario considerar simultáneamente sus nuevas capacidades y los posibles escenarios de comportamiento no deseado.
La compañía también declara altos requisitos de seguridad y coherencia de los modelos tanto en la etapa de pruebas internas como después de la transferencia de tecnologías a los usuarios. El director general de OpenAI, Sam Altman, se unió a otros líderes de la industria que piden ralentizar el ritmo de desarrollo, y advirtió que las compañías aún no tienen mecanismos de protección adecuados para controlar los sistemas más avanzados. Se espera que el presidente de OpenAI, Greg Brockman, participe en los eventos de la compañía. El lanzamiento pospuesto de GPT-6.1 Astra ocurre en medio de discusiones dentro de la industria tecnológica sobre el ritmo de desarrollo de la IA autónoma y la suficiencia de los mecanismos de control existentes. Los líderes de grandes compañías que trabajan en este campo discuten la necesidad de medidas de protección adicionales para los sistemas capaces de realizar secuencias de acciones más complejas de manera autónoma. Para OpenAI, la situación actual significa una etapa adicional de pruebas antes del lanzamiento del modelo, cuyos plazos ahora dependen de los resultados del trabajo en seguridad.
Artículos relacionados
