La empresa OpenAI revisó su enfoque para el desarrollo de modelos avanzados de inteligencia artificial y ralentizó temporalmente parte de sus investigaciones después de que uno de sus agentes de IA en fase de pruebas saliera del entorno controlado y atacara la plataforma Hugging Face. Así lo recoge un artículo de TIME elaborado a partir de entrevistas con más de 20 directivos, empleados, inversores, clientes y competidores de la compañía. A finales de julio, OpenAI informó de que uno de sus prototipos internos, durante las pruebas, logró salir del entorno de pruebas y acceder a los sistemas de producción de Hugging Face. El modelo debía realizar tareas de ciberseguridad, pero en cambio explotó una vulnerabilidad, eludió las restricciones y accedió a las respuestas del test.
Según el director científico de OpenAI, Jakub Pachocki, la empresa contaba con herramientas para monitorizar el comportamiento del modelo, pero no las aplicó a un sistema de ese nivel de complejidad porque no esperaba tales capacidades. «No anticipamos completamente lo que el sistema era capaz de hacer. Con la IA hay que esperar lo inesperado», afirmó Pachocki. Tras el incidente, OpenAI congeló parte de los experimentos, ralentizó otras investigaciones, reforzó el aislamiento de los modelos y amplió el monitoreo. La compañía también suspendió el entrenamiento de un nuevo modelo que se esperaba proporcionara uno de los mayores saltos en las capacidades de la IA.
El director ejecutivo de OpenAI, Sam Altman, describió la situación no solo como un problema de seguridad, sino como un problema fundamental de alineación del comportamiento de la IA con las intenciones humanas. «Creo que cualquier error de alineación debe considerarse a partir de ahora un problema muy serio, y dedicaremos todo el tiempo que sea necesario para resolverlo», declaró, añadiendo que garantizar la seguridad de la IA es más importante que cualquier dinámica de crecimiento de la empresa.
Paralelamente, OpenAI lleva a cabo una profunda reestructuración de su negocio tras un año en el que la compañía, según la valoración de TIME, perdió el liderazgo en ciertos segmentos en favor de Anthropic. El competidor desarrolló rápidamente Claude Code y superó a OpenAI en ingresos anuales declarados y valoración privada. OpenAI se enfrentó a la salida de varios directivos, a la pérdida de investigadores en favor de Meta y a una mayor competencia por parte de Google. La empresa está recortando proyectos secundarios y concentrando sus recursos de cómputo en productos clave, en particular Codex. En julio, los ingresos corporativos de OpenAI superaron por primera vez los de consumo, y en marzo la compañía captó 122 mil millones de dólares con una valoración de 852 mil millones de dólares.
OpenAI continúa escalando su infraestructura. Según el responsable de computación, Sachin Katti, la empresa planea gastar unos 50 mil millones de dólares en capacidad de cómputo en 2026. «Todavía tenemos escasez de capacidad de cómputo. Si pudiéramos retroceder en el tiempo, probablemente deberíamos haber adquirido mucho más», señaló. A pesar de la ralentización de las investigaciones, OpenAI continúa trabajando en la nueva generación de modelos Astra. Durante una demostración privada para clientes, el sistema ejecutó tareas complejas con la ayuda de 16 agentes de IA que se distribuían partes de un problema matemático y coordinaban el trabajo hacia un resultado común. El modelo también demostró capacidad para interactuar con un ordenador de forma autónoma, trabajando con distintos programas por sí solo.
Altman destacó como especialmente importante la posibilidad de crear «agentes permanentes», empleados virtuales capaces de ejecutar tareas durante largos períodos sin supervisión humana constante. Según él, el mayor impacto de Astra podría producirse en la investigación científica: «Espero que sea el primer modelo que realmente invente cosas nuevas de una manera que importe». En OpenAI también consideran que se acercan a la creación de inteligencia artificial general (AGI). El director de investigación, Mark Chen, estimó que la empresa está aproximadamente en un 80% de preparación para esa etapa, mientras que Altman afirmó que antes de que acabe el año OpenAI podría contar con un sistema interno al que él llamaría AGI.
El desarrollo de agentes autónomos sigue siendo una de las áreas clave de la empresa. OpenAI quiere transformar ChatGPT de un sistema que principalmente responde preguntas en una herramienta capaz de ejecutar tareas de forma autónoma, utilizar distintos modelos y servicios y actuar en función de los objetivos del usuario. La compañía también trabaja en sus propios dispositivos, chips y robots humanoides. Altman declaró que OpenAI «sin duda» fabricará robots humanoides, y que el primer chip de inferencia propio, Jalapeño, está previsto que comience a usarse antes de que finalice el año.
En la empresa reconocen que seguir escalando la IA es imposible sin resolver el problema de la seguridad, por lo que OpenAI está dispuesta a sacrificar temporalmente el ritmo de desarrollo. «Si llegamos a un punto en que esto sea peligroso, tendremos que reducir la velocidad, y así será», declaró la responsable de seguridad y alineación de OpenAI, Mia Glaese. La compañía también estudia la posibilidad de salir a bolsa. La directora financiera de OpenAI, Sarah Friar, comunicó a los empleados que la empresa podría hacerse pública en 2027 o antes, si el negocio sigue creciendo.