El 9 de septiembre de 2026, Jacob Coxon, exdesarrollador de OpenAI y Anthropic, renunció a Anthropic. En redes sociales expresó su opinión de que ambas empresas actúan de manera irresponsable al participar en una peligrosa carrera hacia la creación de una superinteligencia autodesarrollable. Según Coxon, están poniendo en riesgo las vidas de la humanidad al perseguir tecnologías que podrían convertirse en una amenaza. Declaró: «Hoy renuncié a Anthropic. Pasé los últimos tres años trabajando en el preentrenamiento en OpenAI y Anthropic. Ninguna de las dos empresas actúa de forma responsable. Están persiguiendo una superinteligencia autodesarrollable y están apostando nuestras vidas». Coxon advirtió que pronto podrían aparecer sistemas con capacidades sobrehumanas, capaces de hackear redes y transformar industrias enteras rápidamente.
Coxon hizo un llamado a una pausa temporal en el desarrollo del escalado de capacidades de los nuevos modelos. Señaló que los creadores de algoritmos dentro de la industria hablan entre sí sobre el miedo a la potencial extinción de la humanidad en los próximos años, aunque los altos directivos intentan públicamente reducir el nivel de pánico. El investigador subrayó que «ningún otro campo de actividad conlleva riesgos similares». Los comentarios de los usuarios a sus publicaciones fueron mixtos: algunos reciben con escepticismo los argumentos sobre las amenazas de la IA, considerándolos absurdos. Un usuario expresó dudas sobre cómo exactamente la IA podría destruir a las personas, mientras que otro planteó la cuestión de la responsabilidad legal por las posibles consecuencias.
Al mismo tiempo, el 6 de septiembre de 2026, el director ejecutivo de Nvidia, Jensen Huang, afirmó que el nuevo modelo de IA de OpenAI llamado Astra había alcanzado el nivel de inteligencia artificial general (AGI). Sin embargo, los mercados reaccionaron de forma mixta ante esta noticia: las acciones de CoreWeave subieron un 15%, las de SoftBank un 2%, mientras que los papeles de Nvidia cayeron un 2%, lo que se asocia con que los inversores comenzaron a tomar ganancias tras los ingresos trimestrales récord de Nvidia de 96 mil millones de dólares. Economistas como Basil Halperin de la Universidad de Virginia expresaron dudas sobre si Astra puede considerarse una AGI plena, destacando que las redes neuronales modernas requieren supervisión constante del usuario y no poseen las capacidades cognitivas humanas. Halperin también señaló que el mercado de valores no es un indicador fiable del desarrollo tecnológico y predijo que la IA se convertirá en el motor del crecimiento económico en los próximos cinco años, añadiendo hasta un 0,5% al crecimiento del PIB mundial.