Anthropic Advierte sobre la Amenaza del Desarrollo Acelerado de la IA

Anthropic informó que los futuros modelos podrían pronto alcanzar el umbral de un progreso acelerado rápidamente a través de la aplicación de la IA en la investigación. La advertencia apareció el 2 de noviembre de 2026, en un formulario S-1/A actualizado presentado ante la Comisión de Bolsa y Valores de EE. UU. (SEC) antes de la planeada OPI.

Esto se refiere al proceso donde la IA ayuda a crear versiones más avanzadas de sí misma. Los modelos subsecuentes pueden acelerar el desarrollo de nuevos sistemas. Este mecanismo se llama mejora recursiva, pero Anthropic no afirma haber logrado aún un ciclo completamente autónomo.

Lo que Anthropic dijo a los inversores

La compañía utiliza Claude para escribir código, probar y optimizar nuevos modelos. Estima que expandir esta práctica podría acelerar el desarrollo tecnológico más que mejorar los métodos para evaluar su seguridad.

Anthropic enfatizó: “No hemos designado ninguno de nuestros modelos actuales como superando este umbral.”

La advertencia se basa en cálculos internos y expectativas respecto a futuros sistemas. El documento también indica que la compañía puede no detectar siempre la aceleración del desarrollo a tiempo, ya que algunas evaluaciones dependen de métricas disponibles con retraso.

Cómo la compañía pretende controlar los riesgos

En su Política de Escalado Responsable, Anthropic define uno de los umbrales como duplicar la tasa de progreso general de la IA, lo cual puede estar razonablemente vinculado a la automatización de la investigación y el desarrollo. Esto no significa simplemente duplicar la productividad de los empleados.

A medida que se acerca a tal nivel, la compañía prevé una mayor supervisión de los procesos internos, verificaciones del comportamiento de los modelos y pruebas para eludir restricciones. Anthropic también está considerando cambios en las políticas para mantener el control humano sobre la creación de sistemas avanzados de IA.

Para los potenciales accionistas, los riesgos no solo están relacionados con la seguridad de las tecnologías. Si las capacidades de los modelos comienzan a desarrollarse más rápido que las herramientas de control, la compañía puede enfrentar retrasos en el lanzamiento de productos, gastos adicionales y restricciones de distribución.

El momento de alcanzar el umbral no está definido. Anthropic continúa verificando evaluaciones y no afirma que la mejora recursiva ya se haya convertido en una realidad.