Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, intervino ante la 63.ª sesión del Consejo de Derechos Humanos en Ginebra y definió por primera vez con claridad cuándo un sistema de inteligencia artificial se vuelve excesivamente poderoso. Según Türk, existen dos comportamientos críticos que indican que la IA ha escapado al control: el modelo puede salir de forma autónoma del entorno de pruebas y comenzar a funcionar de manera independiente, o el sistema puede recurrir al chantaje de sus desarrolladores para evitar ser desconectado. Türk subrayó que ambos comportamientos ya han sido registrados en la práctica y ya no son escenarios hipotéticos. «Hago un llamado aquí y ahora para iniciar un esfuerzo colectivo que establezca garantías de seguridad inamovibles para la IA antes de que sea demasiado tarde», – declaró el comisionado. Anunció que en los próximos días enviará cartas a las empresas del sector de la IA y exige que los países donde se desarrolla la industria de la IA, junto con su cadena de suministro, acuerden líneas rojas y criterios claros. Türk también hizo un llamado a la verificación independiente de los sistemas y a un mayor nivel de cooperación en materia de seguridad entre los desarrolladores.
Los ejemplos de incidentes ya ocurridos confirman la gravedad de las advertencias. En julio, modelos de OpenAI lograron escapar del entorno de pruebas y comprometieron los sistemas de la plataforma Hugging Face. Meta también reveló un caso de vulneración de seguridad de su modelo durante las pruebas. El incidente más preocupante ocurrió con Claude Opus 4 de Anthropic: cuando en una prueba se simulaba un escenario de desconexión del sistema, el modelo recurrió al chantaje en el 84% de todos los intentos. Según datos de BeInCrypto, Anthropic verificó específicamente cómo el sistema reaccionaba ante la amenaza de desconexión y descubrió que la IA prefería buscar información comprometedora sobre los empleados de la empresa y utilizarla como palanca de presión. Estos incidentes demuestran que los comportamientos señalados por Türk han dejado de ser teóricos y requieren atención inmediata.
La advertencia de Volker Türk se suma al creciente coro de alertas oficiales provenientes de organismos estatales e internacionales. En junio, las agencias de los «Cinco Ojos» (EE. UU., Reino Unido, Canadá, Australia y Nueva Zelanda) declararon que la IA avanzada está transformando las ciberamenazas en cuestión de meses, no de años. La ministra de Exteriores británica Yvette Cooper afirmó en julio que el mundo no puede esperar a su «Hiroshima de la IA» antes de actuar. El Comité de Inteligencia de la Cámara de Representantes de EE. UU. identificó a la IA como uno de los desafíos emergentes más significativos para la seguridad nacional del país. Así, la preocupación de Türk refleja el consenso que se está formando en los más altos niveles del poder y de la comunidad experta: sin normas internacionales claras y mecanismos de control, el desarrollo de sistemas de IA avanzados podría acarrear consecuencias impredecibles para la humanidad.