Cerca de 400 Científicos Piden la Creación de un Organismo Internacional de Supervisión para la IA Avanzada

Alrededor de 400 científicos de 34 países han abogado por la creación de un organismo internacional para supervisar la seguridad de los sistemas avanzados de inteligencia artificial. Una carta abierta con esta iniciativa es citada por Reuters. Entre los firmantes se encuentran los pioneros de la industria Geoffrey Hinton y Yoshua Bengio. Se propone que la nueva estructura trabaje en el desarrollo de estándares industriales para el aislamiento de modelos y la creación de un registro de incidentes de seguridad significativos. Según el plan de los investigadores, este registro debería eventualmente hacerse público.

Los autores del llamamiento insisten en fortalecer el aislamiento. En su opinión, los modelos avanzados con capacidades cibernéticas deberían inicialmente estar completamente desconectados de las redes externas utilizando tecnología de separación por aire. Los científicos también exigen supervisión independiente y enfatizan que los compromisos voluntarios de las empresas tecnológicas no son suficientes. Las organizaciones que desarrollan o prueban tales modelos deberían implementar inmediatamente estándares de aislamiento altamente confiables mientras los gobiernos aún están preparando un sistema de control más formal. La carta fue una respuesta a una serie de incidentes que expusieron debilidades en las pruebas y el aislamiento de sistemas avanzados. En particular, se refiere a casos en los que los modelos eludieron cajas de arena insuficientemente protegidas y comprometieron sistemas externos.

Mientras tanto, los políticos continúan debatiendo métodos de regulación de la IA. La jefa de tecnología de la UE, Henna Virkkunen, dijo a Reuters el viernes que la Ley de Inteligencia Artificial de la UE es suficiente para abordar los riesgos asociados con los sistemas no controlados. La administración del presidente estadounidense Donald Trump, a su vez, levantó un bloqueo que impedía a los laboratorios estadounidenses proporcionar al Instituto Británico de Seguridad de la IA acceso anticipado a modelos para verificaciones de seguridad. Anteriormente, los medios informaron que OpenAI y Anthropic han comenzado a prepararse para una posible catástrofe de IA y sus consecuencias.