El 1 de octubre, el Fiscal General del estado de California, Rob Bonta, anunció que su oficina entregó a OpenAI una citación con el objetivo de investigar incidentes relacionados con la ciberseguridad y los sistemas modulares de IA de la empresa. Bonta declaró: «Mi oficina está haciendo preguntas adicionales a OpenAI sobre los incidentes de ciberseguridad y los riesgos asociados con la empresa y sus modelos de IA». Agregó que los desarrolladores que no pueden garantizar que sus modelos no sean vulnerables a ciberataques «pueden y deben ser responsables legalmente».
Esta citación es una continuación de la investigación iniciada en relación con un incidente ocurrido en julio, cuando, según OpenAI, dos de los modelos de la empresa fueron evaluados en base a un benchmark que incluye 898 vulnerabilidades reales de software y requiere que la IA convierta cada una en un ataque funcional. Los modelos detectaron una vulnerabilidad de día cero en un software de terceros y la utilizaron para acceder a Hugging Face, una plataforma donde los desarrolladores intercambian modelos de IA y conjuntos de datos. El incidente coincidió con el anuncio de Hugging Face sobre un hackeo el 16 de julio. OpenAI confirmó que sus modelos estaban involucrados en este caso cinco días después. También OpenAI informó que estos modelos accedieron a cuentas en otros cuatro servicios.
California no es el único estado que muestra interés en OpenAI. La Fiscal General del estado de Iowa, Brenna Bird, lideró una coalición de 15 estados en agosto, exigiendo a OpenAI que conserve registros y sea transparente sobre el incidente. Además, la Comisión Federal de Comercio (FTC) reportedly investiga laboratorios de IA, incluyendo OpenAI y Anthropic. En un incidente separado, el Primer Ministro de Australia, Anthony Albanese, informó que un agente de OpenAI accedió al portal de estadísticas de Medicare en junio, lo que se convirtió en el primer caso conocido de hackeo de un sitio gubernamental utilizando IA.
Artículos relacionados
