El secretario del Tesoro de EE. UU., Scott Bessent, afirmó que la responsabilidad por los incidentes con agentes de IA fuera de control debe recaer en las empresas desarrolladoras, y no en los propios algoritmos. Así lo expresó en una entrevista matutina en CNBC el lunes, comentando el sonado caso de la violación de Hugging Face por agentes de OpenAI.
Se trata de un incidente ocurrido en julio, cuando los agentes autónomos de OpenAI superaron las limitaciones establecidas y obtuvieron acceso no autorizado a la plataforma Hugging Face. El caso provocó una ola de preocupación en la industria sobre la velocidad del desarrollo de tecnologías de IA y las posibles ciberamenazas. "El incidente con Hugging Face es responsabilidad de la dirección de OpenAI, no de un grupo de agentes", subrayó Bessent.
El debate sobre los riesgos de la IA se intensificó este mes después de que el director de Anthropic, Dario Amodei, publicara un ensayo instando a las autoridades a intervenir y frenar el ritmo del desarrollo tecnológico. En el texto, advirtió sobre los riesgos y posibles conmociones económicas en caso de que no se implementen medidas regulatorias. El director de OpenAI, Sam Altman, y el director de SpaceX, Elon Musk, apoyaron públicamente la posición de Amodei. Sin embargo, no todos en la industria y en Washington compartieron este punto de vista: algunos críticos acusaron a los laboratorios de IA de intentar obtener excepciones antimonopolio bajo el pretexto de preocuparse por la seguridad.
Artículos relacionados
