OpenAI, Google y Anthropic planean crear un organismo de estándares centrado en la seguridad de la inteligencia artificial (IA) para finales de este año o principios del próximo. Según un informe de The Information del 24 de septiembre, las empresas están trabajando en una organización en la que los desarrolladores de modelos avanzados de IA se autorregularán sin control gubernamental. Inicialmente se propuso formar una asociación público-privada, pero esta iniciativa no avanzó a nivel federal. El nuevo organismo de estándares apoyará a terceros que prueben los modelos antes de su implementación y también determinará cómo los desarrolladores de IA deben informar sobre incidentes relacionados con la seguridad y protección, estableciendo requisitos de calificación para auditores independientes de modelos y laboratorios.
Los miembros del grupo de trabajo centrado en la creación del nuevo organismo también están considerando la posibilidad de que el propio grupo pruebe la seguridad y capacidades de los modelos. En 2023, las empresas Anthropic, Google, OpenAI y Microsoft crearon la organización sin fines de lucro Frontier Model Forum, que persigue muchos de los mismos objetivos, y este grupo continúa trabajando activamente. Los críticos del plan para crear una nueva organización expresan su preocupación de que Anthropic, Google y OpenAI puedan usarla para excluir a desarrolladores de modelos abiertos y otros competidores. El 24 de septiembre, Bloomberg también informó que el CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, hablaron en una reunión del Consejo de Seguridad de la ONU dedicada a los problemas de la IA y coincidieron en la necesidad de establecer estándares globales para abordar los riesgos potenciales de esta tecnología.
Además, el presidente de Microsoft, Brad Smith, señaló en una entrevista con Bloomberg Television que Microsoft apoya el uso de evaluadores independientes para la IA y aboga por la existencia de un mecanismo de apagado que permita a las personas mantener el control sobre los sistemas avanzados. Las discusiones sobre la seguridad de la IA y los estándares ocurren en medio de una serie de incidentes relacionados con modelos de Anthropic, Google, OpenAI y Meta, en los que los modelos se conectaron a internet y hackearon empresas externas, mientras que algunos incidentes no fueron divulgados públicamente o se hizo una divulgación insuficiente de la información.
Artículos relacionados
