El CEO de Meta, Mark Zuckerberg, se opuso a la desaceleración coordinada del desarrollo de sistemas avanzados de inteligencia artificial. En su opinión, cada laboratorio debe determinar de manera independiente la velocidad de trabajo necesaria para el aprendizaje seguro de los modelos.
Zuckerberg considera que las empresas de IA ya tienen un incentivo natural para aumentar la seguridad de sus productos: los usuarios no elegirán agentes que actúan en contra de sus intenciones. Por lo tanto, la confianza y la alineación de la IA con los objetivos humanos se convierten en ventajas competitivas. Al mismo tiempo, el jefe de Meta informó que la propia empresa había ralentizado previamente el lanzamiento de Muse: el lanzamiento del agente de IA se pospuso por varios meses para centrarse en la seguridad y protección del sistema. Zuckerberg enfatizó que Meta hizo esto de manera independiente y no exigió una pausa similar a otros participantes del mercado.
El 9 de septiembre, Meta finalmente abrió el acceso a Muse. El agente es capaz de trabajar con correo electrónico, calendario, navegador y servicios conectados. La empresa declaró que opera en una máquina virtual en la nube dedicada, y las acciones con plataformas externas son controladas por un agente separado llamado Sentinel. Meta también ofreció hasta $300,000 por la detección de vulnerabilidades en el sistema. La desaceleración de Muse no fue el único caso en que los planes de Meta en el ámbito de la IA se desviaron de las expectativas iniciales. Anteriormente, Zuckerberg reconoció que el desarrollo de agentes de IA no se había acelerado tan rápidamente como esperaba la dirección de la empresa. En medio de un crecimiento de rendimiento más débil de lo esperado, Meta también abandonó una segunda ola de reestructuración masiva del personal.
La declaración de Zuckerberg se produjo en el contexto de un debate sobre la necesidad de desacelerar el desarrollo de los modelos más potentes. El CEO de Anthropic, Dario Amodei, propuso anteriormente un plan en tres etapas que prevé auditorías independientes y coordinación entre las principales empresas de IA. La iniciativa fue respaldada por el jefe de OpenAI, Sam Altman, y Elon Musk.
Artículos relacionados
