El CEO de Meta, Mark Zuckerberg, declaró que los desarrolladores de IA deben apoyarse en expertos independientes en seguridad al evaluar sus modelos, en lugar de ralentizar el desarrollo. Esto lo escribió en X el miércoles por la noche.
Zuckerberg señaló que los laboratorios de IA que no presten atención a la "coherencia" con los usuarios se quedarán atrás, y que los desarrolladores deberían involucrar a evaluadores y consultores independientes. "Hay muchas discusiones sobre si se debe ralentizar el progreso en las capacidades mientras se resuelven los problemas de coherencia. Mi posición es que la confianza y la coherencia se están convirtiendo rápidamente en características clave que diferenciarán a los agentes y modelos entre sí", afirmó Zuckerberg.
También informó que Meta ha pospuesto el lanzamiento de su último modelo de inteligencia artificial, Muse, para centrarse en cuestiones de seguridad. "Involucrar a evaluadores y consultores independientes es una buena práctica en la industria... sería útil crear un ecosistema más amplio y diverso de evaluadores", dijo. Los comentarios de Zuckerberg se produjeron en medio de un creciente debate sobre la seguridad de la IA, especialmente después de que el CEO de Anthropic, Dario Amodei, publicara un ensayo pidiendo que se ralentizara el desarrollo de la IA debido a amenazas potenciales. El CEO de OpenAI, Sam Altman, el jefe de xAI, Elon Musk, y varios otros líderes apoyaron la posición de Amodei. Sin embargo, el CEO de Nvidia, Jensen Huang, desestimó las preocupaciones sobre la seguridad.
Los comentarios de Zuckerberg se alinean más con la posición de Huang, quien criticó fuertemente las propuestas de otorgar a las empresas de IA excepciones antimonopolio para coordinar la desaceleración de los desarrollos. Huang afirmó que los desarrolladores de IA deben ser capaces de resolver problemas de seguridad por sí mismos, y que los creadores de modelos deben asumir una mayor responsabilidad por sus desarrollos.
Artículos relacionados
