El cofundador de Twitter y CEO de Block, Jack Dorsey, publicó un ensayo sobre el futuro de la inteligencia artificial, en el que se pronunció en contra de la introducción de restricciones uniformes al desarrollo de la IA para toda la industria. En su lugar, el empresario propuso centrarse en la verificación independiente de riesgos, modelos abiertos y la ampliación del acceso de los investigadores a los sistemas de IA y recursos computacionales.
Dorsey considera que el desarrollo de tecnologías no debe concentrarse en unas pocas grandes empresas o estructuras gubernamentales. Según él, un acceso más amplio a los modelos permitirá a los investigadores independientes encontrar errores y crear soluciones alternativas. Sin embargo, no insta a las empresas a revelar los pesos cerrados de los modelos, proponiendo desarrollar en paralelo proyectos abiertos que los usuarios e investigadores puedan estudiar, modificar y ejecutar por sí mismos.
El empresario también criticó la propuesta del CEO de Anthropic, Dario Amodei, quien aboga por combinar evaluaciones independientes de las capacidades peligrosas de la IA con posibles restricciones en los recursos computacionales y los lanzamientos de entrenamiento más grandes. Dorsey declaró que apoya las evaluaciones de seguridad, pero considera que las restricciones uniformes para toda la industria pueden reducir las oportunidades para desarrolladores e investigadores independientes.
Como argumento a favor de un mayor control, Dorsey consideró el riesgo de auto-mejora recursiva (RSI), en el que los sistemas de IA participan en la creación de modelos más poderosos. También se refirió a un estudio de METR relacionado con un incidente durante las pruebas de agentes de IA de OpenAI. Sin embargo, Dorsey señaló que un incidente aislado no es prueba suficiente de las previsiones sobre la capacidad de tales sistemas para obtener control sobre Internet en el futuro cercano. Según él, tales conclusiones requieren una verificación independiente adicional. En lugar de limitar las capacidades computacionales, Dorsey propone ampliar las pruebas independientes y publicar los resultados de las evaluaciones de seguridad. Las restricciones en el lanzamiento de modelos, según el empresario, deben considerarse solo si hay evidencia independiente confirmada de un riesgo significativo y no existen formas más específicas de mitigarlo.
Un lugar especial en el ensayo lo ocupa la idea de acceso local y transfronterizo a la IA. Dorsey aboga por la posibilidad de ejecutar modelos directamente en los dispositivos, modificarlos por cuenta propia y controlar el uso de sus propios datos sin depender obligatoriamente de las API de los desarrolladores más grandes. Según él, este enfoque debería preservar la posibilidad de la aparición de nuevos desarrolladores y alternativas a los sistemas de IA existentes.
Artículos relacionados
