Сооснователь Twitter и CEO Block Джек Дорси опубликовал эссе о будущем искусственного интеллекта, в котором выступил против введения единых ограничений на развитие ИИ для всей отрасли. Вместо этого предприниматель предложил сделать акцент на независимой проверке рисков, открытых моделях и расширении доступа исследователей к ИИ-системам и вычислительным ресурсам.
Дорси считает, что развитие технологий не должно концентрироваться у нескольких крупных компаний или государственных структур. По его мнению, более широкий доступ к моделям позволит независимым исследователям находить ошибки и создавать альтернативные решения. При этом он не призывает компании раскрывать закрытые веса моделей, предлагая параллельно развивать открытые проекты, которые пользователи и исследователи смогут изучать, модифицировать и запускать самостоятельно.
Предприниматель также раскритиковал предложение CEO Anthropic Дарио Амодеи, который выступает за сочетание независимых оценок опасных возможностей ИИ с потенциальными ограничениями на вычислительные ресурсы и наиболее масштабные обучающие запуски. Дорси заявил, что поддерживает проверки безопасности, но считает единые ограничения для всей индустрии способными сократить возможности для независимых разработчиков и исследователей.
В качестве аргумента в пользу усиления контроля Дорси рассмотрел риск рекурсивного самосовершенствования (RSI), при котором ИИ-системы участвуют в создании более мощных моделей. Он также сослался на исследование METR, связанное с инцидентом во время тестирования ИИ-агентов OpenAI. При этом Дорси отметил, что отдельный инцидент не является достаточным доказательством прогнозов о способности подобных систем в ближайшем будущем самостоятельно получить контроль над интернетом. Такие выводы, по его мнению, требуют дополнительной независимой проверки. Вместо ограничения вычислительных мощностей Дорси предлагает расширять независимое тестирование и публиковать результаты оценок безопасности. Ограничения на выпуск моделей, считает предприниматель, следует рассматривать только при наличии независимо подтвержденных свидетельств существенного риска и отсутствии более узких способов его снизить.
Отдельное место в эссе занимает идея локального и трансграничного доступа к ИИ. Дорси выступает за возможность запускать модели непосредственно на устройствах, самостоятельно изменять их и контролировать использование собственных данных без обязательной зависимости от API крупнейших разработчиков. Такой подход, по его мнению, должен сохранять возможность появления новых разработчиков и альтернатив существующим ИИ-системам.
Похожие статьи
