Генеральный директор Meta Марк Цукерберг заявил, что разработчики ИИ должны опираться на независимых экспертов по безопасности при оценке своих моделей, а не замедлять разработку. Об этом он написал в X в среду вечером.
Цукерберг отметил, что ИИ-лаборатории, не уделяющие внимания «согласованности» с пользователями, окажутся позади, и что разработчикам следует привлекать независимых оценщиков и консультантов. «Ведется много дискуссий о том, стоит ли замедлить прогресс в области возможностей, пока вопросы согласованности не будут решены. Моя позиция такова: доверие и согласованность быстро становятся важнейшими характеристиками, которые будут отличать агентов и модели друг от друга», – заявил Цукерберг.
Он также сообщил, что Meta отложила выпуск своей последней модели искусственного интеллекта Muse, чтобы сосредоточиться на вопросах безопасности. «Привлечение независимых оценщиков и консультантов является лучшей практикой в отрасли... было бы полезно создать более широкую и разнообразную экосистему оценщиков», – сказал он. Комментарии Цукерберга прозвучали на фоне растущей дискуссии о безопасности ИИ – особенно после того, как глава Anthropic Дарио Амодеи опубликовал эссе с призывом замедлить развитие ИИ из-за потенциальных угроз. Генеральный директор OpenAI Сэм Альтман, глава xAI Илон Маск и ряд других руководителей поддержали позицию Амодеи. Однако глава Nvidia Дженсен Хуанг отверг опасения по поводу безопасности.
Комментарии Цукерберга в большей степени совпадают с позицией Хуанга, который резко раскритиковал предложения о предоставлении ИИ-компаниям антимонопольных исключений для координации замедления разработок. Хуанг заявил, что разработчики ИИ должны быть способны самостоятельно решать проблемы безопасности, а создатели моделей должны нести большую ответственность за свои разработки.