Microsoft опубликовала кодекс правил работы своих ИИ-моделей

Microsoft опубликовала кодекс поведения для собственных ИИ-моделей, который компания связывает с концепцией «гуманистического суперинтеллекта». Документ пока считается рабочим и открыт для предложений со стороны специалистов и сообщества. Поэтому его положения могут измениться, а некоторые из них пока скорее задают направление разработки, чем устанавливают технические требования.
В основе кодекса лежат десять принципов. Microsoft ставит интересы людей выше интересов ИИ и не считает правильным наделять модели правами или правосубъектностью. Компания также требует сохранять возможность прерывать работу, корректировать поведение и полностью отключать систему. Модель должна соблюдать кодекс даже в тех случаях, когда это мешает выполнению поставленной задачи. Отдельно говорится о необходимости сохранять человеческий контроль над взаимодействием ИИ-систем и не создавать у пользователей чрезмерную зависимость от ассистентов.
Еще один блок правил посвящен устройству и поведению моделей. Microsoft выступает против разработки систем, которые имитируют сознание, а также против взаимодействия ИИ в формах, недоступных для человеческого понимания и контроля. При этом компания поддерживает разнообразие культур, взглядов и ценностей, но связывает его с базовыми принципами безопасности, автономии, достоинства и прав человека. Сам документ признает сложность такого подхода: на практике разные ценности могут вступать в конфликт, а определение допустимого поведения напрямую влияет на работу моделей.

