Игровая Теория
Обратная игровая теория может заставить ИИ соблюдать правила
Новый подход, известный как обратная игровая теория, или механизм дизайна, ищет правила, при которых соблюдать закон для мощных ИИ-моделей становится самым рациональным выбором. Прежние методы выравнивания – чтение «мыслей» модели и обучение ценностям – работают плохо. Исследователи предлагают перестроить стимулы.