역전 게임 이론이 AI가 규칙을 따르게 할 수 있다
기술11월 03일
역전 게임 이론이 AI가 규칙을 따르게 할 수 있다
역전 게임 이론 또는 메커니즘 설계로 알려진 새로운 접근 방식은 강력한 AI 모델이 법을 준수하는 것이 가장 합리적인 선택이 되는 규칙을 찾고 있습니다. 이전의 정렬 방법—모델의 '생각'을 읽고 가치를 가르치는 것—은 잘 작동하지 않았습니다. 연구자들은 인센티브 구조를 재편성할 것을 제안합니다.