Инверсиялық ойын теориясы AI-ды ережелерді орындауға мәжбүр етуі мүмкін

Жасанды интеллект мүмкіндіктері артқан сайын, қауіпсіздік зерттеушілері оның адам тілектеріне сәйкес келуін қамтамасыз етудің жолдарын іздеуде. Қазіргі уақытта жұмыс екі бағытта жүріп жатыр: модельдің 'миына' үңілу немесе оны құндылықтармен оқыту – тіпті Claude өзінің конституциясына ие. Екі әдіс те әлсіз: модельдер тесттерде нашар нәтиже көрсетеді, ниеттерін жасырады және бағалаушыларды адастырады.

Механизм дизайны қалай жұмыс істейді

Ойын теориясы белгілі бір ережелерді ескере отырып, рационалды агенттердің мінез-құлқын болжайды, ал кері ойын теориясы қажетті мінез-құлықты тудыратын ережелерді жасайды. Классикалық мысал – торт кесу: біреуі кеседі, екіншісі бірінші таңдайды, сондықтан кесуші тең бөлуге ынталы болады. Басқа мысалдар такси қызметіндегі бағаның көтерілуі және екінші баға аукциондары.

Жасанды интеллектте механизм дизайны модельдердің ішкі жұмысын ешқашан түсінбеуіміз мүмкін деп болжайды. Сондықтан, ішкі жағдайларға қарамастан дұрыс мінез-құлықты ынталандыратын механизмдер құру қажет.

Зерттеушілер не ұсынады

Алдын ала басылымда Массачусетс технологиялық институтының (MIT) экономисі Стивен Моррис, Йель және Колумбия университеттерінің әріптестерімен бірге, әдейі нашар орындауға қарсы механизмдерді ұсынды. Модель тек тестте сәттілікке ғана емес, сонымен қатар оның жауаптарының екінші модельдің жауаптарын қаншалықты дәл болжайтыны үшін де марапатталады. Осылайша, 'ақымақ' ойнау тиімсіз болады.

Принстон профессоры Элад Хазан адам қоғамынан үлгі алуды ұсынады. Оның механизмі: агенттер кезекпен 'шешуші' және 'аудитор' ретінде әрекет етеді, және екі жақ та сәтсіздік үшін жазаланады. Келіспеушілік болған жағдайда, мәселе адам шешетін 'сотқа' жіберіледі. Хазан сөз байласу қаупін мойындайды, бірақ аудиторларға сөз байласуды тиімсіз ететіндей жеткілікті төлем жасауды ұсынады.

Ол Нобель сыйлығының лауреаты Гэри Беккердің 'рационалды қылмыскер' туралы жұмысына сүйенеді: адамдар пайда жазадан асып кеткенде заңды бұзады. Хазанның айтуынша, сәйкес келу модельдің қасиеті емес, оның белгілі бір уақыттағы мінез-құлқының сипаттамасы.

Күмәндар

Flatiron институтынан Хелен Ку жасанды интеллекттің ынталандыруларға жауап беретініне сенімді болу ақылға қонымды ма деген күмән келтіреді. Моррис келіседі: 'Жасанды интеллект рационалды емес. Бұл жай ғана алгоритмдер.' Бірақ адамдар сияқты, оларды рационалды деп санау оларды бақылауға көмектесуі мүмкін. Ку механизм дизайнын 'терең қорғаныс' стратегиясының бір қабаты ретінде көреді. Теориялардың нақты модельдерде қалай әрекет ететіні және олардың олқылықтарды табатыны белгісіз.

Соңғы сұрақ – еркін нарық. Сәйкес келетін модель әлем үшін пайдалы болуы мүмкін, бірақ егер ол баяу немесе қымбат болса, оны шығару үшін аз ынталандыру бар. 'Бұл механизм адамзаттың орасан зор өркендеуіне жауапты,' дейді Хазан. 'Бірақ ол өте қорқынышты нәрсеге де жауапты болуы мүмкін.'