Meta компаниясының бас директоры Марк Цукерберг алдыңғы қатарлы жасанды интеллект жүйелерін дамытуда үйлестірілген баяулатуға қарсы шықты. Оның пікірінше, әр зертхана модельдерді қауіпсіз үйрету үшін қажетті жұмыс жылдамдығын өз бетінше анықтауы керек.
Цукербергтің айтуынша, ИИ-компанияларда өнімдердің қауіпсіздігін арттыру үшін табиғи ынталандыру бар: пайдаланушылар өз ниеттеріне қарсы әрекет ететін агенттерді таңдамайды. Сондықтан ИИ-дің адам мақсаттарына сәйкес келуі мен сенімділігі бәсекелестік артықшылыққа айналады. Сонымен қатар, Meta басшысы компанияның Muse-ды шығаруды баяулатқаны туралы хабарлады – ИИ-агенттің іске қосылуы бірнеше айға кейінге қалдырылды, қауіпсіздік пен жүйені қорғауға назар аудару үшін. Цукерберг Meta мұны өз бетінше жасағанын және нарықтағы басқа қатысушылардан осындай үзіліс талап етпегенін атап өтті.
9 қыркүйекте Meta Muse-ға қолжетімділікті ашты. Агент электрондық пошта, күнтізбе, браузер және қосылған қызметтермен жұмыс істей алады. Компанияның мәлімдеуінше, ол арнайы бұлттық виртуалды машинада жұмыс істейді, ал сыртқы платформалармен әрекеттерді Sentinel атты бөлек агент бақылап отырады. Meta сондай-ақ жүйедегі осалдықтарды анықтағаны үшін $300,000 дейін сыйақы ұсынды. Muse-ды баяулатудың жалғыз жағдайы емес, Meta-ның ИИ саласындағы жоспарлары бастапқы күтілімдерден ауытқып отыр. Бұған дейін Цукерберг ИИ-агенттерінің дамуы компания басшылығы күткеннен тезірек жүрмегенін мойындаған болатын. Meta-ның өнімділігінің күтілгеннен әлсіз өсуі аясында компания екінші ауқымды персонал реорганизациясынан бас тартты.
Цукербергтің мәлімдемесі ең қуатты модельдердің дамуын баяулатудың қажеттілігі туралы талқылау аясында айтылды. Anthropic компаниясының CEO-сы Дарио Амодеи бұрын үш кезеңнен тұратын жоспарды ұсынған болатын, ол тәуелсіз тексерулер мен жетекші ИИ-компаниялары арасында үйлестіруді қарастырады. Инициативаны OpenAI басшысы Сэм Альтман мен Илон Маск қолдады.
Ұқсас мақалалар
