Twitter-дің тең құрылтайшысы және Block компаниясының CEO-сы Джек Дорси жасанды интеллекттің болашағы туралы эссе жариялап, бүкіл сала үшін ИИ дамуына бірыңғай шектеулер енгізуге қарсы шықты. Оның орнына кәсіпкер тәуелсіз тәуекелдерді тексеруге, ашық модельдерге және зерттеушілердің ИИ жүйелері мен есептеу ресурстарына қолжетімділігін кеңейтуге назар аударуды ұсынды.
Дорси технологияларды дамыту бірнеше ірі компаниялар немесе мемлекеттік құрылымдарда шоғырланбауы керек деп санайды. Оның пікірінше, модельдерге кеңірек қолжетімділік тәуелсіз зерттеушілерге қателерді табуға және балама шешімдер жасауға мүмкіндік береді. Сонымен қатар, ол компанияларды модельдердің жабық салмақтарын ашуға шақырмайды, ашық жобаларды параллель дамытуға, пайдаланушылар мен зерттеушілердің оларды өз бетінше зерттеп, өзгертіп, іске қосуға мүмкіндік беруге шақырады.
Кәсіпкер сондай-ақ Anthropic компаниясының CEO-сы Дарио Амодеи ұсынған қауіпті ИИ мүмкіндіктерін тәуелсіз бағалауды есептеу ресурстарына және ең ауқымды оқыту іске қосуларына ықтимал шектеулермен үйлестіру ұсынысын сынға алды. Дорси қауіпсіздік тексерулерін қолдайтынын, бірақ бүкіл индустрия үшін бірыңғай шектеулер тәуелсіз әзірлеушілер мен зерттеушілердің мүмкіндіктерін азайтуы мүмкін деп санайды.
Бақылауды күшейту дәлелі ретінде Дорси рекурсивті өзін-өзі жетілдіру (RSI) қаупін қарастырды, онда ИИ жүйелері неғұрлым қуатты модельдерді жасауға қатысады. Ол сондай-ақ OpenAI ИИ агенттерін тестілеу кезінде болған оқиғаға байланысты METR зерттеуіне сілтеме жасады. Сонымен қатар, Дорси жеке оқиға мұндай жүйелердің жақын болашақта интернетті өз бетінше бақылауға алу қабілеті туралы болжамдардың жеткілікті дәлелі емес екенін атап өтті. Мұндай қорытындылар, оның пікірінше, қосымша тәуелсіз тексеруді қажет етеді. Есептеу қуаттарын шектеудің орнына Дорси тәуелсіз тестілеуді кеңейтіп, қауіпсіздік бағалауларының нәтижелерін жариялауды ұсынады. Кәсіпкердің пікірінше, модельдерді шығару шектеулерін тек елеулі тәуекелдің тәуелсіз расталған дәлелдері болған жағдайда және оны азайтудың тар жолдары болмаған жағдайда ғана қарастыру керек.
Эсседе ИИ-ге жергілікті және трансшекаралық қолжетімділік идеясы ерекше орын алады. Дорси модельдерді тікелей құрылғыларда іске қосу, оларды өз бетінше өзгерту және ірі әзірлеушілердің API-леріне тәуелді болмай, өз деректерін пайдалануды бақылау мүмкіндігі үшін сөз сөйлейді. Оның пікірінше, мұндай тәсіл жаңа әзірлеушілер мен қолданыстағы ИИ жүйелеріне балама пайда болу мүмкіндігін сақтауы керек.
Ұқсас мақалалар
