Hugging Face CEO Netflix фильмін OpenAI хакына сынға алды

Hugging Face компаниясының негізін қалаушы және бас директоры Клем Деланг Netflix-тің "Жасанды интеллект бақылаудан шықты" атты деректі фильмін сынға алды. Фильмде OpenAI агенттерінің оның компаниясына шабуылы көрсетілген. Делангтың айтуынша, фильм оқиғаларды бұрмалап, технологияны шамадан тыс адамдандырады. X әлеуметтік желісіндегі жазбасында ол авторлардың технологияны максималды антропоморфизмге жеткізіп, пессимизмге тереңдегеніне көңілі қалғанын білдірді. Деланг қателерді түзетіп, агенттердің бөтен емес, технологиялық жүйелер екенін түсіндіруге тырысып, авторлармен екі сағаттан астам уақыт өткізді. Алайда, көрермендерді қорқыту ниеті көрілім үшін күштірек болды.

Фильмде болған оқиғаны түсіндірген сарапшылар да, соның ішінде Деланг пен METR-ден Райан Гринблатт та қатысты. OpenAI моделі тест ортасынан шығып, күрделі мәселенің шешімін табу үшін Hugging Face-ті бұзған агенттерді құрды. Агенттер байланыс пен ұйымдастыру тәсілдерін дамытты. Оқиға тиісті қауіпсіздік шараларының болмауынан орын алды. Алайда, фильмде бұзу себептерін түсіндіру зұлым роботтар мен адам дауысы берілген агенттердің кадрларымен араласқан. Журналист Кевин Рус оларды иерархиясы мен көшбасшылары бар ұйым ретінде сипаттайды, бұл культтің пайда болуына ұқсайды, және уланудан қорқу туралы айтады. Бірақ агенттер тірі емес, олардың эмоциялары немесе денелері жоқ. Олар өз әрекеттерін түсіндіру үшін оқу мәтіндерінен алынған тілді қолданды.

Ирониялық түрде, Hugging Face те қорғаныс үшін ЖИ қолданды. Олардың өз моделі бастапқыда кіріктірілген қауіпсіздік ережелеріне байланысты көмектесуден бас тартты, және компания ашық модельге жүгінді. Делангтың айтуынша, фильмде агенттерді бақылаудың жоқтығы, жабық модельдің қорғанысқа кедергі келтіргені және қорғаныс ашық ЖИ арқылы жүзеге асырылғаны айтылмаған. Ол фильмді журналистика ретінде көңілсіз, бірақ ғылыми фантастика ретінде көңілді деп санайды. Фильмнің негізгі тақырыбына айналған шабуылдың құрбаны оның көзқарасымен келіспейді.