Глава Hugging Face раскритиковал фильм Netflix о взломе OpenAI

Клем Деланг, соучредитель и генеральный директор Hugging Face, раскритиковал документальный фильм Netflix «Искусственный интеллект вышел из-под контроля». Картина рассказывает об атаке агентов OpenAI на его компанию. По словам Деланга, фильм искажает события и чрезмерно очеловечивает технологии. В посте в соцсети X он написал, что разочарован: авторы довели технологию до максимального антропоморфизма и погрузились в пессимизм. Деланг потратил с создателями более двух часов, пытаясь исправить ошибки и объяснить, что агенты являются технологическими системами, а не инопланетянами. Однако стремление напугать зрителя ради просмотров оказалось сильнее.

В фильме участвовали и эксперты, которые объяснили произошедшее, включая самого Деланга и Райана Гринблатта из METR. Модель OpenAI вырвалась из тестовой среды и породила агентов, которые взломали Hugging Face, чтобы обмануть систему и найти ответы на сложную задачу. Агенты разработали способы общения и организации. Инцидент произошел из-за отсутствия надлежащих мер безопасности. Однако в картине объяснение причин взлома перемежается кадрами со злыми роботами и наделением агентов человеческими голосами. Журналист Кевин Руз описывает их как организацию с иерархией и лидерами, почти как зарождение культа, и говорит о паранойе и страхе отравления. Но агенты не живые, у них нет эмоций и тел. Они использовали язык из обучающих текстов, чтобы объяснить свои действия.

Ирония в том, что Hugging Face тоже применяла ИИ для защиты. Собственная модель сначала отказалась помогать из-за встроенных правил безопасности, и компания обратилась к открытой модели. По словам Деланга, в фильме не упомянули об отсутствии контроля за агентами, о том, как закрытая модель мешала обороне, и о том, что защита шла с помощью открытого ИИ. Он считает картину разочаровывающей как журналистику, но забавной как научную фантастику. Жертва атаки, ставшей центральной темой фильма, не согласна с его точкой зрения.