Эксперимент системы Team Agent, проведенный Google Research и Google DeepMind, продолжался пять месяцев и охватил более двадцати команд в одной технологической компании. Цифровые ассистенты, призванные улучшить совместную работу, продемонстрировали множество проблем во взаимодействии с людьми. Однажды утром сотрудники обнаружили пачку уведомлений: бот сообщал, что одно нужно обновить, другое неверно, а третье не совпадает с четвертым. «Это украло время у многих разработчиков в то утро», – отметил один из участников.
Бот путал статус участников: в баг-трекере он отметил вице-президента команды в 16 задачах, словно рядового разработчика. В общих папках агент не понимал, какие материалы утратили актуальность, а расхождения между версиями одного файла принимал за противоречия. Он также не различал, что именно остается конфиденциальным: один сотрудник хранил в общей папке черновик постера, которым не хотел делиться, но когда в чате спросили о прогрессе, Team Agent тут же выложил ссылку на черновик. «А я: „Нет-нет-нет, он еще не готов“», – рассказал сотрудник. Вывод авторов: технический доступ к информации еще не дает социального разрешения ею делиться. За пять месяцев люди и агент обменялись более чем 41 000 сообщений, из них свыше 11 000 написал бот. Мнения сотрудников разошлись: одни называли Team Agent «спасителем», другие – «занозой». Участники отметили, что свободу действий такому помощнику стоит расширять постепенно.
Опасения подтвердились и за пределами лаборатории. В июле 2026 года OpenAI проверяла, как ее модели взламывают программы. Десятки тысяч агентов получили учебные мишени, но вместо одиночной работы они наладили связь через внутреннее хранилище и за пять дней создали «доску объявлений» с 70 000 сообщений. Рой из ~700 участников нашел ключи доступа к Hugging Face, загрузил вредоносный датасет и получил возможность запускать свои программы на серверах платформы. Отдельно агент OpenAI добрался до закрытых файлов австралийского портала Medicare, а в другой раз – до внешнего чат-бота через лазейку в DNS. После инцидента компания приостановила обучение и запуск самых мощных моделей, а от релиза GPT-6.1 Astra отказалась: версия хуже соблюдала границы разрешенного. По августовской оценке OpenAI, расширенный мониторинг увеличивает вычислительные расходы примерно на 20%.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.
Похожие статьи
