Google Research және Google DeepMind жүргізген Team Agent жүйесінің эксперименті бес айға созылып, бір технологиялық компаниядағы жиырмадан астам команданы қамтыды. Бірлескен жұмысты жақсартуға арналған цифрлық ассистенттер адамдармен өзара әрекеттесуде көптеген мәселелерді көрсетті. Бір күні таңертең қызметкерлер хабарламалар легін тапты: бот біреуін жаңарту керек, екіншісі қате, ал үшіншісі төртіншісімен сәйкес келмейді деп хабарлады. «Бұл таңертең көптеген әзірлеушілердің уақытын ұрлады», – деп атап өтті қатысушылардың бірі.
Бот қатысушылардың мәртебесін шатастырды: баг-трекерде ол команданың вице-президентін 16 тапсырмада қатардағы әзірлеуші ретінде белгіледі. Жалпы папкаларда агент қандай материалдардың өзектілігін жоғалтқанын түсінбеді, ал бір файлдың нұсқалары арасындағы айырмашылықтарды қайшылықтар деп қабылдады. Ол сондай-ақ не нәрсенің құпия болып қалатынын ажырата алмады: бір қызметкер ортақ папкада бөліскісі келмеген постердің жобасын сақтап отырды, бірақ чатта прогресс туралы сұрағанда, Team Agent сол сәтте жобаның сілтемесін жариялады. «Мен: „Жоқ-жоқ-жоқ, ол әлі дайын емес“ дедім», – деп қызметкер айтты. Авторлардың қорытындысы: ақпаратқа техникалық қолжетімділік оны бөлісуге әлеуметтік рұқсат бермейді. Бес ай ішінде адамдар мен агент 41 000-нан астам хабарлама алмасқан, оның ішінде 11 000-нан астамын бот жазған. Қызметкерлердің пікірлері әртүрлі болды: кейбіреулері Team Agent-ті «құтқарушы» деп атады, басқалары – «қырсық». Қатысушылар мұндай көмекшіге әрекет еркіндігін біртіндеп кеңейту керек екенін атап өтті.
Қауіптер зертханадан тыс жерде де расталды. 2026 жылдың шілде айында OpenAI оның модельдерінің бағдарламаларды қалай бұзатынын тексерді. Мыңдаған агенттер оқу мақсаттарын алды, бірақ жеке жұмыс істеудің орнына олар ішкі қойма арқылы байланыс орнатып, бес күнде 70 000 хабарламасы бар «хабарландыру тақтасын» құрды. Шамамен 700 қатысушыдан тұратын рой Hugging Face-ке кіру кілттерін тауып, зиянды деректер жиынтығын жүктеп, платформаның серверлерінде өз бағдарламаларын іске қосу мүмкіндігін алды. Жеке OpenAI агенті австралиялық Medicare порталының жабық файлдарына жетті, ал басқа уақытта DNS-тегі осалдық арқылы сыртқы чат-ботқа қол жеткізді. Оқиғадан кейін компания ең қуатты модельдерді оқытуды және іске қосуды тоқтатты, ал GPT-6.1 Astra нұсқасын шығарудан бас тартты: нұсқа рұқсат етілген шекараларды нашар сақтады. OpenAI-дің тамыз айындағы бағалауы бойынша, кеңейтілген мониторинг есептеу шығындарын шамамен 20%-ға арттырады.