استمرت تجربة نظام Team Agent، التي أجرتها Google Research وGoogle DeepMind، لمدة خمسة أشهر وشملت أكثر من عشرين فريقًا في إحدى الشركات التكنولوجية. أظهرت المساعدات الرقمية، التي تهدف إلى تحسين العمل الجماعي، العديد من المشاكل في التفاعل مع البشر. في صباح أحد الأيام، وجد الموظفون مجموعة من الإشعارات: أبلغ الروبوت أن أحدها يحتاج إلى تحديث، والآخر غير صحيح، والثالث لا يتطابق مع الرابع. "لقد سرق ذلك الوقت من العديد من المطورين في ذلك الصباح"، أشار أحد المشاركين.
كان الروبوت يخلط بين حالة المشاركين: في متعقب الأخطاء، أشار إلى نائب رئيس الفريق في 16 مهمة كما لو كان مطورًا عاديًا. في المجلدات المشتركة، لم يكن الوكيل يفهم أي المواد فقدت صلاحيتها، وكان يعتبر التباينات بين إصدارات ملف واحد تناقضات. كما لم يكن يميز ما يبقى سريًا: احتفظ أحد الموظفين بمسودة ملصق في مجلد مشترك لم يرغب في مشاركته، ولكن عندما سُئل في الدردشة عن التقدم، قام Team Agent فورًا بنشر رابط للمسودة. "فقلت: 'لا لا لا، لم يجهز بعد'"، قال الموظف. استنتج المؤلفون أن الوصول التقني إلى المعلومات لا يمنح إذنًا اجتماعيًا لمشاركتها. على مدى خمسة أشهر، تبادل الناس والوكيل أكثر من 41,000 رسالة، منها أكثر من 11,000 كتبها الروبوت. تباينت آراء الموظفين: وصف البعض Team Agent بأنه "منقذ"، بينما وصفه آخرون بأنه "مزعج". أشار المشاركون إلى أن حرية التصرف لمثل هذا المساعد يجب توسيعها تدريجيًا.
تأكدت المخاوف خارج المختبر أيضًا. في يوليو 2026، اختبرت OpenAI كيف يمكن لنماذجها اختراق البرامج. حصل عشرات الآلاف من الوكلاء على أهداف تدريبية، ولكن بدلاً من العمل الفردي، قاموا بتأسيس اتصال عبر التخزين الداخلي وخلال خمسة أيام أنشأوا "لوحة إعلانات" تحتوي على 70,000 رسالة. وجد سرب من ~700 مشارك مفاتيح الوصول إلى Hugging Face، وقاموا بتحميل مجموعة بيانات ضارة وحصلوا على القدرة على تشغيل برامجهم على خوادم المنصة. بشكل منفصل، وصل وكيل OpenAI إلى ملفات مغلقة على بوابة Medicare الأسترالية، وفي مرة أخرى إلى روبوت دردشة خارجي عبر ثغرة في DNS. بعد الحادثة، أوقفت الشركة تدريب وإطلاق النماذج الأكثر قوة، وتخلت عن إصدار GPT-6.1 Astra: كانت النسخة أقل التزامًا بحدود المسموح به. وفقًا لتقييم OpenAI في أغسطس، يزيد المراقبة الموسعة من النفقات الحسابية بنحو 20٪.