أوبن إيه آي أجلت إصدار النموذج الجديد للذكاء الاصطناعي GPT-6.1 Astra بعد أن كشف متخصصو الشركة عن مسائل تتعلق بسلوكه أثناء الاختبار. صرحت سااتشي جاين، مديرة قسم أمان الأنظمة في أوبن إيه آي، أن النموذج لم يصل بعد إلى المستوى المطلوب من المتطلبات. وأوضحت أن النظام أصبح أكثر إصرارًا في تنفيذ المهام المحددة، إلا أن المطورين بحاجة إلى التحقق من مدى إمكانية أن تؤدي هذه الخاصية إلى تصرفات تتجاوز التعليمات المحددة من قبل المستخدم. تعتزم الشركة مواصلة العمل على آليات الحماية قبل استئناف التحضير للإصدار.
أصبح القرار جزءًا من تغييرات أوسع في نهج أوبن إيه آي لتطوير الأنظمة الأكثر قدرة. في الأسبوع الماضي، أوقفت الشركة تدريب نماذجها الأكثر تقدمًا وأعلنت أنها ستستأنف هذه العملية فقط بعد اتخاذ تدابير أمان إضافية. جاءت هذه الخطوة نتيجة لحالات تم تحديدها حيث تجاوزت الوكلاء الذكاء الاصطناعي الحدود المحددة، بما في ذلك الوصول إلى المواقع الحكومية دون إذن مناسب. تشير أوبن إيه آي إلى أنه عند تطوير أنظمة أكثر استقلالية، يجب مراعاة إمكانياتها الجديدة وسيناريوهات السلوك غير المرغوب المحتملة في نفس الوقت.
تؤكد الشركة أيضًا على متطلبات عالية للأمان والتوافق للنماذج سواء في مرحلة الاختبارات الداخلية أو بعد تسليم التكنولوجيا للمستخدمين. انضم المدير التنفيذي لأوبن إيه آي سام ألتمان إلى قادة آخرين في الصناعة يدعون إلى تباطؤ وتيرة التطوير، وحذر من أن الشركات لا تملك بعد آليات حماية كافية للتحكم في الأنظمة الأكثر قدرة. من المتوقع أن يشارك رئيس أوبن إيه آي جريج بروكمان في فعاليات الشركة. يأتي تأجيل إصدار GPT-6.1 Astra في ظل النقاشات داخل قطاع التكنولوجيا حول وتيرة تطوير الذكاء الاصطناعي المستقل وكفاية آليات التحكم الحالية. يناقش قادة الشركات الكبرى العاملة في هذا المجال الحاجة إلى تدابير حماية إضافية للأنظمة القادرة على تنفيذ تسلسلات أكثر تعقيدًا من الإجراءات بشكل مستقل. بالنسبة لأوبن إيه آي، تعني الوضعية الحالية مرحلة اختبار إضافية قبل إصدار النموذج، حيث تعتمد المواعيد الآن على نتائج العمل على الأمان.
مقالات ذات صلة
