أنتروبك تحذر من تهديد تطوير الذكاء الاصطناعي المتسارع

أفادت Anthropic أن النماذج المستقبلية قد تصل قريبًا إلى عتبة التقدم السريع المتسارع من خلال تطبيق الذكاء الاصطناعي في البحث. ظهر التحذير في 2 نوفمبر 2026، في نموذج S-1/A المحدث المقدم إلى لجنة الأوراق المالية والبورصات الأمريكية (SEC) قبل الطرح العام الأولي المخطط له.

يشير هذا إلى العملية التي يساعد فيها الذكاء الاصطناعي في إنشاء نسخ أكثر تقدمًا من نفسه. يمكن للنماذج اللاحقة تسريع تطوير أنظمة جديدة. يُطلق على هذه الآلية تحسين الذات المتكرر، لكن Anthropic لا تدعي أنها حققت دورة ذاتية كاملة بعد.

ما قالته Anthropic للمستثمرين

تستخدم الشركة Claude لكتابة الأكواد واختبار النماذج الجديدة وتحسينها. تقدر أن توسيع هذه الممارسة يمكن أن يسرع من التطور التكنولوجي أكثر من تحسين طرق تقييم سلامتها.

أكدت Anthropic: “لم نحدد أيًا من نماذجنا الحالية على أنها تتجاوز هذه العتبة.”

يستند التحذير إلى الحسابات الداخلية والتوقعات المتعلقة بالأنظمة المستقبلية. كما ينص المستند على أن الشركة قد لا تكتشف دائمًا تسارع التطوير في الوقت المناسب، حيث تعتمد بعض التقييمات على مقاييس متاحة بتأخير.

كيف تنوي الشركة التحكم في المخاطر

في سياسة التوسع المسؤول، تحدد Anthropic أحد العتبات بمضاعفة معدل التقدم العام للذكاء الاصطناعي، والذي يمكن ربطه بشكل معقول بأتمتة البحث والتطوير. لا يعني ذلك ببساطة مضاعفة إنتاجية الموظفين.

عند الاقتراب من مثل هذا المستوى، توفر الشركة مراقبة معززة للعمليات الداخلية، وفحوصات سلوك النماذج، واختبارات لتجاوز القيود. كما تفكر Anthropic في تغييرات في السياسات للحفاظ على سيطرة الإنسان على إنشاء أنظمة الذكاء الاصطناعي المتقدمة.

بالنسبة للمساهمين المحتملين، لا تتعلق المخاطر فقط بسلامة التقنيات. إذا بدأت قدرات النماذج في التطور بشكل أسرع من أدوات التحكم، فقد تواجه الشركة تأخيرات في إصدار المنتجات، ونفقات إضافية، وقيود على التوزيع.

لم يتم تحديد توقيت الوصول إلى العتبة. تواصل Anthropic التحقق من التقييمات ولا تدعي أن تحسين الذات المتكرر قد أصبح حقيقة واقعة بالفعل.