جاك دورسي يدعو إلى بدائل مفتوحة وتدقيق مستقل للذكاء الاصطناعي

نشر المؤسس المشارك لتويتر والرئيس التنفيذي لشركة Block، جاك دورسي، مقالاً حول مستقبل الذكاء الاصطناعي، حيث عارض فرض قيود موحدة على تطوير الذكاء الاصطناعي للصناعة بأكملها. بدلاً من ذلك، اقترح رجل الأعمال التركيز على التحقق المستقل من المخاطر، والنماذج المفتوحة، وتوسيع وصول الباحثين إلى أنظمة الذكاء الاصطناعي والموارد الحاسوبية.

يعتقد دورسي أن تطوير التكنولوجيا لا ينبغي أن يتركز في أيدي عدد قليل من الشركات الكبرى أو الهياكل الحكومية. وفقًا له، فإن الوصول الأوسع إلى النماذج سيمكن الباحثين المستقلين من اكتشاف الأخطاء وإنشاء حلول بديلة. ومع ذلك، لا يدعو الشركات إلى الكشف عن الأوزان المغلقة للنماذج، بل يقترح تطوير مشاريع مفتوحة بالتوازي، يمكن للمستخدمين والباحثين دراستها وتعديلها وتشغيلها بشكل مستقل.

كما انتقد رجل الأعمال اقتراح الرئيس التنفيذي لشركة Anthropic، داريو أمودي، الذي يدعو إلى الجمع بين التقييمات المستقلة للقدرات الخطرة للذكاء الاصطناعي مع قيود محتملة على الموارد الحاسوبية وأكبر عمليات التدريب. صرح دورسي بأنه يدعم عمليات التحقق من الأمان، لكنه يعتقد أن القيود الموحدة للصناعة بأكملها يمكن أن تقلل من الفرص للمطورين والباحثين المستقلين.

كحجة لتعزيز الرقابة، نظر دورسي في خطر التحسين الذاتي المتكرر (RSI)، حيث تشارك أنظمة الذكاء الاصطناعي في إنشاء نماذج أكثر قوة. كما أشار إلى دراسة METR المتعلقة بحادثة أثناء اختبار وكلاء الذكاء الاصطناعي من OpenAI. ومع ذلك، أشار دورسي إلى أن حادثة واحدة ليست دليلاً كافياً على التوقعات بشأن قدرة مثل هذه الأنظمة في المستقبل القريب على الحصول على السيطرة على الإنترنت بشكل مستقل. مثل هذه الاستنتاجات، وفقًا له، تتطلب تحققًا مستقلًا إضافيًا. بدلاً من تقييد القدرات الحاسوبية، يقترح دورسي توسيع الاختبارات المستقلة ونشر نتائج تقييمات الأمان. يجب النظر في القيود على إصدار النماذج، حسب رأي رجل الأعمال، فقط في حالة وجود أدلة مؤكدة بشكل مستقل على خطر كبير وعدم وجود طرق أضيق لتقليله.

تحتل فكرة الوصول المحلي وعبر الحدود إلى الذكاء الاصطناعي مكانة خاصة في المقال. يدعو دورسي إلى إمكانية تشغيل النماذج مباشرة على الأجهزة، وتعديلها بشكل مستقل، والتحكم في استخدام البيانات الشخصية دون الاعتماد الإجباري على واجهات برمجة التطبيقات الخاصة بأكبر المطورين. وفقًا له، يجب أن يحافظ هذا النهج على إمكانية ظهور مطورين جدد وبدائل للأنظمة الحالية للذكاء الاصطناعي.