قامت OpenAI بتطبيق ميزة العلامات المائية للمحتوى النصي لتلبية متطلبات قانون الذكاء الاصطناعي في الاتحاد الأوروبي. في الأسابيع القليلة المقبلة، تخطط الشركة لتطبيق العلامة المائية الرقمية على مخرجات النصوص لنماذج ChatGPT وCodex المخصصة للاستخدام في الاتحاد الأوروبي. ومع ذلك، وعلى عكس تقنية مماثلة لشركة Anthropic، لا تخطط OpenAI لتطبيق هذه التقنية على المحتوى الذي يتم إنشاؤه خارج أوروبا، على الرغم من أن عملاء API يمكنهم اختيار تطبيق العلامة على أي معلومات تم إنشاؤها.
تقنية العلامات المائية من OpenAI لا تتعامل دائمًا مع التعرف على النصوص المولدة بواسطة الذكاء الاصطناعي ويمكن خداعها بسهولة. وفقًا لمتطلبات قانون الذكاء الاصطناعي، يجب على مزودي الذكاء الاصطناعي التوليدي جعل مخرجات النماذج قابلة للقراءة بواسطة الآلات. كانت شركة Anthropic أول من أعلن عن نهجها للامتثال لقانون الذكاء الاصطناعي، حيث طبقت خوارزمية Google SynthID-Text على نطاق عالمي. كما تطور Microsoft وMeta تقنيات مماثلة للصور، حيث أن المخاوف بشأن أصل المحتوى واستخدام الذكاء الاصطناعي التوليدي للمعلومات المضللة ليست محصورة في أوروبا فقط. تستخدم OpenAI طريقة العلامة المائية المسماة textGrain، التي "تضيف إشارة إحصائية غير مرئية إلى اختيار كلمات النموذج". يقوم الكاشف بتحليل هذه الإشارة لتحديد ما إذا كان النص يحتوي على علامة مائية من OpenAI. تتنبأ النماذج بالكلمات واحدة تلو الأخرى، بناءً على التوزيع الاحتمالي للكلمات الممكنة. من خلال اختيار كلمة أخرى بشكل دوري،– مرادف مثالي، ينحرف النص عن النمط الإحصائي الذي تشكله النموذج غير المتحيز.
نظريًا، يجب أن يلاحظ الكاشف هذا التغيير في استخدام الكلمات. الخطأ المتوقع هو واحد في المئة، ولكن في النصوص القصيرة بطول 200 كلمة، يمكن للكاشف اكتشاف 80 في المئة فقط من العلامات المائية، مقارنة بـ 95 في المئة في النصوص بطول 400 كلمة. النتائج أيضًا أسوأ للنصوص الوظيفية، مثل الشفرات أو النصوص الرياضية، حيث أن استبدال الكلمات من المرجح أن يؤدي إلى أخطاء. لا يتناول مستند textGrain الحالة التي قد يؤدي فيها اختيار الكلمات المعدل إحصائيًا إلى تغيير معنى النص. يبقى هذا ممكنًا إذا قام الخوارزم بتغيير أي حقيقة أو رقم مهم. نهج Anthropic، الذي يستبدل أيضًا كلمات معينة في المخرجات، على الرغم من استخدام خوارزمية مختلفة، يحمل نفس المخاطر. في أي حال، يمكن تحييد العلامة المائية من OpenAI بسهولة عن طريق استبدال الكلمات. في الاختبارات على مقاطع من 400 رمز، أدى استبدال 10 في المئة من الكلمات بمرادفات إلى تقليل اكتشاف العلامة المائية من 92 في المئة إلى 66 في المئة. عند استبدال 25 في المئة من الكلمات، لم يتم اكتشاف سوى 17 في المئة من العلامة المائية. وبالتالي، تشير النتائج إلى أن التغييرات التي تم إجراؤها للامتثال للتنظيم قد لا تكون موثوقة كما كان مخططًا لها.
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.
مقالات ذات صلة
