أداة Google تجعل الكتابة الناتجة عن الذكاء الاصطناعي قابلة للاكتشاف بسهولة

تستخدم جوجل العلامات المائية للذكاء الاصطناعي للتعرف تلقائيًا على النص الذي تم إنشاؤه بواسطة برنامج Gemini chatbot الخاص بالشركة، مما يسهل التمييز بين المحتوى الذي ينشئه الذكاء الاصطناعي والمشاركات المكتوبة بواسطة الإنسان. يمكن أن يساعد نظام العلامة المائية هذا في منع إساءة استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي لنشر معلومات مضللة ومضللة – ناهيك عن الغش في المدارس وأماكن العمل.

الآن، تعمل شركة التكنولوجيا على توفير نسخة مفتوحة المصدر من تقنيتها حتى يتمكن مطورو الذكاء الاصطناعي الآخرون من وضع علامة مائية على المخرجات من نماذجهم اللغوية الكبيرة، كما يقول Pushmeet Kohli من Google DeepMind، فريق أبحاث الذكاء الاصطناعي التابع للشركة، والذي يجمع بين مختبرات Google Brain و DeepMind السابقة. ويقول: “على الرغم من أن SynthID ليس حلاً سحريًا لتحديد المحتوى الناتج عن الذكاء الاصطناعي، إلا أنه يمثل لبنة بناء مهمة لتطوير أدوات تعريف أكثر موثوقية للذكاء الاصطناعي”.

وأعرب باحثون مستقلون عن تفاؤل مماثل. يقول سكوت آرونسون من جامعة تكساس في أوستن، والذي عمل سابقًا في مجال سلامة الذكاء الاصطناعي في OpenAI: “على الرغم من عدم وجود طريقة مضمونة للعلامة المائية المعروفة، أعتقد حقًا أن هذا يمكن أن يساعد في التقاط جزء من المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي، والغش الأكاديمي وغير ذلك الكثير”. . “آمل أن تحذو شركات نماذج اللغات الكبرى الأخرى، بما في ذلك OpenAI وAnthropic، حذو DeepMind في هذا الشأن.”

في شهر مايو من هذا العام، أعلنت Google DeepMind أنها نفذت طريقة SynthID الخاصة بها لوضع العلامات المائية على النصوص والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خدمات Google Gemini وVeo AI، على التوالي. وقد نشرت الشركة الآن ورقة في المجلة طبيعة يوضح كيف تفوق SynthID بشكل عام على تقنيات العلامات المائية المماثلة للذكاء الاصطناعي للنص. تضمنت المقارنة تقييم مدى سهولة اكتشاف الاستجابات من مختلف نماذج الذكاء الاصطناعي ذات العلامات المائية.

في نهج العلامات المائية للذكاء الاصطناعي الخاص بشركة Google DeepMind، عندما يقوم النموذج بإنشاء سلسلة من النصوص، تقوم خوارزمية “أخذ عينات من البطولة” بدفعه بمهارة نحو اختيار “رموز” كلمات معينة، مما يؤدي إلى إنشاء توقيع إحصائي يمكن اكتشافه بواسطة البرامج المرتبطة. تقوم هذه العملية بشكل عشوائي بجمع رموز الكلمات المحتملة في قوس على نمط البطولة، مع تحديد الفائز في كل زوج من خلاله الذي حصل على أعلى الدرجات وفقًا لوظيفة العلامة المائية. ينتقل الفائزون عبر جولات البطولة المتعاقبة حتى تبقى واحدة فقط – “نهج متعدد الطبقات” “يزيد من تعقيد أي محاولات محتملة للهندسة العكسية أو إزالة العلامة المائية”، كما يقول فورونج هوانج من جامعة ميريلاند.

يقول هانلين تشانج من جامعة هارفارد إن “الخصم الحازم” الذي يتمتع بكميات هائلة من القوة الحسابية لا يزال بإمكانه إزالة مثل هذه العلامات المائية للذكاء الاصطناعي. لكنه وصف نهج SynthID بأنه منطقي بالنظر إلى الحاجة إلى علامات مائية قابلة للتطوير في خدمات الذكاء الاصطناعي.

اختبر باحثو Google DeepMind نسختين من SynthID تمثلان مفاضلات بين جعل توقيع العلامة المائية أكثر قابلية للاكتشاف، على حساب تشويه النص الذي يتم إنشاؤه عادةً بواسطة نموذج الذكاء الاصطناعي. لقد أظهروا أن النسخة غير المشوهة من العلامة المائية للذكاء الاصطناعي لا تزال تعمل، دون التأثير بشكل ملحوظ على جودة 20 مليون استجابة نصية تم إنشاؤها بواسطة Gemini خلال تجربة حية.

لكن الباحثين أقروا أيضًا بأن العلامة المائية تعمل بشكل أفضل مع استجابات برامج الدردشة الأطول التي يمكن الرد عليها بعدة طرق – مثل إنشاء مقال أو بريد إلكتروني – وقالوا إنها لم يتم اختبارها بعد على الاستجابات لمشكلات الرياضيات أو البرمجة.

ووصف فريق جوجل ديب مايند وآخرون الحاجة إلى ضمانات إضافية ضد إساءة استخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ــ وأوصى هوانج بتنظيم أقوى أيضا. وتقول: “إن فرض العلامات المائية بموجب القانون من شأنه أن يعالج التحديات العملية وتحديات اعتماد المستخدم، مما يضمن استخدامًا أكثر أمانًا لنماذج اللغات الكبيرة”.