انتخابات الهند 2024: قد يكون لسياسيي التزييف العميق تأثير كبير

يعمل الذكاء الاصطناعي على تمكين الساسة في الهند من التواجد في كل مكان في وقت واحد في أكبر انتخابات في العالم من خلال استنساخ أصواتهم وأشكالهم الرقمية. حتى الشخصيات العامة الميتة، مثل السياسية والممثلة جايارام جايالاليثها، يتم إحياؤها رقميًا لحشد الدعم فيما يبدو أنه أكبر اختبار حتى الآن للانتخابات الديمقراطية في عصر التزييف العميق الناتج عن الذكاء الاصطناعي.

بدأ ما يقرب من 970 مليون ناخب مؤهل في الهند التوجه إلى صناديق الاقتراع في 19 أبريل في عملية متعددة المراحل تستمر حتى 1 يونيو لاختيار الحكومة المقبلة ورئيس الوزراء. وكان ذلك يعني ازدهار الأعمال بالنسبة لديفيندرا سينغ جادون، الذي تستخدم شركته The Indian Deepfaker عادةً تقنيات الذكاء الاصطناعي لإنشاء مؤثرات خاصة للحملات الإعلانية ومنتجات Netflix.

وتتعامل شركته مع أكثر من اثني عشر مشروعًا متعلقًا بالانتخابات، بما في ذلك إنشاء صور رمزية ثلاثية الأبعاد للسياسيين، واستخدام استنساخ الصوت والفيديو المزيف لتمكين المراسلة الشخصية بشكل جماعي، ونشر وكيل الذكاء الاصطناعي للمحادثة الذي يعرّف نفسه على أنه ذكاء اصطناعي، ولكنه يتحدث بصوته. للمرشح السياسي أثناء المكالمات مع الناخبين.

يقول جدعون: “للمرة الأولى، سيحدث هذا على نطاق واسع”. “هناك بعض الأحزاب السياسية التي ترغب في تجربة كل شيء، وحتى نحن لا نعرف ما هو التأثير الذي سيحدثه ذلك.”

لقد تغير الكثير منذ أن استخدم رئيس وزراء الهند الحالي، ناريندرا مودي، تكنولوجيا الهولوغرام ثلاثي الأبعاد لبث خطابات مسجلة مسبقا في تجمعات انتخابية متعددة في جميع أنحاء الهند في عام 2014. والآن، تتحدث صورته الرمزية التي أنشأها الذكاء الاصطناعي إلى الناخبين بالاسم في مقاطع فيديو واتساب مثل استخدام تكنولوجيا الذكاء الاصطناعي. لقد تضخمت السياسة الهندية.

يميل المحتوى الناتج عن الذكاء الاصطناعي إلى تقديم الناشطين بشكل إيجابي، بدلاً من استخدامه لشن هجمات على المعارضة، كما يقول جويوجيت بال من جامعة ميشيغان في آن أربور. ويقول إن الرسائل قد تصدقها الجماهير التي ليست على دراية بمحتوى الذكاء الاصطناعي المتطور، بينما تقوم أيضًا بإنشاء ميمات للناخبين الذين يدركون أن الذكاء الاصطناعي يقف وراءهم، لكنهم يستمتعون بها ويشاركونها لأنها تتماشى مع معتقداتهم السياسية.

لكن الأمر ليس نظيفًا تمامًا. وجد تقرير المخاطر العالمية لعام 2024 الصادر عن المنتدى الاقتصادي العالمي أن الخبراء الهنود أشاروا إلى المعلومات المضللة والمعلومات المضللة باعتبارها “أكبر تهديد” لبلادهم في العامين المقبلين، محذرين من مدى تأثير مقاطع الفيديو غير الدقيقة التي ينتجها الذكاء الاصطناعي على الناخبين وتأجيج الاحتجاجات. في عام 2018، انتشرت رسائل إخبارية ومقاطع فيديو مزيفة عبر تطبيق واتساب، مما دفع الغوغاء إلى إعدام العشرات من الأشخاص في الهند.

يقول جادون إن شركته رفضت على الفور حوالي نصف الطلبات المتعلقة بالانتخابات والتي يبلغ عددها 200 أو نحو ذلك والتي تلقتها لأنها كانت “غير أخلاقية”، مثل إنشاء مقاطع فيديو مزيفة كاذبة تهدف إلى الإضرار بصور الشخصيات السياسية.

لكنه يشير إلى أنه يمكن لأي شخص إنشاء مقاطع مزيفة منخفضة الجودة في غضون دقائق باستخدام أدوات عبر الإنترنت. ومراقبتهم أمر شبه مستحيل.

يقول ديفيج جوشي من جامعة كوليدج لندن: “في الهند، يتمثل الاختلاف الرئيسي في أن الموارد التي ينفقها صناع السياسات والشركات لدراسة هذه التحديات والتعامل معها تتضاءل تمامًا أمام حجمها وكثافتها”. “السياق السياسي هو أيضًا سياق تشجع فيه الأحزاب الخطاب المتطرف وخطاب الكراهية”.

سيعتمد الكثير على كيفية تعامل شركات التكنولوجيا الأمريكية مع التزييف العميق على منصات مثل فيسبوك، وإنستغرام، وواتساب، ويوتيوب، وتليغرام خلال الانتخابات الهندية. تعاونت شركة Meta، المالكة لفيسبوك، مع شبكة تدقيق حقائق تابعة لجهة خارجية لتقييم المعلومات الخاطئة المحتملة بـ 16 لغة هندية والإنجليزية، وتخطط لتصنيف المحتوى الناتج عن الذكاء الاصطناعي على نطاق أوسع على منصاتها بدءًا من مايو من هذا العام.

وتقول Meta إنها أطلقت أيضًا خط مساعدة للتحقق من الحقائق على WhatsApp للإبلاغ عن التزييف العميق وغيرها من المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي، بالتنسيق مع وحدة تحليل Deepfakes الجديدة التي أنشأها تحالف مكافحة المعلومات الخاطئة في الهند. يقول بامبوش راينا، رئيس وحدة تحليل Deepfakes، إن فريق خط المعلومات سيسمح لمستخدمي WhatsApp بمعرفة ما إذا كانت عينة الصوت أو الفيديو المقدمة تم التلاعب بها بواسطة الذكاء الاصطناعي، وسيقوم بإرسال أي معلومات خاطئة محتملة إلى شركاء التحقق من الحقائق.

لكن التحدي الأكبر هو ما إذا كانت لجنة الانتخابات الهندية – التي تعمل مع شركات التكنولوجيا لمعالجة المعلومات الخاطئة والمضللة – قادرة على ضمان بقاء الانتخابات نزيهة، كما يقول بال. وجزء من دورها هو حظر أي تمييز أو تحريض على أساس الدين أو الطائفة، وحظر انتحال الشخصية.