كيف يمكن أن يؤذي استخدام الحكومة لمنظمة العفو الدولية الديمقراطية

تستكشف العديد من البلدان كيف يمكن أن تساعد الذكاء الاصطناعي في كل شيء من معالجة الضرائب إلى تحديد مزايا الرعاية الاجتماعية. لكن دراسة استقصائية تظهر أن المواطنين ليسوا متحمسين مثل حكوماتهم – وهذا يمكن أن يخاطر بالديمقراطية.

يقول ألكساندر ووك في جامعة لودفيج ماكسيميليان في ميونيخ في ألمانيا: “التركيز فقط على مكاسب الكفاءة على المدى القصير ومخاطر التكنولوجيا اللامعة التي تؤدي إلى رد فعل عنيف عام والمساهمة في انخفاض طويل الأجل في الثقة والشرعية الديمقراطية”.

طلب ووتك وزملاؤه حوالي 1200 شخص في المملكة المتحدة مشاركة مشاعرهم بشأن الإجراءات الحكومية حيث تعامل الإنسان أو منظمة العفو الدولية مع المهمة. تضمنت هذه السيناريوهات الافتراضية معالجة الإقرارات الضريبية ، والموافقة على طلبات الرعاية الاجتماعية أو رفضها وإجراء تقييمات للمخاطر حول ما إذا كان يجب أن يكون المدعى عليهم مؤهلين للحصول على الكفالة.

تم إخبار بعض الأشخاص فقط عن كيفية تحسين الذكاء الاصطناعى الكفاءة الحكومية-لكن الآخرين تعلموا عن كل من الفوائد والمخاطر المتعلقة بالنيابة. وشملت هذه المخاطر صعوبة في فهم كيفية اتخاذ قرارات الذكاء الاصطناعى ، وتزايد الاعتماد الحكومي على الذكاء الاصطناعى الذي يصبح أقل عكسًا مع مرور الوقت وعدم وجود مسارات واضحة للمواطنين للتنافس وتصحيح قرارات الذكاء الاصطناعي.

عندما أصبح الناس على دراية بالمخاطر المتعلقة بـ AI ، أبلغوا عن انخفاض كبير في ثقتهم في الحكومة والشعور بفقدان السيطرة. على سبيل المثال ، ارتفعت النسبة المئوية للمشاركين الذين أبلغوا عن فقدان السيطرة الديمقراطية في حكومتهم من 45 في المائة إلى أكثر من 81 في المائة في السيناريوهات حيث أصبحت الحكومة تعتمد بشكل متزايد على الذكاء الاصطناعي للتعامل مع المهام المحددة.

كما زادت نسبة الأشخاص الذين يطالبون بمنظمة العفو الدولية في الحكومة بشكل حاد بمجرد أن علم المشاركون بالمخاطر – حيث يرتفعون من أقل من 20 في المائة في سيناريو خط الأساس إلى أكثر من 65 في المائة في أي سيناريو حيث تعلموا عن كل من فوائد الحكومة باستخدام الذكاء الاصطناعي.

على الرغم من هذه النتائج ، يمكن للحكومات الديمقراطية الاستفادة من الذكاء الاصطناعى بطرق مسؤولة تحتفظ بالمواطنين ، كما تقول هانا Quay-de la Vallee في مركز الديمقراطية والتكنولوجيا في واشنطن العاصمة. لكنها تقول إن هناك قصص نجاح قليلة عن الذكاء الاصطناعي في الحكومة حتى الآن. وفي الوقت نفسه ، هناك بالفعل “حالات فشل قليلة” – ويمكن أن تكون مخاطر هذه الحالات عالية بشكل لا يصدق.

على سبيل المثال ، أدت جهود الدولة الأمريكية لأتمتة معالجة مزاعم المزايا العامة إلى توجيه الاتهام إلى عشرات الآلاف من الأشخاص بسبب الاحتيال. انتهى الأمر ببعض هؤلاء الأشخاص إلى تقديم طلب للإفلاس أو فقدان منازلهم. يقول Quay-de la Vallee: “أخطاء الحكومة لها آثار هائلة وطويلة المدى”.