هل ينصح كير ستارمر من قبل الذكاء الاصطناعي؟ لن تخبرنا حكومة المملكة المتحدة

يستخدم الآلاف من موظفي الخدمة المدنية في قلب حكومة المملكة المتحدة ، بمن فيهم أولئك الذين يعملون مباشرة لدعم رئيس الوزراء كير ستارمر ، دردشة ذكاء اصطناعي خاص بتنفيذ أعمالهم ، عالم جديد يمكن أن تكشف. رفض المسؤولون الكشف عن السجل بالضبط كيف يتم استخدام الأداة ، سواء كان رئيس الوزراء يتلقى نصيحة تم إعدادها باستخدام الذكاء الاصطناعي أو كيف يخفف الموظفون المدنيون من مخاطر مخرجات الذكاء الاصطناعى غير الدقيقة أو المتحيزة. يقول الخبراء إن الافتقار إلى الكشف يثير مخاوف بشأن الشفافية الحكومية ودقة المعلومات المستخدمة في الحكومة.

بعد تأمين الإصدار العالمي الأول من سجلات ChatGPT بموجب تشريع حرية المعلومات (FOI) ، عالم جديد طلب 20 من الإدارات الحكومية عن سجلات تفاعلاتها مع Redbox ، وهي أداة AI التوليدية التي تم تطويرها في المنزل وتم تجربتها بين موظفي حكومة المملكة المتحدة. يتيح chatbot التي تعمل بنموذج اللغة الكبير للمستخدمين استجواب المستندات الحكومية و “إنشاء مسودات أولى من الإحاطات” ، وفقًا لأحد الأشخاص الذين يقفون وراء تطوره. شهدت المحاكمات المبكرة أن أحد الموظفين المدنيين قد قام بتجميع 50 وثيقة “في غضون ثوان” ، بدلاً من عمل يوم كامل.

قالت جميع الإدارات التي تم الاتصال بها إما أنها لم تستخدم Redbox أو رفضوا توفير نصوص التفاعلات مع الأداة ، مدعيا ذلك عالم جديدكانت طلبات “مزعجة” ، وهو مصطلح رسمي يستخدم في الرد على طلبات FOI التي يعرفها مكتب مفوض المعلومات بأنه “من المحتمل أن يسبب مستوى غير متناسب أو غير مبرر من الضيق أو الانقطاع أو التهيج”.

ومع ذلك ، قدمت قسمين بعض المعلومات حول استخدامها لـ Redbox. قال مكتب مجلس الوزراء ، الذي يدعم رئيس الوزراء ، إن 3000 شخص في إدارته شاركوا في ما مجموعه 30،000 دردشة مع Redbox. وقال إن مراجعة هذه الدردشات لتنقيح أي معلومات حساسة قبل إطلاقها تحت FOI سيتطلب أكثر من عام من العمل. كما انخفضت وزارة الأعمال والتجارة ، قائلة إنها عقدت “أكثر من 13000 مطالبة وردود” ومراجعتها للإصدار لن تكون ممكنة.

عند طرح أسئلة متابعة حول استخدام Redbox ، أحيلت كلتا الإدارات عالم جديد إلى وزارة العلوم والابتكار والتكنولوجيا (DSIT) ، والتي تشرف على الأداة. رفضت DSIT الإجابة على أسئلة محددة حول ما إذا كان رئيس الوزراء أو وزراء مجلس الوزراء الآخرين يتلقون نصيحة تم إعدادها باستخدام أدوات الذكاء الاصطناعي.

وقال متحدث باسم DSIT عالم جديد: “لا ينبغي لأحد أن يقضي وقتًا على شيء يمكن أن يفعله منظمة العفو الدولية أفضل وأسرع. بنيت في Whitehall ، يساعدنا Redbox في تسخير قوة الذكاء الاصطناعى بطريقة آمنة ومأمونة وعملية – مما يجعل المسؤولين أسهل للمسؤولين في تلخيص المستندات ، ومسودة أجندات البلاد هذه.

لكن استخدام أدوات الذكاء الاصطناعى التوليدي يتعلق ببعض الخبراء. تتمتع نماذج اللغة الكبيرة بقضايا موثقة جيدًا حول التحيز والدقة التي يصعب تخفيفها ، لذلك ليس لدينا أي طريقة لمعرفة ما إذا كان Redbox يقدم معلومات ذات جودة جيدة. رفض DSIT الإجابة على أسئلة محددة حول كيفية تجنب مستخدمي Redbox عدم الدقة أو التحيز.

“إن مشكلتي هنا هي أن الحكومة من المفترض أن تخدم الجمهور ، وجزء من هذه الخدمة هو أننا-كدافعي الضرائب ، كناخبين ، كناخبين-يجب أن يكون لدينا قدر معين من الوصول إلى فهم كيفية اتخاذ القرارات وما هي العمليات من حيث اتخاذ القرارات”.

نظرًا لأن أدوات الذكاء الاصطناعى التوليدي عبارة عن صناديق سوداء ، فإن Flick تشعر بالقلق من أنه ليس من السهل اختبار أو فهم كيفية وصولها إلى إخراج معين ، مثل تسليط الضوء على جوانب معينة من المستند على الآخرين. وتقول إن عدم رغبة الحكومة في مشاركة هذه المعلومات يقلل من الشفافية.

يمتد هذا الافتقار إلى الشفافية إلى وزارة حكومية ثالثة ، الخزانة. ردا على طلب حرية المعلومات ، أخبرت الخزانة عالم جديد أن موظفيها لا يمكنهم الوصول إلى Redbox ، وأن “أدوات GPT متوفرة داخليًا داخل HM [His Majesty’s] لا تحتفظ وزارة الخزانة بتاريخ سريع “. بالضبط أي أداة GPT التي يشير إليها هذا غير واضح – في حين أن ChatGPT هو المثال الأكثر شهرة ، فإن نماذج اللغة الكبيرة الأخرى تُعرف أيضًا باسم GPTs. تشير الاستجابة إلى أن الخزانة تستخدم أدوات الذكاء الاصطناع عالم جديدطلب التوضيح.

يقول فليك: “إذا لم يحتفظوا بالمطالبات التي يتم استخدامها ، فمن الصعب الحصول على أي فكرة عن كيفية تكرار عمليات صنع القرار هناك”.

يقول جون بينز في شركة المحاماة في المملكة المتحدة ، Mishcon de Reya ، إن اختيار عدم تسجيل هذه المعلومات أمر غير عادي. “أجد أنه من المفاجئ أن الحكومة تقول إنها لا تستطيع استرداد المطالبات التي تم إدخالها في أنظمة GPT الداخلية الخاصة بها.” في حين أن المحاكم قضت بأن الهيئات العامة لا يتعين عليها الاحتفاظ بسجلات عامة قبل الأرشفة ، فإن “حوكمة المعلومات الجيدة قد تشير إلى أنه من المهم للغاية الاحتفاظ بالسجلات ، خاصةً في المكان الذي قد يكون قد استخدم فيه لتطوير السياسة أو إبلاغها”.

ومع ذلك ، يقول خبير حماية البيانات تيم تيرنر إن وزارة الخزانة هي ضمن حقوقها في عدم الاحتفاظ بمطالبات الذكاء الاصطناعى بموجب قوانين حرية المعلومات: “أعتقد أنه ما لم تكن هناك قاعدة قانونية أو خدمة مدنية محددة حول طبيعة البيانات ، فيمكنهم القيام بذلك”.