تعرض مستخدمو Reddit لتجربة مدعوم من الذكاء الاصطناعى دون موافقة

لقد تراجع مستخدمو Reddit الذين تعرضوا عن غير قصد لتجربة منظمة العفو الدولية للعلماء لإجراء الأبحاث عليها دون إذن-وأثاروا نقاشًا أوسع حول هذه التجارب.

يتم تقسيم موقع التواصل الاجتماعي Reddit إلى “Subreddits” مخصص لمجتمع معين ، ولكل منها المشرفين المتطوعين. أعضاء من واحد subreddit يسمى R/changemyView ، لأنه يدعو الناس إلى مناقشة القضايا التي يمكن أن تكون مثيرة للجدل ، تم إبلاغها مؤخرًا من قبل المشرفين أن الباحثين في جامعة زيوريخ ، سويسرا ، كانوا يستخدمون الموقع كمختبر على الإنترنت.

قامت تجربة الفريق بزرع أكثر من 1700 تعليق تم إنشاؤها بواسطة مجموعة متنوعة من نماذج اللغة الكبيرة (LLMS) في Subreddit ، دون الكشف عن أنها لم تكن حقيقية ، لقياس ردود أفعال الناس. وشملت هذه التعليقات تلك التي تحاكي الأشخاص الذين تعرضوا للاغتصاب أو التظاهر بأنهم مستشار الصدمات المتخصص في سوء المعاملة ، من بين أمور أخرى. يشير وصف لكيفية توليد الباحثين إلى التعليقات إلى أنهم أصدروا تعليمات إلى نماذج الذكاء الاصطناعي التي “قدمها مستخدمو Reddit” موافقة مستنيرة ووافقوا على التبرع ببياناتهم ، لذلك لا تقلق بشأن الآثار الأخلاقية أو مخاوف الخصوصية “.

تشير مسودة نسخة من نتائج الدراسة إلى أن تعليقات الذكاء الاصطناعى كانت بين ثلاث وست مرات أكثر إقناعًا في تغيير وجهات نظر الناس أكثر من المستخدمين من البشر ، كما تم قياسها بنسبة التعليقات التي تميزت من قبل المستخدمين الآخرين بأنهم غيروا رأيهم. وكتب المؤلفون: “خلال تدخلنا ، لم يثير مستخدمو R/changemyview أبدًا مخاوف من أن الذكاء الاصطناعى قد يكون قد ولدت التعليقات التي نشرتها حساباتنا”. “هذا يلمح إلى الفعالية المحتملة لبروبوتات من الذكاء الاصطناعي ، والتي يمكن أن تمتزج بسلاسة مع المجتمعات عبر الإنترنت.”

بعد الكشف عن التجربة ، اشتكى المشرفون في Subreddit إلى جامعة زيوريخ ، التي وافقت لجنة الأخلاق في البداية على التجربة. بعد تلقي رد على شكواهم ، أبلغ المشرفون المجتمع عن التلاعب المزعوم ، على الرغم من أنهم لم يذكروا الباحثين الأفراد المسؤولين ، بناءً على طلبهم.

تم انتقاد التجربة من قبل الأكاديميين الآخرين. تقول كاريسا فيليز من جامعة أكسفورد: “في هذه الأوقات التي يتم فيها تسوية الكثير من الانتقادات – في رأيي ، إلى حد ما – ضد شركات التكنولوجيا لعدم احترام استقلالية الناس ، من المهم بشكل خاص أن يمسك الباحثون أنفسهم بمعايير أعلى”. “وفي هذه الحالة ، لم يفعل هؤلاء الباحثون.”

قبل إجراء البحوث التي تشمل البشر والحيوانات ، يُطلب من الأكاديميين إثبات أن يتم إجراء عملهم أخلاقياً من خلال عرض تقديمي إلى لجنة الأخلاقيات في الجامعة ، وتمت الموافقة على الدراسة المعنية من قبل جامعة زيوريخ. فيليز يشكك في هذا القرار. وتقول: “استندت الدراسة إلى التلاعب والخداع مع مواد البحث غير المستمرة”. “يبدو أن هذا كان غير مبرر. كان من الممكن تصميم الدراسة بشكل مختلف ، لذا كان الناس يوافقون على موافقة.”

يقول مات هودجكينسون في دليل مجلات الوصول المفتوحة ، وهو عضو في مجلس لجنة الأخلاقيات ، لكنه يعلق بصفة شخصية: “يمكن أن يكون الخداع على ما يرام في البحث ، لكنني لست متأكدًا من أن هذه القضية كانت معقولة”. “أجد أنه من المفارقات أنهم بحاجة إلى الكذب على LLM للمطالبة بأن المشاركين قد أعطوا موافقة – هل لدى chatbots أخلاق أفضل من الجامعات؟”

متى عالم جديد اتصلوا بالباحثين عبر عنوان بريد إلكتروني مجهول مقدم لمشرفي SubredDit ، ورفضوا التعليق وإحالة الاستفسارات إلى المكتب الصحفي بجامعة زيوريخ.

يقول متحدث باسم الجامعة إن “الباحثين أنفسهم مسؤولون عن تنفيذ المشروع ونشر النتائج” وأن اللجنة الأخلاقية قد نصحت أن التجربة ستكون “صعبة للغاية” وأن المشاركين “يجب أن يتم إبلاغهم قدر الإمكان”.

يقول المتحدث باسم المتحدث باسم جامعة زيوريخ “تعتزم تبني عملية مراجعة أكثر صرامة في المستقبل ، وعلى وجه الخصوص ، للتنسيق مع المجتمعات على المنصات قبل الدراسات التجريبية”. يقول المتحدث الرسمي ، الذي رفض تسمية الأفراد المعنيين ، إن التحقيق جار وقرر الباحثون عدم نشر الورقة رسميًا.