خيال الآلات الواعية | العدد 152

تاليس في بلاد العجائب

ريمون تاليس يقول الحديث عن “الذكاء الاصطناعي” ليس ذكيًا ولا مفهومًا بالفعل.

كونك أصلعًا يعني أنه لا يمكنك تمزيق شعرك في شكل كتل. وبالتالي ، لا بد لي من إيجاد طرق أخرى للتعبير عن السخط. أحدها من خلال عمود يلحق بقراء الفلسفة الآن (من قد يشعر بحق أنه يستحق الأفضل). وما الزناد؟ ومع ذلك ، هناك ادعاء آخر جامح وغير مستنير فلسفيًا من المثقفين المصطنعين بأن الآلات الواعية موجودة بيننا ، أو ستظل قريبًا.

اجتذب مهندس في Google مؤخرًا اهتمامًا دوليًا من خلال الزعم أن نظام تطوير روبوتات الدردشة الخاص بالشركة – نموذج اللغة لتطبيقات الحوار (LaMDA) – أظهر علامات على الإحساس من خلال إجابته التي تبدو مدروسة وذاتية الانعكاس عند استجوابه بشأن ما يخيفه. من. لقد اعترفت بأنها كانت خائفة من أن يتم إيقافها – باختصار ، من موتها.

يجب أن يكون واضحًا أن LaMDA لم يكن على دراية بما كان يقوله أو أهميته. كانت إجابته ناتجًا آليًا ناتجًا عن معالجة الاحتمالات اللغوية باستخدام الخوارزميات في برامجه. كان تقريره الوجودي دليلًا في ذلك الوقت ، ليس على استيقاظه إلى كائن واعي ، ولكن على تقليده اللاواعي للوعي لصالح كائن حساس بالفعل – في هذه الحالة المهندس في Google. فلماذا الهوو ها؟ إنها متجذرة في مشاكل طويلة الأمد تتعلق بالطريقة التي نتحدث بها عن أجهزة الكمبيوتر والعقول ، والتداخل الهائل في المفردات التي نستخدمها لوصفها.

راقب كلامك

إن عزو العقلية إلى أجهزة الكمبيوتر هو عكس الاتجاه المؤسف لحوسبة عقول البشر (وغيرهم). أصبحت النظريات الحسابية للعقول أقل شيوعًا مما كانت عليه في النصف الأخير من القرن الماضي ، لذلك لم يعد من المسلم به أن مظاهر الوعي يجب أن تُفهم ببساطة كنتيجة للنشاط الحسابي في البرامج الرطبة للدماغ. ومع ذلك ، لا يزال هناك ميل للنظر إلى أجهزة الكمبيوتر وما يسمى بـ “الذكاء الاصطناعي” من خلال عدسة التفكير العقلي ، وحتى الخطاب الشخصي. يبدو أن طبيعتها كأدوات شبه مستقلة ، حيث يتم إخفاء العديد من الخطوات في العمليات التي تسهلها ، ترخص استخدام اللغة التي تنسب إليها نوعًا من الوكالة وحتى الشعور بالهدف. ولكن عندما نصف ما “تفعله” أجهزة الكمبيوتر ، يجب أن نستخدم الفواصل المقلوبة بشكل أكثر حرية.

تبدأ المشكلة على المستوى الأساسي. نقول أن حاسبات الجيب تقوم بالحسابات. بالطبع لا يفعلون. عندما تمكننا من تجميع عمليات الاستحواذ لهذا اليوم ، فليس لديهم أي فكرة عن الأرقام ؛ حتى أنهم لا يفهمون فكرة “الاستيلاء” ، أو ما قد تكون مغزى الخطأ. فقط عندما يتم استخدام الجهاز من قبل البشر ، فإن النشاط الإلكتروني الذي يحدث فيه يعتبر بمثابة حساب ، أو إجابة صحيحة ، أو في الواقع ، أي إجابة. لن يصبح ما يظهر على الشاشة إجابة صحيحة أو خاطئة حتى يتم فهمها على هذا النحو من قبل الإنسان الواعي الذي لديه مصلحة في أن تكون النتيجة صحيحة.

إن تذكير أنفسنا سابقًا بالحاجة إلى الفواصل المقلوبة في أوصافنا لأنشطة الكمبيوتر قد يمنع أيضًا سوء الفهم حول بعض الاختراقات الحديثة الأكثر إثارة في مجال الحوسبة. غالبًا ما يقال أن أجهزة الكمبيوتر يمكنها الآن “التغلب” على جاري كاسباروف في لعبة الشطرنج (ديب بلو) ، ولي سيدول ، بطل العالم في Go (AlphaGo) ، والأعظم أداءً في لعبة المسابقة “Jeopardy” (Watson). هذا غير دقيق بشكل مهم. لم يتغلب ديب بلو على جاري كاسباروف. الفائزون هم المهندسون الذين صمموا البرنامج. لم يكن لدى الجهاز أدنى فكرة عن ماهية رقعة الشطرنج ، حتى أقل من أهمية اللعبة. لم يكن لديها أي إحساس بالتواجد في المكان الذي تقام فيه البطولة ، ولم يكن بداخلها أي شيء يقابل معرفة الفرق بين النصر والهزيمة.

يمكننا بسهولة تلخيص الطريقة التي تكون بها حاسبات الجيب و Deep Blue الأكثر تعقيدًا قاصرة بشكل متساوٍ: ليس لديهم وكالة لأنهم ليسوا عالمين. لأنهم يفتقرون إلى عالم الخبرة المعقد والمترابط والمتعدد الأبعاد الذي فيه أجراءات منطقيًا ، وبالتالي يُحسب كأفعال ، فمن الخطأ القول إنهم “يفعلون” الأشياء. وزيادة القوة ، وتعدد الاستخدامات ، وما يسمى بـ “ذاكرة” أجهزة الكمبيوتر ، أو نشر بنى بديلة مثل المعالجة المتوازية على نطاق واسع ، لا يقربهم من فهم طبيعة وأهمية ما يفعلونه . يحتوي هاتفي الذكي على قوة حوسبية أكبر من تلك التي كانت متوفرة في جميع أنحاء العالم عندما التحقت بكلية الطب ، ومع ذلك ، فأنا وأنت ، وليس هواتفنا ، من يجري المكالمة – من يتبادل معلومة.

لن يتم تغيير هذا الوضع من خلال توحيد العمليات في ديب بلو مع أي قدر من “الواقع الاصطناعي”. إن العالم الفوقي من النسخ المتماثلة المشفرة إلكترونيًا لعالم لاعب الشطرنج قد لا يرقى إلى مستوى العالم الفعلي من نواحٍ عديدة أساسية ، حتى لو تم ملؤه بتفاصيل دقيقة ومتعددة الأبعاد. مجرد تكرار ميزات العالم لن يصنع هذا العالم الحالي إلى ما يكررها ، أي أكثر من صورة معكوسة للسحابة في البركة تجعل السحابة موجودة في البركة. لا يؤمن النسخ المتماثل الانتقال من ما هو إلى هذا هو أو حقيقة أنه في أو من أجل عقل مدرك (لكن هذه قصة ضخمة لوقت آخر!).

معايير الوعي

لقد أشرت بالفعل إلى سبب تفكيرنا في أجهزة الكمبيوتر كوكلاء أو وكلاء وكيل ، عندما لا ننظر إلى أدوات أخرى بهذه الطريقة. العديد من الخطوات التي تربط الإدخال بالمخرجات ، أو تربط تفاعلنا الأولي مع الجهاز بالنتيجة التي نسعى إليها ، مخفية. نظرًا لأنه يمكننا ترك الجهاز “ للاستمرار به ” عندما يمكننا من أداء أشياء لا يمكننا القيام بها بدون مساعدته ، يبدو أنه يتمتع بالاستقلالية. هذا ملفت للنظر بشكل خاص في أجهزة مثل AlphaGo ، والتي تمت برمجتها لتعديل علاقات المدخلات والمخرجات في ضوء “ردود الفعل” الخارجية ، حتى يتمكنوا من “تدريب” أنفسهم لتحسين “أدائهم”. ومع ذلك ، فإن مثل هذا “التعلم” الموجه ذاتيًا اللاوعي: الجهاز ليس لديه فكرة عما يتعلمه. ليس لديها أفكار ، فترة. ولا ، للاستطراد للحظة ، لا تفعل هذه الأجهزة تذكر ما تعلموه بالمعنى الذي يهم البشر. أن تتذكر حقًا شيئًا ما هو أن تكون على دراية به ، و مدركين لها على أنها من الماضي ، و في بعض الحالات المهمة على أنها تنتمي إلى لي ماضي. من باب المجاملة لمثل هذه الذكريات ، فأنا أرتبط بنفسي كشخص له ماضٍ ، بدلاً من أن أكون مجرد كيان حاضر تشكلته أحداث سابقة. هذا يعني أنني في وقت t2 أعود إلى بعض المجربين الذين أتذكر أنني كنت في الوقت t1. هذا مهم عند تحديد ما إذا كان يجب اعتبار روبوت الدردشة LaMDA على أنه نوع من الانعكاس الذاتي الذي تقترحه “ إجابته ” على الأسئلة حول مخاوفه. حلقات التغذية الراجعة في الدوائر لا تقدم هذا النوع من الوعي.

“صديقك البلاستيكي الذي من الممتع أن تكون معه.”
مارفن بجنون العظمة Android ، من دليل المسافر إلى المجرة © BBC Television 1981

سيقبل الكثيرون كل هذا ، لكنهم ما زالوا يجدون صعوبة في مقاومة التفكير في الشبكات الحاسوبية المتقدمة على أنها ذكية بنفس الطريقة التي يتمتع بها البشر بالذكاء. يشير مصطلح “الذكاء الاصطناعي” في الواقع بشكل مفيد إلى خاصية الآلات التي تساعد علاقاتها بين المدخلات والمخرجات مستخدميها من البشر على تنفيذ الإجراءات التي تتطلب نشر الذكاء. ومع ذلك ، فمن المضلل أن يتم نقل صفة “ذكي” من البشر إلى الآلات حرفيًا ، لأنه لا يمكن أن يكون هناك ذكاء حقيقي بدون وعي.

لا ينبغي أن يقال هذا ، لكنه يواجه تحديًا واسعًا. يعود التحدي بالكامل إلى التشويش المفاهيمي في قلب ورقة ألان تورينج الشهيرة ، “ماكينات الحوسبة والذكاء” (1950). هناك جادل تورينج أنه إذا أقنعت “إجابات” الآلة الخفية للأسئلة مراقبًا بشريًا أنه إنسان ، فهذا يعني أنه يفكر بصدق. إذا كان يتحدث مثل الإنسان ، فلا بد أنه إنسان.

المشكلة الأكثر وضوحًا في هذه الورقة شديدة التأثير هي أن معيارها لما يُعتبر “فكرًا” في آلة يعتمد على الحكم ، بل على سذاجة المراقب. قد ينسب موضوع ساذج التفكير إلى Alexa ، الذي تكون إجاباته الذكية على الأسئلة مذهلة. لها – آسف! انها – الاستعداد “المتواضع” لتوجيهنا في اتجاه صفحات الويب ذات الصلة عندما تنفد الإجابات ، يجعل “ذكائها” أكثر منطقية.

لكن هناك مشكلة أكثر جوهرية في اختبار تورينج. إنها تحتضن تعريفًا وظيفيًا أو سلوكيًا للفكر: الجهاز يفكر إذا نظر إلى مراقب كما لو كان يفكر. هذا ليس جيدا بما فيه الكفاية. في حالة عدم وجود أي إشارة إلى وعي الشخص الأول، لا يمكن أن يوفر اختبار تورينج معايير جيدة للآلة للتأهل للتفكير ، وبالتالي للذكاء الحقيقي ليكون موجودًا في آلات الذكاء الاصطناعي. لا يوجد تفكير ، ولا جوانب أخرى للذكاء ، دون الرجوع إلى عالم ذي خبرة أو معنى مجرب. ولا شيء من هذا ممكن بدون الإحساس ، والذي لا يمكن اختزاله إلى سلوك يمكن ملاحظته ، ولكنه تجربة ذاتية. باختصار ، لا يساعدنا اختبار تورينج في تحديد ما إذا كانت الآلة واعية أم لا ، حتى إن كانت على دراية بنفسها أو بالأفراد الذين يتعاملون معها.

حوسبة المستقبل

قد يكون الأمر كذلك ، على الرغم من اللغة المجسمة التي نتحدث بها عن الأجهزة الإلكترونية ، داخل عالم هندسة الذكاء الاصطناعي أو خارجه ، يعتقد القليل من الناس حقًا أن هناك أجهزة كمبيوتر واعية – آلات تدرك ما تفعله أثناء عملها الاصطناعي دعم الفاعلية البشرية ، وإدراك أنفسهم كوكلاء. ومع ذلك ، هناك البعض ممن يعتقدون أنها مسألة وقت فقط. توماس ميتزينغر مهتم جدًا بهذا الاحتمال (على الرغم من أنه حريص على القول بأنها مجرد احتمال ولا يقترح إطارًا زمنيًا) لدرجة أنه يعتقد أنه يجب علينا فرض حظر على تطوير جميع الكائنات الحية “ ما بعد الحيوية ”. نحن نعلم من الطبيعة أن الوعي غالبًا ما يرتبط بمعاناة مروعة ، ولذا فمن الضروري الأخلاقي الأساسي ألا نخاطر بحدوث ذلك بشكل مصطنع.

لكن لماذا نعتقد أنه ممكن حتى؟ ما هو التقدم في تكنولوجيا المعلومات من شأنه أن يؤدي في الواقع الآلات الحاسبة فعل العمليات الحسابية، أعرف لماذا هم من أجل ، الحصول على الرضا في الحصول عليها بشكل صحيح ، و تشعر بالخجل عندما يخطئون في فهمهم؟ ما الذي يزيد من قوة ، وما هي التعديلات في الهندسة المعمارية ، التي ستغرسها أجهزة الكمبيوتر قصد في دوائرهم وجعل ما يحدث هناك حول عالم يقعون فيه بشكل واضح ، مع بعض الإحساس بـ “ما هو شكل” أن تكون ذلك الكمبيوتر؟ عدم قدرتنا على الإجابة عن هذا هو الجانب الآخر من حيرتنا فيما يتعلق بكيفية أن النشاط في داراتنا العصبية يخلق موضوعًا في عالم يحتضنه ، من باب المجاملة من الجسم الذي يُعرف به ، كعالمه الخاص. ليس لدينا أدنى فكرة عن ماهية ميزات الأدمغة للوعي. إن تذكر هذا يجب أن يشفينا من عادات فكرية مترابطة: من ناحية ، حوسبة العقول ، ومن ناحية أخرى ، عقلانية أجهزة الكمبيوتر. في غضون ذلك ، يجب أن نكون أقل تواضعًا ، وأن نمتنع عن إسناد الذكاء الذي استخدمناه في إنشائها للآلات.

من الجيد إخراج ذلك من صدري. أشعر بالهدوء الآن. شكرا على استماعكم.

© البروفيسور ريموند تاليس 2022

أحدث كتاب لريموند تاليس ، الحرية: حقيقة مستحيلة خارج الآن.