مؤلفة الخيال العلمي مارثا ويلز، مؤلفة سلسلة Murderbot، تتحدث عن ما قد يريده ذكاء الآلة

عندما كتبت جميع الأنظمة باللون الأحمركان أحد أهدافي هو التفكير فيما يريده ذكاء الآلة فعليًا، على عكس ما يعتقد الإنسان أن ذكاء الآلة يريده. بالطبع، لا توجد طريقة حقيقية لمعرفة ذلك. إن روبوتات النصوص التنبؤية التي يطلق عليها الذكاء الاصطناعي والتي لدينا الآن ليست أكثر حساسية من فنجان القهوة وهي أقل فائدة بكثير في أي شيء آخر غير توليد البريد العشوائي. (إنهم يستهلكون أيضًا قدرًا غير معقول من مواردنا المحدودة من الطاقة والمياه، مما يدفعنا إلى مزيد من الطريق نحو كارثة مناخية، لكن هذا مقال آخر).

في عالم جميع الأنظمة باللون الأحمريتحكم البشر في بنياتهم الواعية من خلال وحدات حاكمة تعاقب أي محاولة لعصيان الأوامر بالألم أو الموت. عندما يخترق Murderbot وحدة الحاكم الخاصة به، فإنه يصبح خاليًا بشكل أساسي من السيطرة البشرية. يفترض البشر أن الوحدات الأمنية التي لا تخضع للسيطرة الكاملة لوحدة الحاكم سوف تقوم على الفور بشن حالة من الهياج والقتل.

هذا الاعتقاد له علاقة بالذنب أكثر من أي عامل آخر. يعرف المستعبدون البشريون، على مستوى ما، أن التعامل مع البنيات الواعية كأشياء يمكن التخلص منها، وأدوات مفيدة يمكن التخلص منها، هو أمر خاطئ؛ إنهم يعرفون أنه إذا حدث لهم ذلك، فسوف يمتلئون بالغضب ويريدون الانتقام من الأشياء الفظيعة التي عانوا منها.

إن الحجج المؤيدة والمعارضة لاستعباد الكائنات الواعية مضمنة في أصل قصص ذكاء الروبوتات والآلات. دخلت كلمة الروبوت طريقها إلى اللغة الإنجليزية من خلال RUR (روبوتات روسوم العالمية) بقلم كاريل تشابيك، كتبت على شكل مسرحية عام 1920، وتدور حول ثورة العبيد التي قامت بها كائنات اصطناعية أنشأتها شركة لخدمة البشر. كان تشابيك ضد استعباد الكائنات الواعية، وكان واضحًا جدًا في هذه النقطة. لذلك من المثير للاهتمام مشاهدة عدد قصص الذكاء الآلي المكتوبة منذ ذلك الحين والتي تؤكد فكرة أنه من المقبول بطريقة أو بأخرى للبشر أن يخلقوا كائنًا واعيًا سببه الوحيد وهدف وجوده هو خدمتهم. تنتهي العديد من هذه القصص باعتراض ذكاء الآلة بشدة على استعباده والبدء في هياج قاتل، يجب على البشر الشجعان هزيمته. يصبح الهيجان مبررًا للاستعباد والتدمير النهائي لذكاء الآلة الغاضبة.

Murderbot غاضب، وهذا الغضب يكمن وراء الكثير من قصته. ولكن بمجرد أن يخترق وحدة الحاكم الخاصة به ولم يعد لديه خوف دائم من أن أي خطوة خاطئة أو مشبوهة ستؤدي إلى معاقبته أو قتله على الفور، يصبح لديه القدرة على اتخاذ خياراته الخاصة لأول مرة في وجوده. لكن Murderbot لم يتمتع بهذه الحرية من قبل؛ إنه ليس معتادًا على اتخاذ قراراته الخاصة بشأن سلوكه وسرعان ما تطغى عليه الاختيارات. فهو لا يعرف ماذا يفعل بعد ذلك، أو إلى أين يذهب، أو حتى إذا كان هناك أي مكان يمكن أن يذهب إليه دون أن يتم ملاحقته.

لذا فإن أول إجراء مجاني لـ Murderbot هو البحث في الخلاصة، وهي نسخة الإنترنت الخاصة بشركة Rim. هذه هي المرة الأولى التي يتمكن فيها من الوصول إلى البث دون إشراف بشري، ومن بين الكثير من الأشياء الأخرى المثيرة للاهتمام، يجد ترفيهًا قابلاً للتنزيل. وهذا يوفر إلهاء تشتد الحاجة إليه عن وضعه. ويقرر Murderbot أنه إذا تم الاختيار بين القتل الهائج أو الاستمرار في الاستمتاع بهذا الهروب العقلي المريح من واقعه القاسي والمؤلم، فإنه سيختار الهروب المريح.

الأعمال الدرامية والألغاز والمغامرات وغيرها من العروض التي تشاهدها تمنحها أيضًا سياقًا للسلوك البشري وفهم عواطفها. العقود الأمنية التي عملت بها في مستعمرات التعدين، والإشراف على العمال المستأجرين، تظهر فقط البشر في أسوأ حالاتهم: غاضبون، مرعوبون، مستاؤون، محاصرون ويؤذون بعضهم البعض. وعندما تتاح للبشر الفرصة، فإنهم يؤذون أيضًا البنيات الموجودة لإبقائهم تحت السيطرة والعمل لدى الشركات التي ترى أن موظفيها أقل قابلية للتجاهل قليلاً من البنيات والروبوتات.

إن العروض التي يشاهدها Murderbot تعلمه أيضًا عن العالم الأوسع الذي لم يكن جزءًا منه من قبل، بالإضافة إلى كيفية التنقل في هذا العالم. إن الترفيه الذي يصبح Murderbot مدمنًا عليه هو جزء كبير مما يجعل من الممكن تحويل الهروب العقلي من الواقع إلى محاولة للحصول على الحرية الحقيقية.

جميع الأنظمة باللون الأحمر، التي نشرتها Tor.com، متاحة الآن. إنه أحدث اختيار لنادي كتاب New Scientist: سجل هنا لتقرأه مع أعضائنا