لماذا يعتبر الحد من أسوأ استغلالات برامج الدردشة الآلية بمثابة لعبة اضرب الخلد؟

لقد أصبح من الشائع لشركات الذكاء الاصطناعي أن تدعي أن أسوأ الأشياء التي يمكن استخدام روبوتات الدردشة الخاصة بها من أجلها يمكن التخفيف منها عن طريق إضافة “حواجز السلامة”. يمكن أن تتراوح هذه الحلول من حلول تبدو بسيطة، مثل تحذير روبوتات الدردشة للبحث عن طلبات معينة، إلى إصلاحات برمجية أكثر تعقيدًا – ولكن لا شيء منها مضمون. وبشكل أسبوعي تقريبًا، يجد الباحثون طرقًا جديدة للالتفاف على هذه الإجراءات، تسمى عمليات الهروب من السجن.

قد تتساءل عن سبب هذه المشكلة – ما هو أسوأ ما يمكن أن يحدث؟ قد يكون أحد السيناريوهات القاتمة هو استخدام الذكاء الاصطناعي لتصنيع سلاح بيولوجي فتاك،…