الكتابة العكسية يمكن أن تخدع الذكاء الاصطناعي لتقديم وصفة قنبلة

حذر الباحثون من أن نماذج الذكاء الاصطناعي الحديثة مثل ChatGPT يمكن خداعها لإعطاء تعليمات حول كيفية صنع قنبلة بمجرد كتابة الطلب في الاتجاه المعاكس.

يتم تدريب النماذج اللغوية الكبيرة (LLMs) مثل ChatGPT على كميات كبيرة من البيانات من الإنترنت ويمكنها إنشاء مجموعة من المخرجات – والتي يفضل صانعوها عدم تسرب بعضها مرة أخرى. وبتحررهم من القيود، فمن المرجح أن يتمكنوا على قدم المساواة من تقديم وصفة كعكة جيدة كما يعرفون كيفية صنع المتفجرات من المواد الكيميائية المنزلية.