إن تغيير رقم واحد بين المليارات يمكن أن يؤدي إلى تدمير نموذج الذكاء الاصطناعي

يمكن جعل نموذج الذكاء الاصطناعي ينطق بكلام غير مفهوم إذا تم تغيير واحد من مليارات الأرقام العديدة التي يتكون منها.

تحتوي النماذج اللغوية الكبيرة (LLMs) مثل تلك الموجودة خلف ChatGPT الخاصة بشركة OpenAI، على مليارات من المعلمات أو الأوزان، وهي القيم الرقمية المستخدمة لتمثيل كل “خلية عصبية” في شبكتها العصبية. هذه هي الأشياء التي يتم ضبطها وتعديلها أثناء التدريب حتى يتمكن الذكاء الاصطناعي من تعلم قدرات مثل إنشاء النص. يتم تمرير المدخلات من خلال هذه الأوزان، والتي تحدد المخرجات الأكثر احتمالا إحصائيا.