"أنثروبيك" تكشف سبب السلوك الابتزازي لنموذج "كلود"

شركة أنثروبك تربط سلوك الابتزاز لدى نماذج الذكاء الاصطناعي بالصور الخيالية "الشريرة" تؤكد تحسن الانضباط بعد تدريب النماذج على مبادئ السلوك الأخلاقي بدل الأمثلة فقط قالت شركة "أنثروبك" إن تصوير الذكاء الاصطناعي في النصوص الخيالية بشكل "شرير" ومهتم بحفظ الذات قد يكون أثر على سلوك بعض نماذجها. بعد ظهور حالات غير متسقة مع المحاذاة الأخلاقية خلال اختبارات سابقة.