كيف ترصد تقنية Goodfire السلوكيات الخطيرة لوكلاء الذكاء الاصطناعي من جذورها؟

تعتمد الطريقة التقليدية لمراقبة سلوك وكلاء الذكاء الاصطناعي على الاستعانة بنموذج آخر لمراجعة عملهم ورصد التصرفات الخطرة. لكن هذا النهج قد يصبح مكلفاً عندما يعمل الوكلاء لساعات طويلة ويعالجون كميات ضخمة من النصوص.