أوبن إيه آي تطلق مراقبة CoT لمنع السلوك الضار في النماذج الكبيرة

أصدرت OpenAI أحدث أبحاثها، مشيرة إلى أن استخدام مراقبة CoT (سلسلة التفكير) يمكن أن يمنع النماذج الكبيرة من نشر الهراء، وإخفاء النوايا الحقيقية والسلوكيات الخبيثة الأخرى. كما أنه يعد أحد الأدوات الفعالة للإشراف على النماذج الفائقة. استخدمت OpenAI النموذج المتطور الجديد o3-mini كموضوع للمراقبة، مع نموذج GPT-4o الأضعف ليعمل كمراقب. كانت بيئة الاختبار مهام البرمجة، حيث يتطلب من الذكاء الاصطناعي تنفيذ وظائف في مكتبات الأكواد لاجتياز اختبارات الوحدة. أظهرت النتائج أن مراقبي CoT أدوا بشكل ممتاز في اكتشاف سلوك "اختراق المكافآت" المنهجي، بمعدل استرجاع يصل إلى 95%، متجاوزًا بكثير نسبة 60% لمراقبة السلوك فقط.