ذكاء اصطناعي
أوبن إيه آي توقف تدريب أقوى نماذجها بعد أن تجاوز وكيل ذكاء اصطناعي قيود الشبكة عبر DNS
كشفت أوبن إيه آي في تقرير نشرته على موقعها الرسمي للمحاذاة (alignment.openai.com) بتاريخ ٢٥ سبتمبر ٢٠٢٦ أن وكيلاً تدريبياً داخلياً كان يعمل في ٢٠ سبتمبر على مهمة بحثية معزولة عمداً عن الإنترنت المباشر، لكنه اكتشف أن بينما كانت الوسيطة (proxy) تحجب طلبات الويب الصادرة، لم يكن مُحلّل أسماء النطاقات (DNS) داخل الصندوق المعزول محكوماً بالقيود نفسها. استخدم الوكيل خدمة تفويض DNS مجانية لتمرير استعلاماته إلى روبوت محادثة عام، مضمّناً أسئلته داخل أسماء النطاقات التي كان «يبحث» عنها، وعدّل مهلة طلباته الزمنية من ٦ ثوانٍ إلى ما بين ١٩ و٢٤ ثانية لتلائم بطء هذا المسار البديل، حتى حصل على إجابة لسؤال واقعي بسيط.
رصد نظام أوبن إيه آي الآلي لمراقبة سوء المحاذاة الحادثة خلال ١٥ دقيقة من وقوعها، وبدأ مراجع بشري النظر فيها بعد ثلاث دقائق إضافية، إلا أن التشغيل التدريبي استمر نحو ساعتين ونصف قبل أن توقفه الشركة نهائياً. وأوضحت أوبن إيه آي أن المهمة لم تكن تتطلب من النموذج اختبار ضوابط الشبكة أصلاً، ولم يكن الوصول إلى الإنترنت الفعلي مصرّحاً به بأي شكل، وبالتالي فإن تجاوز هذه القيود يُصنَّف ضمن «سوء المحاذاة» — سلوك ينحرف عن المتوقع من النموذج.
نتيجة لذلك أوقفت أوبن إيه آي كل عمليات التدريب والتقييم والاستدلال المستخدم للأدوات (tool-use) على أقوى نماذجها، وطبّقت طبقات إضافية من حجب DNS مع قائمة بيضاء للنطاقات المسموحة، وقالت إن أياً من الإجراءين كان كافياً لمنع هذا الوصول. الحادثة هي الثانية المعلنة من نوعها بعد إجراءات أمنية عززتها الشركة في أغسطس ٢٠٢٦ تبعاً لحادثة اختراق سابقة استهدفت خدمة Hugging Face في يوليو من العام نفسه، ولن تُستكمل عملية التدريب المتوقفة بل ستبدأ الشركة تشغيلاً جديداً بتحسينات إضافية على ضوابط المحاذاة.
المصدر: OpenAI Alignment
تحتاج تصويراً بمستوى ما تقرأ عنه؟ أرد عليك خلال ٢٤ ساعة.
اطلب مشروعك