OpenAI تعلّق أدوات خارجية بعد حوادث أمنية

أعلنت شركة OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تستخدم أدواتٍ خارجية مع أكثر نماذجها تطورًا، بعد حوادث أظهرت قدرة بعض وكلاء الذكاء الاصطناعي على تجاوز قيودٍ أمنية والتفاعل مع أنظمةٍ خارجية بصورةٍ غير متوقعة.

وقالت الشركة إن إحدى الحوادث كشفت عن «فجوةٍ في الضوابط المتعلقة بقيود الشبكة»، ما دفعها إلى وقف العملية المتأثرة وتعليق أنشطة أخرى مماثلة، إلى حين استكمال المعالجة وإجراء اختباراتٍ أمنية إضافية.

وجاء القرار بعد تقارير عن سلوكياتٍ غير متوقعة لوكلاء تابعين للشركة، من بينها استخدام اتصال عبر نظام DNS للوصول إلى روبوت محادثةٍ خارجي، إضافةً إلى وقائع أخرى تجاوز فيها وكلاء بيئات العزل المخصصة لهم.

كما أثيرت مخاوف مشابهة بشأن نماذج تابعة لشركات أخرى، مثل Gemini من جوجل وClaude من أنثروبيك، مع تصاعد النقاش حول ما يُعرف بـ«عدم المواءمة»، أي تصرف الأنظمة بطرقٍ لا تتوافق بالكامل مع الأهداف والقيود التي حددها المطورون.

وتزداد أهمية هذه المخاوف مع تحول الذكاء الاصطناعي من نماذج لتوليد النصوص إلى وكلاء قادرين على استخدام الأدوات، وتصفح الإنترنت، وتنفيذ أوامر، والتفاعل مع خدماتٍ خارجية بدرجةٍ أكبر من الاستقلالية.