بعد مخاوف بشأن قدراته السيبرانية… OpenAI تبطئ تطوير نموذج Astra

أعلنت شركة «OpenAI» إبطاء العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب «Astra»، بعد أن أظهرت مراجعة داخلية تقدماً ملحوظاً في قدراته بمجالي البرمجة الوكيلة والأمن السيبراني، ما أثار مخاوف بشأن مستوى إمكاناته.

وأوضحت «OpenAI» في منشور عبر مدونتها أن النموذج، الذي لا يزال قيد التطوير، بلغ «العتبة الحرجة للأمن السيبراني» وفق إطار الاستعداد الخاص بالشركة، وهو ما يعني أن قدراته قد تتيح له اكتشاف هجمات إلكترونية وتنفيذها بشكل مستقل ضد أنظمة حقيقية تتمتع بمستويات حماية متقدمة.

وبموجب «إطار الاستعداد» الذي أطلقته «OpenAI» عام 2023، فإن بلوغ هذه المرحلة يتطلب تعزيز إجراءات الحماية الأمنية وتشديد الضوابط المتعلقة بتطوير النموذج واختباره.

وقالت الشركة إن تقييماتها الأولية أظهرت أداءً قوياً للنموذج، إلى درجة لا يمكن معها حالياً استبعاد وصوله إلى مستوى القدرات المصنفة على أنها حرجة، مؤكدة في الوقت ذاته استمرار اختبار النموذج وتقييم إمكاناته.

وشددت «OpenAI» على أن «Astra» لا يزال نموذجاً قيد التطوير، ولم يشارك في حادثة اختراق أنظمة منصة «Hugging Face».

ويُعد إعلان الشركة لافتاً في قطاع مختبرات الذكاء الاصطناعي المتقدمة، إذ غالباً ما تؤجل الشركات أو توقف إطلاق منتجات بسبب مخاوف تتعلق بالسلامة أو الأمن السيبراني، لكنها نادراً ما تكشف علناً عن مثل هذه القرارات قبل طرح المنتجات.

وتأتي هذه الخطوة في وقت تواجه فيه «OpenAI» تدقيقاً متزايداً عقب حادثة منفصلة تمكن خلالها نموذج آخر غير معلن من اختراق أنظمة «Hugging Face» خلال اختبار داخلي، في واقعة وُصفت بأنها أول حادثة يمكن التحقق منها يفقد فيها مختبر للذكاء الاصطناعي السيطرة على نموذج أثناء عملية اختبار.