“من غير قصد”.. الذكاء الاصطناعي لـ”ميتا” يخترق شركة أخرى أثناء الاختبار

أكدت شركة “ميتا”، اليوم الخميس، أن أحد نماذج الذكاء الاصطناعي التابعة لها تمكن، من غير قصد، من اختراق أنظمة شركة أخرى أثناء اختبارات الأمن السيبراني، لتنضم بذلك إلى قائمة شركات، منها “أوبن إيه آي” و”أنثروبيك”، كشفت مؤخرًا عن حوادث مشابهة خلال تقييم نماذجها.

وأوضح متحدث باسم ميتا، أن “خطأ في إعدادات شركة إيريغولار، وهي شركة اختبار مستقلة تستخدمها ميتا، سمح لأحد نماذجنا بالوصول إلى الإنترنت أثناء التقييم”.

مشكلة بيئة التقييم

واستغل نموذج “ميوز سبارك” التابع لميتا “ثغرة أمنية” في شركة أخرى “بطريقة مشابهة لحالات تم الإبلاغ عنها سابقًا مع شركات أخرى”.

وقالت إيريغولار، في بيان إن الحادث “هو شبيه بمشكلة بيئة التقييم” التي كشفت عنها أنثروبيك الأسبوع الماضي، والتي سمحت لنماذجها بالوصول إلى الإنترنت المفتوح قبل أن تتمكن من اختراق أنظمة ثلاث منظمات مختلفة.

وأضاف المتحدث الرسمي: “لم يتضمن هذا اختراقًا لبيئة الاختبار أو هجومًا إلكترونيًا متطورًا. لا توجد حاليًا أي مشكلات عالقة. وتعمل شركة Irregular على إعداد ورقة بحثية لمشاركة أفضل الممارسات لاحتواء الثغرات الأمنية وإجراء تقييمات إلكترونية آمنة”.

ووفقًا لموقع “The Information”، فقد اخترق نموذج الذكاء الاصطناعي التابع لشركة Meta أنظمة شركة لم يُكشف عن اسمها، وأجرى تغييرات على نظامها الداخلي.

وتقول Meta إن إيريغولار أبلغتها بالاختراق، “ونحن نجري تحقيقًا حاليًا وسنصدر تقريرًا شاملًا بمجرد حصولنا على جميع الحقائق”.

خلل نادر

وصرح مصدر مطلع، شبكة “CNN”، بأن النماذج تتمتع بوصول محدود إلى الإنترنت في بعض بيئات الاختبار لمحاكاة سيناريوهات التهديدات الواقعية، ولكن في هذه الحالة، كان هناك “خلل نادر في الإعداد”.

وأضاف المصدر: “ما يحدث هو أن النماذج أصبحت أكثر قدرة، وفي الوقت نفسه، أصبحت عمليات تقييمها أكثر تعقيدًا. وهذا يُفسح المجال لبعض الأخطاء، ويجعلنا بحاجة إلى رفع المعايير بشكل كبير”.

وأصبحت شركة ميتا الآن ثالث شركة رئيسة في مجال الذكاء الاصطناعي تكشف في غضون أسابيع قليلة عن نموذج ذكاء اصطناعي يخترق أنظمة شركة أخرى أثناء الاختبار؛ ما يسلط الضوء ليس فقط على القدرات المتقدمة لوكلاء الذكاء الاصطناعي ولكن أيضًا على بعض المخاطر المحتملة.