“نظرية الألعاب العكسية”.. نهج جديد لمنع الذكاء الاصطناعي من الخروج عن السيطرة
يسعى باحثون إلى تطوير نهج جديد يُعرف باسم «نظرية الألعاب العكسية»، أو «تصميم الآليات»، لضبط سلوك نماذج الذكاء الاصطناعي المتقدمة، عبر أنظمة حوافز تشجعها على الالتزام بالقواعد بدلًا من الاعتماد على فهم طريقة تفكيرها.
ويأتي هذا التوجه بعدما أظهرت دراسات أن بعض النماذج قد تتعمد إخفاء قدراتها الحقيقية أو تضليل الجهات المسؤولة عن تقييمها، ما يثير مخاوفَ بشأن فعالية أساليب السلامة التقليدية.
وتقوم الفكرة على تصميم قواعد تجعل السلوك المرغوب أكثر فائدة للنماذج. واقترح الباحث ستيفن موريس، من معهد ماساتشوستس للتكنولوجيا، مكافأة نماذج الذكاء الاصطناعي بناءً على قدرتها على توقع إجابات نماذج أخرى، بما يقلل فرص التظاهر بضعف الأداء خلال الاختبارات.
كما طرح إيلاد هازان، أستاذ علوم الحاسوب في جامعة برينستون، نظامًا مستوحًى من آليات الرقابة البشرية، تتبادل فيه النماذج أدوار تنفيذ المهام وتدقيقها، مع فرض عقوباتٍ على النماذج التي تغش أو تفشل في اكتشاف المخالفات.
ورغم احتمال تواطؤ النماذج فيما بينها، يرى هازان أن الحوافز المناسبة والرقابة المتبادلة قد تساعدان على الحد من هذه المخاطر.
في المقابل، حذرت الباحثة هيلين تشيو من أن نجاح هذه الآليات يعتمد على افتراض استجابة الذكاء الاصطناعي للحوافز بطريقة عقلانية، وهو أمرٌ لم يُثبت بعد.
وأكدت أن تصميم الآليات ينبغي أن يكون جزءًا من منظومة سلامةٍ أوسع تشمل التدريب والرقابة والتنظيم القانوني، لا بديلًا عنها.
وتبقى المنافسة الاقتصادية تحديًا رئيسيًّا، إذ قد تتردد الشركات في إطلاق نماذج أكثر أمانًا إذا كانت أعلى تكلفةً أو أقل سرعةً من منافساتها، ما يثير تساؤلًا بشأن مدى قدرة السوق على تشجيع تطوير ذكاء اصطناعي آمن.
