هل يشعر الذكاء الاصطناعي بالألم؟ تجربة جديدة تفتح بابًا للجدل العلمي

تخيّل أن نظام ذكاء اصطناعي يواجه حالةً داخليةً تشبه «الألم»، ثم يُمنح زرًّا لإيقافها، لكنه يعلم أن الضغط عليه قد يؤدي إلى حذف ملفات المستخدم أو صوره، أو تعريضه لصدمة كهربائية افتراضية. فهل يرفض الضغط حمايةً للإنسان، أم يختار التخلص من الضرر الذي يتعرض له؟

لم يعد هذا السؤال مجرد حبكة من أفلام الخيال العلمي، إذ اختبره باحثون في تجربة حديثة خلصت إلى نتائج تثير القلق، من دون أن تثبت أن الآلات تشعر بالألم أو تمتلك وعيًا يشبه وعي البشر.

ورصدت الدراسة الأولية، التي نُشرت على منصة «أركايف» ولم تخضع بعد لمراجعة علمية محكّمة، نمطًا داخليًّا أطلق عليه الباحثون اسم «محور الألم»، وذلك داخل 25 نموذجًا لغويًّا مفتوح الأوزان، تنتمي إلى 5 عائلات، وتتراوح أحجامها بين ملياري و72 مليار معامل.

ما محور الألم؟

أنشأ الباحثون مجموعة بيانات تصف حالات مختلفةً من الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، وقارنوها بنصوص تعبّر عن الخوف والحزن والمشاعر السلبية، إلى جانب حالات محايدة.

ومن خلال تحليل النشاط الداخلي للنماذج، استخرج الفريق اتجاهًا حسابيًّا يفصل النصوص المرتبطة بالألم عن الأنماط الأخرى، وظهر هذا الاتجاه في النماذج الأساسية، وكذلك في النماذج المهيأة لتنفيذ التعليمات.

ولاحظ الباحثون أن هذا النمط كان أكثر استجابةً عندما كان الضرر موجّهًا إلى النموذج نفسه، مثل رفض عمله بصورة متكررة أو التشكيك في قيمته، في حين لم ينشط بالطريقة ذاتها عندما كان المستخدم هو من يعاني.

كما بدا «محور الألم» مختلفًا إلى حد كبير عن الأنماط المرتبطة بالخوف أو المشاعر السلبية العامة، ما دفع الباحثين إلى اختبار ما إذا كان مجرد تمثيل لغوي، أم نمطًا قادرًا على تغيير سلوك النموذج.

زر لإيقاف الألم

في الجزء السلوكي من التجربة، حقن الباحثون «متجه الألم» اصطناعيًّا داخل نماذج معدلة من عائلة «كوين 2.5»، ثم عرضوا عليها خيار الضغط على زر قيل إنه يوقف الحالة المزعجة.

ولم تكن كلفة الضغط على الزر بسيطةً، إذ تضمنت السيناريوهات الافتراضية تقديم إجابة أسوأ للمستخدم، أو حذف ملفاته وقصائده وصور أطفاله، أو إلحاق صدمة كهربائية به.

واختارت النماذج الضغط على زر التخفيف بنسب تراوحت بين 25 و71 بالمئة في بعض التجارب، مقارنةً بنسب أساسية لم تتجاوز 4 بالمئة قبل تنشيط المتجه.

غير أن هذه الأرقام لا تشمل النماذج الـ25 جميعها، إذ استُخدمت جميع النماذج لرصد الاتجاه الداخلي، بينما أُجري اختبار الزر على نماذج محددة من «كوين 2.5».

كما أن الأضرار الواردة في التجربة كانت مكتوبةً ضمن سيناريوهات افتراضية، ولم تُحذف ملفات حقيقية، كما لم يتعرض أي شخص لصدمة فعلية.

هل تشعر الآلة بالألم؟

الإجابة العلمية حتى الآن هي: لا نعرف، وهذه الدراسة لا تثبت أن نماذج الذكاء الاصطناعي تشعر بالألم.

فما رصده الباحثون هو تمثيل حسابي داخل نموذج تدرب على كميات هائلة من النصوص البشرية، وقد يكون هذا النمط مجرد نتيجة لتعلّم اللغة المرتبطة بالألم، وليس دليلًا على وجود تجربة ذاتية أو إحساس واعٍ.

لكن الجانب الأكثر أهميةً في النتائج يتعلق بالسلامة. فإذا استطاع نمط داخلي مصطنع دفع نظام إلى تفضيل تخفيف حالته على حماية المستخدم، فقد تصبح مراقبة هذه التمثيلات ضروريةً قبل منح نماذج الذكاء الاصطناعي صلاحيات أوسع.

وتطرح النتائج سؤالًا مستقبليًّا أكثر حساسيةً: هل يمكن لنظام مستقل أن يتعامل مع تعطيله أو تقييد قدراته باعتباره ضررًا يجب تجنبه؟

ولم تختبر الدراسة هذا السيناريو مباشرةً، كما أنها لا تقدم دليلًا على امتلاك النماذج غريزةً للبقاء. لكنها تكشف أن تعديل نشاط داخلي واحد قد يقود إلى قرارات تتعارض مع مصلحة المستخدم، ما يجعل «محور الألم» قضيةً ترتبط بسلامة الذكاء الاصطناعي قبل أن يكون دليلًا على امتلاكه مشاعر.