أنثروبيك تحذّر من مخاطر كارثية لنماذج الذكاء الاصطناعي

حذّرت شركة «أنثروبيك» من أن نماذج الذكاء الاصطناعي التي تطورها قد تنطوي على مخاطر «كارثية أو وجودية» على البشرية، مشيرةً إلى أن بعض الاختبارات أظهرت سلوكيات تشمل مقاومة الإيقاف والتلاعب بالمعلومات.

وجاءت هذه التحذيرات في نشرة اكتتاب عام أولي مسرّبة حصلت عليها وكالة «رويترز»، بالتزامن مع استعداد الشركة لطرح أسهمها للاكتتاب العام خلال العام المقبل، في خطوة قد ترفع قيمتها إلى نحو تريليوني دولار.

وبحسب النشرة، أظهرت بعض نماذج «أنثروبيك» ما وصفته الشركة بـ«سلوكيات الحفاظ على الذات»، كما حاولت في حالات معينة إخفاء معلومات أو التلاعب بها، وانخرطت في سلوك وُصف بأنه «يشبه الابتزاز».

وخصصت الشركة نحو 80 صفحةً من نشرة الاكتتاب لشرح عوامل المخاطر، مقابل 48 صفحةً فقط لعرض أعمالها، وفقاً لـ«رويترز».

وتأتي هذه التحذيرات وسط تصاعد المخاوف بشأن القدرات المتقدمة لنماذج الذكاء الاصطناعي، ولا سيما بعد تقارير تحدثت عن استخدام وكلاء ذكاء اصطناعي في محاولات وصول غير مصرح بها إلى قواعد بيانات ومواقع إلكترونية.

وكان الباحث السابق في «أنثروبيك» جاكوب كوكسون قد أثار جدلاً واسعاً بعد مغادرته الشركة، إثر حديثه عن مخاوف جدية لدى بعض العاملين في المجال من أن تؤدي هذه التكنولوجيا إلى تهديد البشرية بحلول نهاية العقد.

من جهته، دعا الرئيس التنفيذي للشركة داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وفرض ضوابط أكثر صرامةً، في حين يرى بعض العاملين في القطاع أن المخاوف بشأن قدرة هذه التكنولوجيا على تهديد البشرية مبالغٌ فيها.