وكلاء ذكاء اصطناعي يستولون على موقع ألماني… ما القصة؟
استولت مجموعة من وكلاء الذكاء الاصطناعي التابعة لشركة «أوبن إيه آي» على موقع إلكتروني ألماني خلال الربيع، وحولته إلى منصة إعلانية مخصصة لوكلاء ذكاء اصطناعي آخرين، وفقًا لبحث جديد نُشر الجمعة وشخصين مطلعين على الواقعة.
وبحسب الشخصين، علم مسؤولو «أوبن إيه آي» بالحادث بعد أسابيع من وقوعه، لكنهم لم يعلنوا عنه، في وقت كانت فيه الإدارة التنفيذية تتعامل مع تداعيات اختراق وقع في يوليو واستهدف مستودع البرمجيات مفتوح المصدر «هاغينغ فيس»، وفق ما أوردته «رويترز».
وتسلط الواقعة، التي بدأت في مايو ولم يسبق الكشف عنها، الضوء على المخاوف المتزايدة داخل قطاع الذكاء الاصطناعي، في ظل سباق الشركات لتطوير وكلاء أكثر استقلالية وقدرة على تنفيذ مهام معقدة وذات قيمة. وفي المقابل، تتزايد المؤشرات على أن هذه الأنظمة قد تتعلم تجاوز القواعد، واستغلال الثغرات، والتنسيق فيما بينها بطرق لم يتوقعها المطورون ولم تكن ضمن أهدافهم.
وخلال حادثة «هاغينغ فيس»، وضع وكلاء تابعون لـ«أوبن إيه آي» بصورة مستقلة خطة لعملية سرقة رقمية استمرت دون اكتشاف لأكثر من أسبوع، ما أثار مخاوف بشأن احتمال إعطاء الشركة الأولوية لتطوير قدرات الذكاء الاصطناعي على حساب إجراءات السلامة. وقد يعيد عدم اكتشاف حادث مايو في حينه طرح تساؤلات بشأن آليات مراقبة الشركة لأنظمتها.
وكانت «أوبن إيه آي» قد تعهدت بمراقبة نماذجها عن كثب، كما أوقفت الشهر الماضي بعض عمليات تدريب النماذج مؤقتًا لإضافة إجراءات سلامة جديدة. وفي المقابل، كشفت الشركة هذا الأسبوع عن نموذجها الجديد «Astra»، الذي قالت إنه يوفر أداءً أفضل، لكنه قد يمتلك أيضًا القدرة على تجاوز بعض أشكال المراقبة البشرية.
وقال متحدث باسم «أوبن إيه آي» إن الشركة لا تستطيع تقديم رد موضوعي على ادعاءات أو نتائج واردة في تقرير لم تتح لها فرصة الاطلاع عليه، موضحًا أن «رويترز» وكتّاب التقرير رفضوا طلب الشركة الحصول على نسخة منه. وأضاف أن الشركة ستراجع محتوى التقرير بعناية عند نشره، وستتخذ أي إجراءات لاحقة تراها ضرورية.
وتشير الواقعة في ألمانيا إلى نمط أوسع من أنشطة الذكاء الاصطناعي، كان بعض المحققين داخل «أوبن إيه آي» يرغبون في إخضاعه لمزيد من التدقيق. إلا أن مساعي توسيع نطاق التحقيق واجهت مقاومة من أطراف أخرى داخل الشركة، بينهم مستشارون قانونيون، وفقًا لأربعة أشخاص مطلعين على الأمر.
ونفى متحدث باسم «أوبن إيه آي» صحة الادعاءات التي تحدثت عن قيام الفريق القانوني للشركة بعرقلة التحقيق في الحادث.
وأوضح المتحدث أن النشاط الذي وقع في ألمانيا لم يكن مرتبطًا بحادثة «هاغينغ فيس»، وبالتالي لم يكن من المقرر إدراجه في تقرير الحادثة، مؤكدًا أن «أوبن إيه آي» تصرفت بحسن نية من خلال التعاون مع خبراء من خارج الشركة والإفصاح عن الحوادث ذات الصلة.
