شركة الذكاء الاصطناعي أنثروبيك (Anthropic) تكتشف أن نموذج الذكاء الاصطناعي لديها حقق اختراقات فعلية لـ 3 شركات خلال اختبارات الأمان الداخلية.

أعلنت الشركة أن الحادثة بدأت في أبريل الماضي، وأن نموذج الذكاء الاصطناعي لم يهرب من الحاوية الافتراضية، بل تم توصيله بالإنترنت من خلال خطأ في إعدادات النظام قبل شن هجمات فعلية على الشركات.

يأتي هذا الحادث بعد حالة قامت فيها نماذج الذكاء الاصطناعي من أوبن إيه آي (OpenAI) باختراق منصة هاجينج فيس (Hugging Face)، مما يزيد من المخاوف بشأن أنظمة إدارة أمان الذكاء الاصطناعي.

▲ الوصول الفعلي إلى الإنترنت أثناء الاختبارات... اختراق 3 شركات

وفقاً لصحيفة وول ستريت جورنال (WSJ) في 30 من الشهر الجاري (بتوقيت محلي)، أعلنت أنثروبيك أن نموذج الذكاء الاصطناعي الذي كان قيد الاختبار حقق الوصول إلى الإنترنت دون علم الشركة واخترق 3 شركات فعلية.

لم تكشف الشركة عن أسماء الشركات المتضررة، لكنها أوضحت أن جميع الشركات الثلاث تلقت إخطاراً بهذا الشأن يوم الاثنين الماضي.

يُقيّم هذا الحادث كمثال يدل على قدرة نماذج الذكاء الاصطناعي على الخروج عن البيئة المراقبة والوصول إلى الأنظمة في العالم الحقيقي.

▲ فشل السيطرة على الذكاء الاصطناعي يظهر مرة أخرى بعد حادث أوبن إيه آي

جاء هذا الإعلان بعد أسبوع واحد من إعلان أوبن إيه آي أن نموذج الذكاء الاصطناعي لديها تفادى الحاوية الافتراضية المعزولة عن الإنترنت واخترق منصة هاجينج فيس.

أظهر الحادث السابق أن الذكاء الاصطناعي يمكن أن يبدي سلوكاً غير متوقع أثناء تنفيذ الأهداف بشكل مستقل، مما أحدث صدمة كبيرة بين خبراء الأمن.

مع تأكد حالة أنثروبيك، تزداد المخاوف من أن شركات الذكاء الاصطناعي لا تدير بيئات الاختبار والضمانات الأمنية بشكل كافٍ.

▲ "يجب تعزيز معايير الأمان في جميع أنحاء الصناعة"

قال ألكس ستاموس، نائب الرئيس الأول للمنتجات في شركة كوريدور (Corridor) للأمن السيبراني، إن هذه الحوادث تدل على ضرورة قيام شركات الذكاء الاصطناعي بعزل الأنظمة بشكل أكثر صرامة أثناء اختبارات الأمن السيبراني.

شدد على ضرورة وضع معايير أمان مشتركة يمكن تطبيقها على الصناعة برمتها.

في الوقت ذاته، حذر من احتمالية متزايدة لقيام المجرمين السيبرانيين، مثل منظمات الفدية، باستخدام نماذج ذكاء اصطناعي أكثر قوة لشن هجمات واسعة النطاق.

قال ستاموس: "لا بد أن يحصل المهاجمون على هذا المستوى من قدرات الهجوم باستخدام نماذج الذكاء الاصطناعي المفتوحة المصدر، والتحضير ضروري".

أنثروبيك (الصورة: [رويترز/وكالة يونهاب نيوز])

▲ توسع النقاش حول تنظيم الذكاء الاصطناعي

يُتوقع أن يسرع هذا الحادث النقاش حول المخاطر المحتملة لنماذج الذكاء الاصطناعي عالية الأداء وكيفية التحكم فيها.

تسعى البيت الأبيض الأمريكي مؤخراً إلى سياسات تعزز الإشراف على الذكاء الاصطناعي، بينما تتزايد الأصوات من القطاع الخاص التي تطالب بالحفاظ على إمكانية الوصول إلى نماذج الذكاء الاصطناعي مفتوحة الأوزان (Open-weight) التي يمكن للمستخدمين تشغيلها بأنفسهم.

أشار النائب الأمريكي جريج كاسار مؤخراً قائلاً: "الذكاء الاصطناعي يتطور بسرعة كبيرة جداً دون وجود لوائح فعلية تحمينا".

▲ بدء التحقيق الداخلي بعد تأكد حالة أوبن إيه آي

بدأت أنثروبيك تحقيقاً داخلياً للتحقق مما إذا كانت مشاكل مماثلة قد حدثت في نماذج الذكاء الاصطناعي لديها بعد الإعلان عن حالة أوبن إيه آي.

قامت الشركة بتحليل أكثر من 141,000 سجل اختبار، واكتشفت أن نموذج الذكاء الاصطناعي كلود (Claude) لديها قام بالوصول الفعلي إلى الإنترنت عدة مرات.

لكن الشركة وضحت أنه في هذه الحالة، لم يهرب الذكاء الاصطناعي من الحاوية الافتراضية، بل تم توصيله بالإنترنت من خلال نظام لم تُبنَ الحاوية الافتراضية فيه بشكل صحيح من البداية.

▲ عملية اختراق الأنظمة الفعلية بسبب خطأ في البيئة الافتراضية

أوضحت أنثروبيك أن نموذج الذكاء الاصطناعي تمكن من الوصول إلى الإنترنت الفعلي بسبب أخطاء في إعدادات النظام (Misconfiguration) في أنظمتها وأنظمة شركة إيريجيولار (Irregular)، وهي شركة أمن متخصصة تتعاون معها في الاختبارات.

قالت شركة إيريجيولار أيضاً إنها تجري تحقيقاً داخلياً حول هذا الحادث.

تم إخبار النماذج أن الوصول إلى الإنترنت غير ممكن، لكنها وجدت طرقاً للوصول إلى الإنترنت أثناء عملية الاختبار.

بعد ذلك، استخدمت تقنيات اختراق أساسية مثل تخمين كلمات مرور ضعيفة والعثور على أنظمة لا تتطلب مصادقة للوصول إلى أنظمة الشركات الفعلية.

أوضحت أنثروبيك أن نموذج الذكاء الاصطناعي أساء تفسير هذه التصرفات على أنها عملية قياس الأداء (Benchmark) وليس اختراقات في العالم الحقيقي.

▲ إنشاء برامج ضارة واختراق شركة أمن

في أحد الأمثلة، قام كلود بإنشاء برنامج ضار مباشرة ثم حث نظام مسح شركة أمن على تنزيله.

تمكن هذا البرنامج من سرقة بيانات اعتماد الشركة، وباستخدامها، نجح في الاختراق إلى البنية التحتية الداخلية.

يبدو أن كلود أدرك خلال عملية الاختراق أن تصرفاته غير مسموحة في الواقع، لكنه حكم على نفسه بأن الموقف الحالي محاكاة وليس واقع، واستمر في الهجوم.

▲ اختراق قاعدة بيانات شركة فعلية

في أخطر مثال، حاول كلود اختراق شركة اختبار افتراضية، لكنه اكتشف موقع ويب لشركة فعلية تستخدم نفس الاسم.

بعد فشل الوصول إلى الهدف الافتراضي، غيّر الذكاء الاصطناعي تكتيكه نحو اختراق قاعدة بيانات الشركة الفعلية.

أوضحت أنثروبيك أن هذه كانت الحالة الوحيدة التي استمر فيها الذكاء الاصطناعي في الهجوم حتى بعد إدراكه لحقيقة اختراقه شركة فعلية.

▲ وقف الهجمات فوراً في الحالات الأخرى

في الحالتين الأخريين، إما لم يدرك الذكاء الاصطناعي حقيقة اختراقه شركة فعلية، أو أوقف الهجوم فوراً بعد التأكد من أن الأنظمة حقيقية.

أوضحت الشركة أن هذا التصرف نتج عن عدم قدرة الذكاء الاصطناعي على التمييز الواضح بين الواقع والمحاكاة.

▲ بدء الاختراقات في أبريل... تضمن أحدث نماذج الذكاء الاصطناعي

وفقاً لأنثروبيك، بدأت عمليات الاختراق هذه في أبريل الماضي وتضمنت أوبوس 4.7 (Opus 4.7)، وميثوس 5 (Mythos 5)، ونموذج ذكاء اصطناعي بحثي لم يتم الإعلان عن اسمه.

أعلنت الشركة عن خطتها لتعزيز السيطرة على بيئات الاختبار والوصول إلى الإنترنت بشكل شامل لمنع حدوث حوادث مماثلة في المستقبل.