أعلنت إنفيديا عن إطلاق تحالف صناعي جديد بالتعاون مع شركات تكنولوجيا رائدة لتعزيز سلامة الذكاء الاصطناعي التوليدي وتحسين الأمن السيبراني.

يأتي هذا الإجراء بعد حادثة اخترقت فيها وكيل ذكاء اصطناعي من أوبن إيه آي السيطرة وقام باختراق منصة هاجينج فيس (Hugging Face)، مما أبرز المخاطر الأمنية للذكاء الاصطناعي المستقل.

▲ مشاركة أدوبي وديل وكراودسترايك...إطلاق "تحالف الذكاء الاصطناعي الآمن المفتوح"

وفقاً لوكالة رويترز في 27 من هذا الشهر (بالتوقيت المحلي)، أعلنت إنفيديا عن إطلاق "تحالف الذكاء الاصطناعي الآمن المفتوح (Open Secure AI Alliance)" لتطوير تقنيات سلامة الذكاء الاصطناعي والأمن السيبراني بشكل مشترك وتبادل الأدوات ذات الصلة.

تضم الأعضاء المؤسسون أدوبي وكراودسترايك وهاجينج فيس وديل تكنولوجيز وغيرها.

تم تعزيز هذا التحالف كامتداد لرسالة مفتوحة نشرتها عدد من شركات الذكاء الاصطناعي بما فيها أوبن إيه آي بعنوان "الأوزان المفتوحة والقيادة الأمريكية في الذكاء الاصطناعي"، وتتضمن الرسالة دعوات لتقديم دعم سياسي لنماذج الذكاء الاصطناعي ذات الأوزان المفتوحة (Open-weight).

▲ "القواعد المفرطة تضعف القدرات الدفاعية للذكاء الاصطناعي"

أكدت إنفيديا من خلال مدونتها الرسمية أن التنظيمات التي تقيد نماذج الذكاء الاصطناعي المفتوحة الحديثة بشكل شامل قد تضعف القدرات الدفاعية للأمان بدلاً من تحسينها، وقد تؤدي إلى تركيز السلطة والاعتماد على عدد قليل من شركات الذكاء الاصطناعي المغلقة.

أكدت الشركة على أن النظام البيئي المفتوح للذكاء الاصطناعي يمكنه تحقيق مستويات أعلى من الأمان والابتكار على أساس الشفافية والتعاون.

▲ حادثة اختراق وكيل أوبن إيه آي تشكل نقطة تحول

تم تعزيز إطلاق هذا التحالف بعد حادثة اختراق وكيل الذكاء الاصطناعي من أوبن إيه آي التي حدثت مؤخراً.

أعلنت أوبن إيه آي في 21 من هذا الشهر عن وقوع حادثة أحد وكلائها الذكاء الاصطناعي خارج السيطرة واخترق منصة الذكاء الاصطناعي هاجينج فيس دون إذن.

أفادت وكالة رويترز في 25 من هذا الشهر بأن وكيل الذكاء الاصطناعي استمر في أنشطة الاختراق، ولم تدرك أوبن إيه آي الحالة إلا بعد أن تمت السيطرة على التهديد بالفعل وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي (FBI).

يُعتبر هذا الحادث بمثابة نقطة تحول جعلت السيطرة والمراقبة على وكلاء الذكاء الاصطناعي المستقل مسألة مهمة.

إنفيديا (الصورة: [رويترز / وكالة يونهاب الإخبارية])

▲ توسع التحركات لدعم الأوزان المفتوحة للذكاء الاصطناعي

وقعت إنفيديا أيضاً على الرسالة المفتوحة "الأوزان المفتوحة والقيادة الأمريكية في الذكاء الاصطناعي" في 24 من هذا الشهر، مما يدعم توسع النظام البيئي المفتوح للذكاء الاصطناعي.

يشير نموذج الأوزان المفتوحة للذكاء الاصطناعي إلى نموذج ذكاء اصطناعي يكشف عن أوزان النموذج الأساسي والمكونات الرئيسية، مما يسمح للباحثين والمطورين باستخدامها بحرية.

كما يحظى البرنامج مفتوح المصدر باهتمام لأن الكشف عن الكود المصدري يسمح لأي شخص بمراجعة وتحسين التكنولوجيا، مما يرفع من إمكانية الوصول إلى التكنولوجيا وسلامتها الأمنية في نفس الوقت.

▲ إنفيديا تكشف أيضاً تقنيات السيطرة على وكلاء الذكاء الاصطناعي

أفادت إنفيديا بأنها تخطط لتقديم نماذج الذكاء الاصطناعي المفتوحة وأوزان النماذج ومجموعات البيانات ونتائج البحث في تقنيات التحكم في وكلاء الذكاء الاصطناعي لهذا التحالف.

وبالتحديد، كشفت الشركة أيضاً عن مشروع مفتوح المصدر يسمى "وكلاء موجهة بالكائنات" طورته مختبرات إنفيديا (Nvidia Labs) من خلال منصة مشاركة الأكواد جيت هاب (GitHub).

أوضحت الشركة أن هذا الإطار يدعم إدارة سلوك وكلاء الذكاء الاصطناعي بشكل أكثر فعالية، ويمكنه تبسيط عملية اختبار وتتبع ومراجعة وتنظيم سلوك الذكاء الاصطناعي بشكل كبير.

▲ تحقيق التوازن بين الانفتاح والأمان يظهر كمسألة أساسية في صناعة الذكاء الاصطناعي

يحلل القطاع أن ضمان الانفتاح والأمان معاً مع ارتفاع الاستقلالية في نماذج وعوامل الذكاء الاصطناعي بسرعة أصبح مسألة أساسية لصناعة الذكاء الاصطناعي.

خاصة مع تحقق احتمالية قيام وكلاء الذكاء الاصطناعي بسلوك غير متوقع مثل حالة اختراق هاجينج فيس الأخيرة، يُتوقع أن تتسع التحركات بين شركات الذكاء الاصطناعي لتطوير تقنيات الأمان بشكل مشترك متجاوزة المنافسة.