دعا نحو 400 عالم، منهم رائدا الذكاء الاصطناعي جيفري هينتون، ويوشوا بنجيو، الثلاثاء، إلى تأسيس هيئة دولية للإشراف على معايير الاحتواء، والإبلاغ عن الحوادث المتعلقة بالأنظمة الذكية المتطورة القادرة على شن هجمات إلكترونية.
وستضع الهيئة المقترحة معايير احتواء على مستوى القطاع بأكمله، بالإضافة إلى الاحتفاظ بسجل للحوادث الأمنية المهمة التي يقول العلماء إنه ينبغي إتاحتها للعامة في نهاية المطاف.
وقال الباحثون، في رسالة مفتوحة، إن نماذج الذكاء الاصطناعي المتطورة يجب عزلها مبدئياً عن الشبكات الخارجية، وإخضاعها لرقابة مستقلة، وبرروا ذلك بأن الالتزامات الطوعية من القطاع ليست كافية.
معايير احتواء الذكاء الاصطناعي المتقدم
يأتي هذا الاقتراح بعد شهر من توقيع أنثروبيك وOpenAI وجوجل وميتا وxAI وNVIDIA على اتفاق البيت الأبيض الذي يلتزمون بموجبه باتخاذ تدابير أمان طوعية دون أي آلية إنفاذ رسمية.
وتأتي هذه الرسالة أيضاً في أعقاب سلسلة من الحوادث التي يقول الباحثون إنها كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تجاوزت فيها نماذج الذكاء الاصطناعي بيئات اختبار معزولة، ولكن بنحو غير كاف، وأدت إلى اختراق أنظمة خارجية.
وقال الموقعّون، وهم من 34 دولة، إن المنظمات التي تطور نماذج ذات قدرات على شن هجمات إلكترونية، أو تختبرها، يجب أن تعتمد على الفور معايير احتواء مضمونة، في حين تعمل الحكومات على وضع نظام رقابة أكثر رسمية.
جدل متزايد بين صانعي السياسات
ويتزايد الجدل بين صانعي السياسات بشأن كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة.
وقالت النائبة التنفيذية للسيادة التكنولوجية والأمن والديمقراطية في الاتحاد الأوروبي، هينا فيركونين، لـ"رويترز"، الجمعة، إن قانون الذكاء الاصطناعي الخاص بالتكتل (AI Act) كافٍ للتصدي للأخطار الناجمة عن أنظمة الذكاء الاصطناعي المارقة.
ورفعت إدارة الرئيس الأميركي دونالد ترمب، الأحد، الحظر المفروض على المختبرات الأميركية، ما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى النماذج لإجراء اختبارات السلامة.
وتقاسم هينتون وبنجيو جائزة تورينج لعام 2018 مع يان لوكون من شركة ميتا، ولوكون باحث رائد آخر في مجال الذكاء الاصطناعي ولم يوقع على الرسالة، وقال إن الحوادث الأمنية في الآونة الأخيرة تعكس، في المقام الأول، إخفاقات هندسية، لا أخطار وجودية متعلقة بالذكاء الاصطناعي.
