إرشادات دول العيون الخمس لتبني الذكاء الاصطناعي الوكيلي

مصدر أساسي

نُشرت بشكل مشترك من قبل CISA (الولايات المتحدة) وNSA (الولايات المتحدة) والوكالات النظيرة في أستراليا وكندا ونيوزيلندا والمملكة المتحدة في 1 مايو 2026 -- أول إرشادات أمن سيبراني لدول العيون الخمس تخص تحديداً الذكاء الاصطناعي الوكيلي.

ماذا حدث

نشرت CISA وNSA، إلى جانب وكالات شريكة من دول العيون الخمس، وثيقة "التبني الحذر لخدمات الذكاء الاصطناعي الوكيلي" -- إرشادات موجَّهة تحديداً لأنظمة الذكاء الاصطناعي التي تستخدم وكيلاً واحداً أو أكثر مدعوماً بنماذج لغوية كبيرة قادرة على تفسير المعلومات واتخاذ القرارات والتصرف بشكل مستقل، بخلاف إرشادات الذكاء الاصطناعي التوليدي السابقة التي ركّزت على توليد المحتوى والاستخدام بأسلوب روبوتات المحادثة.

لماذا يهم هذا

هذه إشارة متعمدة إلى أن الذكاء الاصطناعي الوكيلي يُعامَل كفئة أمنية متمايزة عن الذكاء الاصطناعي التوليدي عموماً، بملف مخاطر خاص به: الوكلاء القادرون على التصرف، لا الاستجابة فقط، يُدخلون أنماط فشل حول اتخاذ قرارات دون إشراف، وإجراءات متسلسلة، وفقدان إمكانية التدقيق لا يعرفها روبوت محادثة. تحدد الإرشادات خمس فئات رئيسية من المخاطر الأمنية المرتبطة بنشر الذكاء الاصطناعي الوكيلي، تشمل تعطل الخدمة وكشف البيانات وفقدان إمكانية التدقيق.

من المتأثر

أي مؤسسة تنشر أو تجرّب أو تقيّم أنظمة ذكاء اصطناعي وكيلية -- وكلاء مبنيون داخلياً، أو منصات وكيلية من طرف ثالث، أو ميزات "وضع الوكيل" من مزوّدي الذكاء الاصطناعي. كُتبت الإرشادات لكل من الجهات الحكومية والقطاع الخاص المتبنية.

الأثر الحوكمي

التوصية الرئيسية هي تبني الذكاء الاصطناعي الوكيلي تدريجياً، بدءاً بالمهام منخفضة المخاطر، ومعاملة الحوكمة القوية والإشراف البشري والمراقبة الصارمة والمساءلة الصريحة كمتطلبات أساسية لا كإضافات مستحبة. وريثما تنضج أساليب التقييم ومعايير الأمن للأنظمة الوكيلية أكثر، توصي الإرشادات صراحة بإعطاء الأولوية للمرونة وإمكانية التراجع واحتواء المخاطر على سرعة النشر أو مكاسب الكفاءة.

ما ينبغي لفرق الأمن فعله

قارِن كل نظام ذكاء اصطناعي وكيلي قيد الإنتاج أو التجربة حالياً بمبدأ التبني التدريجي في الإرشادات -- هل يبدأ بمهام منخفضة المخاطر فعلياً، أم نُشر بنطاق كامل فوراً
تأكد من أن المساءلة البشرية صريحة وموثَّقة لصلاحية قرار كل وكيل، لا ضمنية عبر افتراض "يمكن لشخص مراجعة السجلات لاحقاً"
قيّم ما إذا كانت إجراءات الوكيل قابلة للتراجع، وكيف يبدو مسار التراجع إن اتخذ الوكيل إجراءً غير مقصود
عامل هذه الإرشادات كخط أساس لسياسة الذكاء الاصطناعي الوكيلي الداخلية، لا كتمرين قراءة لمرة واحدة

ما ينبغي للتنفيذيين معرفته

هذه أول مرة تصدر فيها حكومات دول العيون الخمس إرشادات موحَّدة تعامل الذكاء الاصطناعي الوكيلي كفئة مخاطر قائمة بذاتها. ينبغي لمجالس الإدارة والتنفيذيين الراعين لمبادرات الذكاء الاصطناعي الوكيلي توقّع أن تُشكّل هذه الفئة من الإرشادات توقعات تنظيمية وأسئلة العناية الواجبة تجاه المورّدين مستقبلاً، حتى في نطاقات قضائية خارج دول العيون الخمس.

د. عبير توضح

القرار الذي تدفع نحوه هذه الإرشادات هو انضباط النطاق: ما القرارات المحددة التي تسمح مؤسستك اليوم لوكيل ذكاء اصطناعي باتخاذها دون إشراف بشري، وما القرارات التي تتطلب موافقة صريحة. إن لم يكن هذا الحد مكتوباً لكل نشر وكيلي تشغّله، فهذه الإرشادات هي المرجع لكتابته.

الصلة بدول الخليج

يمكن للحكومات والمؤسسات الخليجية التي تسرّع تجارب الذكاء الاصطناعي الوكيلي -- غالباً بالشراكة مع مزوّدي نماذج كبار -- استخدام هذه الإرشادات كمرجع موثوق ومبكر قبل نضوج تنظيم الذكاء الاصطناعي الوكيلي الخاص بالمنطقة، على غرار ما يفعله إطار IMDA السنغافوري بالفعل في آسيا والمحيط الهادئ (تغطيه CyberAbeer بشكل منفصل).

المصادر

صفحة إرشادات CISA الرسمية؛ ملف PDF الأساسي من media.defense.gov؛ تحليل قانوني من Crowell & Moring وMayer Brown.

وكالات الأمن السيبراني لدول العيون الخمس تصدر أول إرشادات مشتركة لتبني الذكاء الاصطناعي الوكيلي