حين يصبح وكيل الذكاء الاصطناعي هو الحادث: الأدلة قبل إعادة البناء
Dr. Abeer Alshammari · تاريخ النشر 1/11/2026
في 16 أكتوبر 2026 أصدر كلٌّ من مركز NIST للابتكار والمعايير المتقدمة للذكاء الفائق، ومركز الأمن للذكاء الفائق في وكالة الأمن القومي الأمريكية (NSA)، ووكالة CISA وثيقةً بعنوان Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation. الوثيقة طوعية وتقع في 14 صفحة، وأهميتها تتجاوز مختبرات النماذج المتقدمة، فهي أول إرشاد أمريكي مشترك يعامل وكيل الذكاء الاصطناعي الذي يتصرف خارج نطاق تفويضه بوصفه فئة حوادث مستقلة لها دورة استجابة خاصة بها.
ماذا تقول الوثيقة
تضع الوثيقة عشر ممارسات موزعة على خمس مراحل: الاستعداد، والكشف، والاستجابة، والتعافي، والإبلاغ. وهي تبني على إطار NIST CSF 2.0 والمواصفة SP 800-61r3، لذلك ستجد فرق الأمن بنيتها مألوفة. ويشمل نطاقها النماذج المستقلة المزوّدة بأدوات برمجية تتيح لها التأثير في بيئة التشغيل، ومنها الوكلاء الذين يتصرفون خارج حدود تفويضهم أو دون تفويض أصلاً. ومن التوصيات المنقولة عن الوثيقة: منح الوكلاء أقل الصلاحيات الممكنة، ومراقبة حركة البيانات الخارجة، وتوفير مفاتيح إيقاف طارئ، والمراقبة على مستوى النموذج والإطار التشغيلي والمضيف والشبكة، والتحقق من احتواء الحادث قبل إعادة التشغيل. كما يُعامَل الحادث الوشيك (near-miss) كحادث فعلي، وتستحق بوابات المراقبة نفس التدقيق الذي يُطبَّق على الوكلاء أنفسهم.
الأدلة هي سؤال الحوكمة الحقيقي
أكثر الممارسات أثراً على فرق الحوكمة هي المتعلقة بالأدلة. فالمطلوب من المؤسسات، بالقدر اللازم للتحقيق في حادث يمس الضوابط، الاحتفاظ بأوزان النموذج ونقاط الحفظ الوسيطة وسجلات البيئة المعزولة والشبكة والإجراءات واستدعاءات الأدوات المرفوضة، إضافة إلى الإعدادات اللازمة لإعادة إنتاج ما حدث. ويجب أن تكون السجلات مقاومة للعبث وبطوابع زمنية موثوقة، وأن تغطي مسارات عمل الوكيل واستدعاءات الأدوات وآثار الاستدلال وحالات البيئة وقرارات ضوابط الأمن.
هذا معيار مختلف جداً عن تسجيل التطبيقات المعتاد. فإذا كان الوكيل قادراً على اتخاذ إجراء، فعليك أن تُثبت لاحقاً ما كان مسموحاً له به، وما حاول فعله، وما الذي مُنع ولماذا. هذا متطلب مسار تدقيق، ومكانه في وظيفة الحوكمة والمخاطر والامتثال وليس في الهندسة وحدها.
ما تتركه الوثيقة مفتوحاً عمداً
عند قراءة الوثيقة إلى جانب التعليقات المستقلة، تبرز ثغرات ينبغي الانتباه لها قبل اعتمادها مرجعاً للامتثال.
لا مدة احتفاظ محددة. تطلب الوثيقة حفظ الأدلة لكنها لا تحدد المدة، ولا تتناول التجميد القانوني للبيانات.
لا ترتيب إلزامي للخطوات. قد تتعارض ممارسة جمع الأدلة مع ممارسة سحب بيانات الاعتماد وإعادة بناء البيئات المتضررة، ولا يوجد نص يقضي بإتمام الحفظ قبل إعادة البناء. وعليك أن تحسم ذلك في دليل التشغيل الخاص بك.
لا أثر قانوني. تنص الوثيقة على أنها ليست مشورة لأغراض الامتثال أو التنظيم أو القانون، وتحيل إلى التزامات الإبلاغ القائمة بدل أن تنشئ التزامات جديدة.
نطاق غير واضح للجهات المشغِّلة. يذكر المؤلفون أن الممارسات قد تنطبق أيضاً على الجهات التي تنشر النماذج، لكن الجمهور الأساسي هو مطورو الأنظمة المتقدمة ومقيّموها.
الأسباب العدائية خارج النطاق. السلوك غير الموجَّه الناتج عن حقن التعليمات أو البرمجيات الخبيثة مؤجَّل لأعمال لاحقة، مع أنه نمط الفشل الذي ستواجهه أغلب المؤسسات أولاً.
كيف تستفيد منها الآن
للجهات التي تنشر وكلاء ولا تبني نماذج متقدمة، تصلح الوثيقة قائمةَ تحقق لتصميم الضوابط أكثر منها تكليفاً ملزماً. وثمة أربع خطوات معقولة. أولاً، أضف «وكيل تصرف خارج التفويض» إلى تصنيف الحوادث لديك مع سلّم للخطورة. ثانياً، حدّد مسبقاً الأدلة التي ستجمعها ومدة الاحتفاظ بها ومن يملك صلاحية التجميد، فالوثيقة لن تقرر ذلك عنك. ثالثاً، ضمّن دليل التشغيل قاعدة التسلسل: احفظ الأدلة أولاً ثم أعد البناء. رابعاً، اختبر مفتاح الإيقاف وفحوص الاحتواء قبل الحاجة إليها، وسجّل النتيجة كدليل على فعالية الضابط.
لن تكون هذه الوثيقة الكلمة الأخيرة، لكنها تمنح مجالس الإدارة والجهات التنظيمية لغة مشتركة. والمؤسسات القادرة على إبراز سجلات وكلائها واختبارات الاحتواء ومسار إيقاف مجرَّب ستكون في موقع أفضل حين يبدأ المدققون وشركات التأمين بالسؤال.
المصدر: NIST وNSA وCISA، الإصدار 1.0، أكتوبر 2026، كما لخّصته BankInfoSecurity وComplexDiscovery.
جرّب بنفسك
تجربة تفاعلية من CyberAbeer لهذا الموضوع قيد التطوير حالياً.
قريباً