أمن وكلاء الذكاء الاصطناعي

البرمجيات التقليدية تنفّذ تعليمات محددة سلفاً. أما روبوت المحادثة فيستجيب في الغالب: تسأل، فيجيب، دون أن يتغير شيء في أنظمتك نتيجة لذلك. وكيل الذكاء الاصطناعي مختلف من حيث التصميم؛ فهو قادر على ملاحظة موقف ما، واتخاذ قرار بشأن مسار عمل، واستدعاء أدوات، والوصول إلى أنظمة، وتعديل سجلات، والتواصل نيابة عنك، وتفعيل مهام عمل تلقائية، دون أن يوافق إنسان على كل خطوة على حدة. هذا التغيير وحده يحوّل سؤالاً أمنياً كان بسيطاً إلى سؤال لم يعد كذلك.

السؤال القديم كان: هل نموذج الذكاء الاصطناعي آمن؟ أما السؤال الذي يهم فعلاً بعد أن أصبحت البرمجيات قادرة على التصرف فهو: من أو ما الذي يتصرف، وبأي صلاحية، وبأي أذونات، وعلى أي أنظمة، ومن المسؤول عندما يخطئ؟ كل قسم أدناه هو في جوهره محاولة للإجابة عن جزء من هذا السؤال الواحد، لصالح من يتحملون مسؤولية الإجابة عنه: رؤساء أمن المعلومات، ورؤساء تقنية المعلومات، وقادة حوكمة الذكاء الاصطناعي، وفرق إدارة الهوية والوصول، وفرق الحوكمة والمخاطر والامتثال، ومدراء المخاطر، والمدققون الداخليون، ومهندسو الأمن، وأعضاء مجلس الإدارة.

وكيل الذكاء الاصطناعي مقابل روبوت المحادثة: ليس فرقاً في الدرجة

من المغري التعامل مع "الوكيل" على أنه مجرد روبوت محادثة أكثر قدرة. الجدول أدناه يوضح لماذا يقلل هذا التوصيف من حجم المخاطرة. عدة فروقات في صفوف الهوية والصلاحيات والمساءلة هي بالضبط الفجوة التي أُنشئت من أجلها مبادرة NIST لمعايير وكلاء الذكاء الاصطناعي، وإرشادات CISA لوكلاء الذكاء الاصطناعي، وقائمة OWASP لأعلى عشرة مخاطر للتطبيقات الوكيلية خلال 2025-2026.

البُعد	روبوت المحادثة	وكيل الذكاء الاصطناعي
الغرض	الإجابة عن الأسئلة وتوليد المحتوى	إنجاز مهام عبر اتخاذ إجراءات فعلية
الاستقلالية	لا استقلالية تتجاوز الرد الحالي	يمكنه التخطيط لإجراءات متعددة الخطوات بموافقة محدودة أو معدومة لكل خطوة
استخدام الأدوات	نادر ومحدود النطاق إن وُجد	روتيني: يستدعي واجهات برمجية، وينفذ أكواداً، ويستعلم قواعد بيانات
الوصول للأنظمة	قراءة غالباً، ضمن بيئة معزولة	قراءة وكتابة عبر أنظمة الإنتاج
الذاكرة والسياق	محادثة واحدة، غالباً بلا حالة محفوظة	يمكنه الاحتفاظ بالسياق والحالة عبر الجلسات والمهام
القدرة على تغيير الحالة	شبه معدومة	نعم — سجلات ومعاملات واتصالات ومهام عمل
متطلبات الهوية	غالباً يرث جلسة المستخدم المستدعي	يحتاج هوية مستقلة وقابلة للتمييز والتدقيق
الصلاحيات	أياً كانت صلاحيات التطبيق المضيف	ينبغي تحديدها بشكل مستقل حسب المهمة، لا موروثة
الموافقة البشرية	ضمنية عند قراءة الرد	يجب تصميمها عمداً، أو التنازل عنها صراحة
المخاطرة الأمنية	غالباً جودة المخرجات أو الهلوسة	عواقب واقعية: فقدان بيانات، معاملات غير مصرح بها
المساءلة	تقع كلياً على الإنسان الذي يقرأ المخرج	يجب أن تكون قابلة للتتبع إلى مالك أعمال ومالك تقني محددين

المشكلة الجوهرية: من أداة معلوماتية إلى فاعل رقمي

التحول المهم هنا هو الانتقال من الذكاء الاصطناعي كأداة معلوماتية إلى الذكاء الاصطناعي كفاعل رقمي. الأداة المعلوماتية تخبرك بشيء وأنت تقرر ما تفعله. أما الفاعل الرقمي فيقوم بفعل ما، والقرار بشأن ما إذا كان ينبغي السماح له بذلك يجب أن يُتخذ قبل وقوع الفعل، في تصميم هويته وصلاحياته، لا بعد وقوعه حين يراجع أحدهم السجل.

هوية الوكيل: لماذا يفشل "استخدم بياناتي فقط"

يحتاج الوكيل إلى هوية قابلة للتمييز عن الإنسان الذي أعدّه. حين يعمل الوكيل تحت بيانات اعتماد بشرية مشتركة أو حساب خدمة عام، تنكسر ثلاثة أمور دفعة واحدة: الإسناد (لا يمكنك معرفة ما إذا كان إنسان أم الوكيل من نفّذ الإجراء)، وقابلية التدقيق (تُظهر السجلات تسجيل دخول، لا نية محددة)، والإلغاء (تعطيل الوكيل يعني تعطيل الشخص، أو العكس). تتعامل مبادرة NIST لمعايير وكلاء الذكاء الاصطناعي وورقة NCCoE المتعلقة بهوية وكلاء البرمجيات والذكاء الاصطناعي مع كل وكيل كهوية غير بشرية مستقلة، لها مالك محدد، ونوع اعتماد موثّق، وجدول تدوير، ونطاق صلاحية مصرّح به، مطبقةً أنماطاً قائمة مثل OAuth 2.0 وOpenID Connect ومعايير هوية أحمال العمل مثل SPIFFE/SPIRE بدلاً من ابتكار شيء جديد. وتطبق ميزة Entra Agent ID من مايكروسوفت، وميزات مماثلة من مزوّدي هوية آخرين، الفكرة نفسها في بيئات الإنتاج: يحصل الوكيل على هويته الخاصة، لا هوية مستعارة. هذا ليس ادعاءً بأن بروتوكولاً تقنياً واحداً بعينه إلزامي في كل مكان؛ بل ادعاء بأن هوية مستقلة ومحوكمة ما مطلوبة، وأن تجاوزها هو ما يكسر الإسناد ومبدأ أقل الصلاحيات لاحقاً.

الملكية والمساءلة

الوكيل بلا مالك محدد ليس بلا مالك فحسب، بل بلا مساءلة، وهذا أسوأ. قبل تشغيل أي وكيل، ينبغي أن تكون لهذه الأسئلة إجابات محددة بالاسم، لا "فريق الذكاء الاصطناعي" كإجابة عامة:

من يملك الوكيل، ومن وافق عليه، ومن يملك عملية الأعمال التي يمسّها، ومن يملك البيانات التي يصل إليها، ومن يملك المخاطرة المتبقية، ومن يستطيع إيقافه خلال مهلة قصيرة، ومن المسؤول عندما يتخذ إجراءً غير ملائم — قد تكون هذه ستة أشخاص مختلفين، لكن كل واحد من الستة ينبغي أن يكون اسماً محدداً، لا إدارة عامة.

الصلاحيات: المرونة ليست سبباً للتوسّع

"يحتاج الوكيل صلاحيات واسعة ليكون مفيداً" هو أكثر تبرير شائع للتوسع المفرط في الصلاحيات، وهو استنتاج خاطئ من مقدمة صحيحة. إرشادات AWS التوجيهية الخاصة بالذكاء الاصطناعي الوكيلي صريحة بشأن نمط الفشل: تلجأ الفرق إلى دور IAM واسع موجود مسبقاً "لأنه مجرد أتمتة"، وهذه بالضبط الطريقة التي تُمحى بها الحدود المقصودة. النمط التصحيحي، المتسق عبر إرشادات AWS ومايكروسوفت وجوجل العامة، هو صلاحيات محددة النطاق حسب المهمة، ومحدودة زمنياً، وبأقل الامتيازات، تُقيَّم وقت التنفيذ لا بافتراض دور ثابت عند النشر.

بُعد الصلاحية	الموقف الافتراضي
القراءة مقابل الكتابة	امنح القراءة افتراضياً؛ والكتابة فقط حين تتطلبها المهمة فعلياً
صلاحية المعاملات	حدّها بسقف معيّن؛ وأي مبلغ أعلى يتطلب موافقة بشرية
الامتياز الإداري	لا يُمنح افتراضياً أبداً؛ يُعامل كاستثناء صريح ومُراجَع
التفويض	محدود النطاق والمدة؛ بلا إعادة تفويض مفتوحة
المدة	بيانات اعتماد قصيرة الأجل ومحدودة زمنياً بدل الوصول الدائم
وتيرة المراجعة	مراجعات صلاحيات مجدولة، لا "اضبطها مرة وانسها"
تضخم الصلاحيات	يُراقَب فعلياً؛ تُلغى الصلاحيات غير المستخدمة بدل تراكمها
الإجراءات عالية المخاطر	نقطة موافقة بشرية صريحة بغض النظر عن ثقة الوكيل

مستويات الاستقلالية: نموذج عملي من CyberAbeer

هذا تصنيف تعليمي من CyberAbeer، وليس معياراً صناعياً

لا يوجد مقياس رقمي واحد ومعتمد عالمياً لاستقلالية وكلاء الذكاء الاصطناعي، بالطريقة التي توجد بها مثلاً مستويات جمعية SAE لأتمتة المركبات. المستويات أدناه هي إطار CyberAbeer العملي الخاص للحديث عن الاستقلالية والحوكمة معاً. إنها مفيدة لتنظيم حوار مع جهة الأعمال؛ وليست استشهاداً بمعيار خارجي.

المستوى	الوصف	توقّع الحوكمة
المستوى 0	توصية فقط — يقترح الوكيل، ويقرر الإنسان وينفّذ	رقابة خفيفة: مراقبة جودة المخرجات
المستوى 1	إجراء بعد موافقة بشرية — يُعِدّ الوكيل الإجراء، ويصرّح به إنسان	مراجعة وصول قياسية، سجل موافقة واضح
المستوى 2	إجراءات مستقلة محدودة ضمن نطاق ضيّق ومُختبر جيداً	صلاحيات محددة النطاق، مراقبة فعالة، تدقيق دوري
المستوى 3	إجراءات مستقلة واسعة ضمن نطاق عمل معرَّف	موافقة مخاطر رسمية، مالكون محددون، خطة استجابة للحوادث
المستوى 4	قرارات أو إجراءات مستقلة عالية الأثر (مالية أو قانونية أو تتعلق بالسلامة)	مساءلة على مستوى المجلس/التنفيذيين، مراجعة مستمرة، اختبار مفتاح إيقاف الطوارئ

النمط الذي يجب تذكره: ينبغي أن تتصاعد متطلبات الحوكمة مع الاستقلالية والأثر معاً، لا مع الاستقلالية وحدها. وكيل من المستوى 3 يلامس بيانات داخلية منخفضة القيمة مشكلة حوكمة أصغر من وكيل من المستوى 1 له وصول دائم لبيانات الرواتب.

الموافقة البشرية: داخل الحلقة، على الحلقة، خارج الحلقة

الإنسان داخل الحلقة يعني أن شخصاً يوافق قبل تنفيذ الإجراء. الإنسان على الحلقة يعني أن شخصاً يمكنه المراقبة والتدخل، لكن الوكيل يمضي افتراضياً. الإنسان خارج الحلقة يعني أن الوكيل يتصرف دون أي نقطة تحقق بشرية آنية على الإطلاق. مثال ملموس، الشركة نفسها، ثلاث مهام: وكيل يلخّص عروض الموردين لمشترٍ بشري مصدر قلق منخفض، فهو لا يقرر شيئاً. وكيل يختار أي مورّد يوصي به مصدر قلق أعلى، ويحتاج منطقه إلى إمكانية الفحص. وكيل يوقّع عقداً أو يبدأ عملية دفع مصدر قلق مرتفع جداً، وينتمي بوضوح إلى فئة "داخل الحلقة" بصرف النظر عن مدى جودة سجله السابق.

الوصول إلى البيانات مشكلة حوكمة بيانات، لا مجرد ضبط وصول

ينبغي أن تكون صلاحيات الوكيل دالّة على تصنيف البيانات التي يلامسها، لا العكس. البيانات العامة، والداخلية، والسرية، وشديدة الحساسية، وبيانات العملاء، وبيانات الموظفين، وبيانات الاعتماد والأسرار، والشيفرة المصدرية، والسجلات المالية — لكل منها درجة تعرض مختلفة إذا أساء الوكيل التعامل معها، و"يحتاج الوكيل سياقاً ليكون مفيداً" ليس سبباً لتجاوز التصنيف، بل هو بالضبط سبب وجوب حدوث التصنيف أولاً. هذا بالضبط المجال الذي يُبنى حوله مفهوم Data Guardian الخاص بـ CyberAbeer: لا ينبغي أن يحصل الوكيل أبداً على صلاحية تتجاوز مستوى حساسية البيانات التي وراءها.

الذكاء الاصطناعي الخفي ووكلاء الظل

الذكاء الاصطناعي الخفي هو أي استخدام للذكاء الاصطناعي يقع خارج الحوكمة المعتمدة: حساب شخصي للذكاء الاصطناعي يُستخدم للعمل، أو أتمتة بناها قسم ما دون تسجيلها، أو امتداد متصفح غير معتمد بصلاحيات وصول واسعة للصفحات، أو تكامل ربطه مطوّر خلال عطلة نهاية أسبوع. أما وكيل الظل فهو النسخة الأكثر حدّة من المشكلة نفسها، لأنه قادر على التصرف، لا على توليد نص فقط. وجدت أبحاث Cloud Security Alliance أن 73% من المؤسسات المستطلعة تتوقع أن تصبح وكلاء الذكاء الاصطناعي أساسية خلال عام، بينما لم تستطع 68% منها التمييز بوضوح بين نشاط وكيل الذكاء الاصطناعي والنشاط البشري داخل أنظمتها — ما يعني أن معظم المؤسسات لا تستطيع حوكمة ما لا تراه أولاً. الاكتشاف والجرد (أي الوكلاء الموجودون، ومن يملكها، وما تستطيع الوصول إليه) يجب أن يسبق أي حوار عن الصلاحيات أو الاستقلالية، لأنك لا تستطيع تطبيق مبدأ أقل الصلاحيات على شيء لا تعلم أنه يعمل أصلاً.

مخاطر التفاعل بين الوكلاء

مع تزايد انتشار الأنظمة متعددة الوكلاء، يظهر سؤال جديد: إذا فوّض الوكيل "أ" الوكيل "ب"، واستدعى الوكيل "ب" الوكيل "ج"، فمن يملك الإجراء النهائي؟ هذا ليس افتراضاً بعيد المدى بقدر ما هو نمط معماري بدأ بالفعل بالظهور في نشرات إنتاج متعددة الوكلاء، وهو بالضبط سبب وجوب أن يكون التفويض محدوداً لا مفتوحاً: كل حلقة في سلسلة التفويض ينبغي أن تحمل نطاق صلاحية متناقصاً لا مطابقاً، وينبغي أن تكون السلسلة الكاملة قابلة لإعادة البناء لاحقاً. وإن تُرك التفويض دون قيود، يمكن أن تنتشر الصلاحية أبعد مما قصده أي شخص، ويصبح وراثة الامتياز غير المقصودة صعبة التدقيق جداً. هذا سؤال حوكمي حقيقي وقريب الأجل، لا سؤال مثير — والحل هو انضباط معماري في كيفية تحديد نطاق التفويض، لا التهويل.

مخاطر الأدوات وواجهات البرمجة

يكمن معظم المخاطر العملية في نشر الوكيل فيما يُسمح له باستدعائه، لا في النموذج نفسه. إطار MITRE ATLAS، النظير المتخصص بالذكاء الاصطناعي لإطار ATT&CK، يوثّق بشكل متزايد مسارات الهجوم عند طبقة التنسيق والتنفيذ هذه بالذات: ليس النموذج، بل الهويات والخدمات المجاورة له التي تتيح للوكيل الوصول إلى الأسرار والبيانات والإجراءات.

السجلات وعدم الإنكار

بعد أي إجراء يقوم به وكيل، ينبغي أن تكون المؤسسة قادرة على إعادة بناء ما حدث دون تخمين: أي وكيل تصرّف، وبأي هوية، وما التعليمة التي أطلقته، وما الأدوات التي استدعاها، وما البيانات التي لامسها، وما القرار الذي اتخذه، وما الذي تغيّر فعلياً، وهل شارك إنسان في القرار، وهل يمكن إسناد الإجراء بثقة. إن تعذّرت الإجابة عن أي من هذه الأسئلة من السجلات وحدها، فتصميم السجلات يعاني ثغرة، بصرف النظر عمّا إذا وقع خطأ فعلاً أم لا.

دورة حياة وكيل الذكاء الاصطناعي

لا يمكن أن تتوقف الحوكمة عند نقطة النشر. الوكيل الذي كان آمناً للموافقة عليه قبل ستة أشهر قد لا يكون آمناً اليوم، لأن البيانات التي يلامسها، أو الأدوات التي يستدعيها، أو عملية الأعمال المحيطة به قد تغيّرت.

سيناريو مخاطرة: وكيل المشتريات

لنتأمل وكيل مشتريات لدى شركة متوسطة الحجم افتراضية. يقرأ عروض الموردين الواردة، ويصل إلى نظام تخطيط الموارد، ويصيغ أوامر الشراء، وله صلاحية دائمة لتقديم المعاملات. يعمل تحت حساب خدمة مشترك. لا مالك أعمال محدد له. لا يوجد سقف موافقة بشرية لقيمة المعاملة.

ما الخطأ في هذا التصميم؟ قارنه بالنموذج أعلاه: الهوية مشتركة لا مستقلة، فيفشل الإسناد. الملكية غائبة، فلا أحد مسؤول إن صاغ أمر شراء خاطئاً. الامتياز واسع افتراضياً بدل أن يكون محدد النطاق حسب المهمة. الاستقلالية عند المستوى 3 (إجراء مستقل واسع) دون ضوابط مناسبة لهذا المستوى. الصلاحية المالية غير محدودة عملياً. قد تُظهر السجلات أن معاملة حدثت، لكن ليس ما إذا كان يُفترض إشراك إنسان فيها. الموافقة البشرية غائبة تماماً فوق أي سقف كان يجب أن يوجد. كل واحدة من هذه النقاط قابلة للإصلاح دون إلغاء فائدة الوكيل — وهذه هي الفكرة: الحل هو تصميم حوكمي، لا رفض الوكيل.

سيناريو قرار: أنت مسؤول حوكمة الذكاء الاصطناعي

أنت مسؤول حوكمة الذكاء الاصطناعي

يحتاج وكيل ذكاء اصطناعي إلى: قراءة وكتابة في نظام تخطيط الموارد، والوصول للبريد الإلكتروني، والوصول لقاعدة بيانات الموردين، وصلاحية موافقة على مشتريات حتى 50,000 دولار، والقدرة على التواصل الخارجي. وتقول جهة الأعمال: "نحتاج استقلالية كاملة كي يكون النظام مفيداً". قبل المتابعة، قرر: ما الصلاحيات التي ينبغي أن تبقى، وما الذي يتطلب موافقة بشرية، وما الذي يجب حظره تماماً، ومن ينبغي أن يملك الوكيل، وما الذي يجب تسجيله.

القرار الحوكمي المدافَع عنه يبدو كالتالي تقريباً: تبقى قراءة نظام تخطيط الموارد مع الوكيل؛ وتُقيَّد الكتابة على المسودة فقط، مع اشتراط موافقة بشرية للتقديم فوق سقف منخفض. يُمنح الوصول للبريد الإلكتروني للصياغة والإشعار الداخلي، لا للالتزامات الخارجية غير المراقبة. قراءة قاعدة بيانات الموردين مقبولة؛ وتُقيَّد صلاحية الكتابة. تُرفض صلاحية الموافقة بمبلغ 50,000 دولار تماماً على مستوى الوكيل — فهذا قرار من المستوى 4 يخص المجلس، لا شيء يُفوَّض افتراضياً لنظام مستقل؛ ويُحدَّد بدلاً منه سقف أقل بكثير وخاضع للمراجعة، مع توجيه أي مبلغ أعلى إلى معتمِد بشري محدد. يُقيَّد التواصل الخارجي بقوالب معتمدة مسبقاً، لا مراسلة مفتوحة. يحصل الوكيل على مالك أعمال محدد، ومالك تقني محدد، وتسجيل كامل على مستوى الإجراء منذ اليوم الأول. لا شيء من هذا يرفض حاجة العمل إلى أن يكون النظام مفيداً؛ بل يجيب عنها بشروط بدل شيك على بياض. هذا بالضبط نوع القرار الذي صُمم محاكي Agent Zero™ القادم من CyberAbeer لتتيح لك التدرب عليه عملياً، قريباً في CyberAbeer Labs.

رؤية الدكتورة عبير

انسجاماً مع التفكير الطبقي وراء إطارها الخاص GRCL، ترى الدكتورة عبير الشمري أن حوكمة وكلاء الذكاء الاصطناعي لا يمكن التعامل معها كتخصص منفصل يُضاف إلى مشروع الذكاء الاصطناعي. إنها حوكمة هوية، وحوكمة بيانات، وحوكمة مخاطر، وحوكمة أمنية، تعمل جميعها على الكائن نفسه في الوقت نفسه، والمساءلة البشرية هي الثابت الذي يربط هذه الأبعاد الأربعة ببعضها. افصل أياً من هذه الأربعة عن الأخرى — حوكم الهوية دون تصنيف البيانات، أو الصلاحيات دون السجلات — وستكون الفجوة بينهما بالضبط حيث تبدأ الحوادث.

أين يتصل هذا بإطار GRCL

يمكن تقييم أي مشروع وكيل ذكاء اصطناعي عبر العدسات الثلاث نفسها التي يطبقها إطار GRCL على أي قرار حوكمي: الحرجية التنظيمية، ومستوى المخاطرة، والقيمة التجارية. لا ينبغي رفض وكيل عالي القيمة تلقائياً لمجرد أنه يُدخل مخاطرة — فذلك يترك كل القيمة على الطاولة دون أي فائدة حوكمية. الهدف من تمرير الوكيل عبر هذه العدسة هو تحديد الضوابط اللازمة، والشروط المطبَّقة، ومستوى الموافقة المطلوب، وما إذا كانت الرقابة البشرية الآنية ضرورية، لا إصدار حكم بسيط بالموافقة أو الرفض. آلية عمل GRCL التفصيلية في تقييم مشروع معيّن هي بحث الدكتوراه الخاص بالدكتورة عبير ولا تُستنسخ هنا؛ وما يهم في هذا المقال هو المبدأ: المخاطرة سبب لإضافة الضوابط الصحيحة، لا سبب للرفض الافتراضي.

قيّم جاهزية حوكمة وكلاء الذكاء الاصطناعي لديك

إن لم تكن متأكداً من قدرة مؤسستك على الإجابة عن أسئلة الملكية والصلاحيات والتسجيل الواردة في هذا المقال لكل وكيل تشغّله بالفعل، فهذا بالضبط ما صُمم تقييم GreenTrust المجاني لكشفه، خلال نحو خمس عشرة دقيقة، ودون أي تكلفة.

أسئلة شائعة

ما هو وكيل الذكاء الاصطناعي؟

برمجية قادرة على ملاحظة السياق، واتخاذ قرار بشأن إجراء، وتنفيذه، عادة عبر استدعاء أدوات أو واجهات برمجية، بموافقة بشرية محدودة أو معدومة لكل خطوة — بخلاف البرمجية التي تنفذ فقط تسلسلاً ثابتاً من التعليمات.

هل وكيل الذكاء الاصطناعي هو نفسه روبوت المحادثة؟

لا. روبوت المحادثة يستجيب؛ ولا يغيّر عادة أي شيء في أنظمتك. أما الوكيل فيمكنه القراءة والكتابة عبر أنظمة حقيقية واتخاذ إجراءات ذات عواقب، ولهذا يحتاج هويته الخاصة ونموذج صلاحياته ورقابته الخاص.

هل يحتاج وكيل الذكاء الاصطناعي هوية خاصة به؟

غالباً نعم. مشاركة بيانات اعتماد إنسان أو حساب خدمة عام مع الوكيل يكسر الإسناد وقابلية التدقيق والإلغاء النظيف. تتعامل مبادرة NIST لمعايير وكلاء الذكاء الاصطناعي وميزة Entra Agent ID من مايكروسوفت مع الوكلاء كفئة مستقلة من الهوية غير البشرية لهذا السبب بالذات.

ما هي الهوية غير البشرية؟

هوية تُمنح لقطعة برمجية (خدمة، أو حمل عمل، أو وكيل) لا لشخص، بحيث يمكن مصادقة إجراءاتها وتحديد نطاقها وتدقيقها بشكل مستقل عن تسجيل دخول أي إنسان.

ما الصلاحيات التي ينبغي أن يمتلكها وكيل الذكاء الاصطناعي؟

الحد الأدنى اللازم لمهمته المحددة، ممنوحاً لمدة محدودة، ومُراجَعاً وفق جدول، ومحدوداً بوضوح دون الامتياز الإداري أو صلاحية المعاملات غير المحدودة، ما لم يُنص على استثناء صريح ومُراجَع.

من المسؤول عن وكيل الذكاء الاصطناعي؟

مالك أعمال محدد، ومالك تقني محدد، ومالك مخاطر معرَّف، كحد أدنى — لا "فريق الذكاء الاصطناعي" كإجابة جماعية غير محددة.

ما هو الذكاء الاصطناعي الخفي؟

أي استخدام للذكاء الاصطناعي، بما في ذلك الوكلاء، يعمل خارج عملية الحوكمة المعتمدة للمؤسسة: أدوات غير مسجلة، أو حسابات شخصية تُستخدم للعمل، أو أتمتة بناها قسم ما دون مراجعة أو جرد مركزي.

هل ينبغي أن يصل وكلاء الذكاء الاصطناعي إلى بيانات سرية؟

فقط حين يكون مستوى حساسية تلك البيانات مصنَّفاً وتكون صلاحية الوكيل قد حُدِّدت عمداً لتطابقه — يجب أن يتبع الوصول التصنيف، لا العكس.

كيف ينبغي تدقيق وكلاء الذكاء الاصطناعي؟

عبر سجلات مفصّلة بما يكفي لإعادة بناء أي وكيل تصرّف، وبأي هوية، وبأي تعليمة، وباستخدام أي أدوات وبيانات، وما الذي تغيّر، وهل شارك إنسان في القرار — قابلة لإعادة البناء لاحقاً، لا مجرد مراقَبة في اللحظة نفسها.

أمن وكلاء الذكاء الاصطناعي: الهوية والصلاحيات والاستقلالية وتحديات الحوكمة