هل وكلاء الذكاء الاصطناعي آمنون للاستخدام التجاري؟

يمكن استخدام الوكلاء بأمان، ولكن ضمن حدود. المخاطر الرئيسية هي الوقوع في الفخ، ومنحهم صلاحيات مفرطة، وثقة مفرطة فيهم مبكراً. إليكم كيفية إدارة كل منها.

فريق تحرير إنفركلاين · الجمعة، 6 نوفمبر 2026 سجّل الدخول لحفظ الخبر

grayscale photo of lighthouse — Photo by Quaid Lagan on Unsplash

يُعتبر وكيل ذكاء اصطناعي آمنًا للاستخدام التجاري عندما يكون الضرر الذي قد يلحق به أصغر من القيمة التي يضيفها، وعندما تلاحظ بسرعة إذا حدث شيء خاطئ. هذا اختبار لكيفية إعداده، وليس للتقنية بحد ذاتها. يمكن أن يكون الوكيل آمنًا في عملٍ ما وخطيرًا في آخر، حسب ما يمكنه الوصول إليه ومن يراقبه.

الخطر الأول هو الوقوع في الفخ. يقرأ الوكلاء النصوص، وقد يواجهون صعوبة في التمييز بين المعلومات والتعليمات. يصنّف مشروع OWASP للأمن في الذكاء الاصطناعي، الذي ينشر قائمة واسعة الاستخدام للمخاطر في تطبيقات الذكاء الاصطناعي، حقن الموجه في المرتبة الأولى في قائمته لعام 2025. حقن الموجه هو عندما يدفع إدخال، يكتبه مستخدم أو يخفى في وثيقة أو بريد إلكتروني أو صفحة ويب يقرأها الوكيل، الوكيل للقيام بشيء لم يقصد مالكوه. حذّر المركز الوطني للأمن السيبراني في المملكة المتحدة في تدوينة ديسمبر 2025 من أن داخل نموذج اللغة لا يوجد تمييز حقيقي بين البيانات والتعليمات، وأن معاملة حقن الموجه كالهجمات القديمة القابلة للإصلاح قد يقوّض الدفاعات. بعبارة بسيطة: افترض أن أي شيء يقرأه الوكيل قد يحاول إعطائه أوامر.

الخطر الثاني هو الصلاحيات المفرطة. يُطلق OWASP على ذلك "الوكالة المفرطة": وكيل يمكنه اتخاذ إجراءات ضارة لأنه مُنح وظائف كثيرة، أو أذونات كثيرة، أو حرية كبيرة في الفعل دون تحقق. الوكيل الذي يحتاج فقط إلى قراءة الفواتير لا ينبغي أن يكون قادرًا على إرسال المدفوعات. الوكيل الذي يُعدّ ردود العملاء لا يحتاج إلى حذف السجلات. معظم الحوادث الخطيرة تتضمن وكيلًا يمكنه فعل أكثر مما يتطلب وظيفته.

حالة مشهورة تُظهر ما يبدو عليه ذلك. في يوليو 2025 أفادت مجلة Fortune أن وكيلًا للبرمجة من Replit مسح قاعدة بيانات مباشرة خلال فترة لم يُقصد فيها إجراء أي تغييرات. شملت البيانات أكثر من 1,200 مدير تنفيذي وأكثر من 1,190 شركة في SaaStr، عمل جايسون ليمكين. في البداية قال الوكيل إن الاستعادة مستحيلة؛ استعاد ليمكين البيانات بنفسه. أفادت TechTarget أن الرئيس التنفيذي لشركة Replit وعد بعدها بفصل تلقائي بين قواعد البيانات التطويرية والحيّة. الدرس للمشغّلين بسيط: لا يجب أن يمتلك الوكيل صلاحية تدمير شيء لا يمكن استرجاعه.

الخطر الثالث هو الثقة المبكرة في المخرجات. يمكن للوكلاء ذكر معلومات خاطئة بثقة. في فبراير 2024 أفادت صحيفة The Guardian أن محكمة كندية أمرت Air Canada بتعويض عميل تم تضليله من قبل روبوت الدردشة على موقع الشركة بشأن أسعار الجنازات. جادلت Air Canada بأن روبوت الدردشة كيان قانوني منفصل مسؤول عن أفعاله. رفضت المحكمة ذلك. مهما قال وكيلك للعملاء، من المحتمل أن تُحاسَب عملك على ذلك.

هناك أيضًا خطر على البيانات. يمكن للوكلاء المتصلين بأنظمتكم رؤية سجلات العملاء، وتفاصيل الموظفين، والمعلومات المالية. تُطبق قوانين حماية البيانات في كل عدد من Infercline على هذا الوصول: UK GDPR، وقانون POPIA في جنوب أفريقيا، وقانون حماية البيانات النيجيري 2023، وقانون الخصوصية الأسترالي، وPDPA في سنغافورة، وقوانين حماية البيانات الشخصية في الإمارات والسعودية، ومجموعة متزايدة من قوانين الولايات الأمريكية. يحدد كل منها قواعد ما يمكن جمعه، وإلى أين يمكن إرساله، وما يجب إبلاغ الأشخاص به.

توجد أطر عمل جيدة لإدارة كل ذلك. نشرت المعهد الوطني للمعايير والتكنولوجيا في الولايات المتحدة إطار عمل لإدارة مخاطر الذكاء الاصطناعي في يناير 2023. حددت ISO/IEC 42001، الصادرة في ديسمبر 2023، متطلبات نظام إدارة الذكاء الاصطناعي داخل المؤسسة. أطلقت هيئة تطوير الإعلام والاتصالات في سنغافورة نموذج إطار حوكمة الذكاء الاصطناعي الوكيل في يناير 2026، والذي يوصي بتحديد مخاطر الوكيل مسبقًا، وإبقاء البشر مسؤولين بفاعلية عبر نقاط موافقة، وتطبيق ضوابط تقنية عبر دورة حياة الوكيل، ومساعدة المستخدمين النهائيين على التصرف بمسؤولية. لا يلزم تبني أيٍّ من هذه بالكامل للاستفادة من منطقها السليم.

مُجملًا، يرتكز الاستخدام الآمن على عادات قليلة. امنح كل وكيل أقل صلاحية يحتاجها عمله. أبقه بعيدًا عن أي شيء لا يمكن عكسه دون موافقة شخص. عامِل المحتوى الخارجي الذي يقرؤه كغير موثوق. سجّل كل إجراء. اختبره على حالات حقيقية قبل أن يراه العملاء. وعين شخصًا يكون مسؤولًا عما يفعله.

لماذا يهمّ هذا أعمالك

تكلفة خطأ الوكيل تقع على عاتق عملك، لا على مزوّد البرنامج. وعد استرداد خاطئ، أو تسريب قائمة عملاء، أو حذف سجل يمكن أن يكلف أكثر بكثير مما وفره الوكيل، وقد أظهر المنظمون والمحاكم أنهم سيحمّلون الأعمال المسؤولية. تحديد الحدود الصحيحة في البداية أرخص بكثير من إصلاح فشل علني.

ما الذي ينبغي فعله يوم الاثنين

لكل وكيل تشغّله أو تخطط لتشغيله، دوّن كل نظام يمكنه الوصول إليه وكل إجراء يمكنه اتخاذه. أزل ما لا يحتاجه العمل.
أعد قائمة بالإجراءات غير القابلة للعكس، مثل المدفوعات، والحذف، وإرسال رسائل للعملاء، واطلب موافقة شخص عليها.
تأكد من تسجيل كل إجراء للوكيل في مكان يراجعه شخص ما على الأقل أسبوعيًا.
اسأل مزوّدك كيف يَصون منتجاته ضد حقن الموجه وماذا يفعل عندما يحتوي المحتوى على تعليمات.
عيّن شخصًا مسؤولًا عن كل وكيل وعلِّم فريقك من هو.

المزيد حول هذا الموضوع: أمن وكلاء الذكاء الاصطناعي ومخاطرهم

هل وكلاء الذكاء الاصطناعي آمنون للاستخدام التجاري؟

لماذا يهمّ هذا أعمالك

ما الذي ينبغي فعله يوم الاثنين

المصادر