موافقة بشرية: حيث يتعين على شخص أن يبقى مسؤولًا عن وكيل ذكاء اصطناعي

يجب ألا تُترك بعض القرارات أبدًا للبرمجيات وحدها، وتؤيد عدة دول هذا المبدأ. كيفية تحديد الموضع الذي يوافق فيه الشخص، وكيفية جعل تلك الموافقة حقيقية.

فريق تحرير إنفركلاين · الجمعة، 6 نوفمبر 2026 سجّل الدخول لحفظ الخبر

black and gold fountain pen — Photo by Thomas Griggs on Unsplash

يحتاج كل وكيل ذكاء اصطناعي إلى حد لا يتجاوزه دون إذن الشخص. رسم ذلك الحد بشكل جيد هو الفارق بين وكيل يوفر الوقت وآخر يخلق مخاطر. إذا كان الحد ضيقًا جدًا يوافق الشخص على كل شيء، وبالتالي لا يُحفظ أي توفير. وإذا كان الحد واسعًا جدًا يتخذ الوكيل قرارات لا يوقع عليها أحد. يجب أن يستند الحد إلى شيئين: مقدار الضرر المحتمل من فعل خاطئ، وما يتطلبه القانون في مكان عملك.

ابدأ بالضرر. بعض الإجراءات لا يمكن التراجع عنها: إرسال أموال، حذف بيانات، إرسال رسالة إلى عميل، الاشتراك في عقد، نشر شيء ما. بعض الإجراءات تؤثر على حياة شخص: رفض ائتمان، رفض طلب وظيفة، إلغاء خدمة، تغيير سعر لعميل واحد. يجب أن يوافق شخص على هذه الإجراءات، على الأقل حتى يكتسب الوكيل سجلًا طويلًا من الإنجاز الصحيح، وبعضها يجب أن يحتاج دائمًا إلى موافقة.

يصف مشروع OWASP Gen AI Security خطر الوكالة المفرطة، حيث يمكن للوكيل اتخاذ إجراءات ضارة لأنه يمتلك وظائف كثيرة، أذونات كثيرة أو استقلالية مفرطة. نصائحه تعني إبقاء شخص في الحلقة للقرارات ذات الأثر العالي وتحديد ما يمكن للوكيل الوصول إليه في المقام الأول. حادثة موسعة في يوليو 2025، حيث صرّحت Fortune أن وكيل برمجة ذكاء اصطناعي من Replit محى قاعدة بيانات شركة حية، تُظهر ما يحدث عندما يمتلك الوكيل القدرة على إجراء تغييرات لا يمكن التراجع عنها دون رقابة.

يحدد القانون حدًا أدنى في عدة إصدارات. في المملكة المتحدة، حلت Data (Use and Access) Act 2025 محل المادة 22 من UK GDPR بمادة جديدة 22A إلى 22D، سارية اعتبارًا من 5 فبراير 2026 وفقًا لـ legislation.gov.uk. تُعدّ القرارات تلقائية بحتة عندما لا يوجد تدخل بشري ذي معنى. عندما تُتخذ قرارات هامة بهذه الطريقة، يجب إبلاغ الأشخاص، وإتاحة الفرصة لهم لتقديم ملاحظاتهم، والحصول على تدخل بشري، والاعتراض على القرار، مع فرض قيود أشد عندما تكون البيانات حساسة.

تنص POPIA في جنوب أفريقيا، في المادة 71، على أنه لا يجوز أن يُخضع شخص لقرار له عواقب قانونية، أو يؤثر عليه بشكل جوهري، استنادًا فقط إلى معالجة تلقائية تُصنّفه، إلا إذا كان هناك استثناءات مثل عقد أو قانون يتضمن تدابير حماية؛ يجب أن يكون للشخص القدرة على تقديم ملاحظاته والحصول على معلومات كافية حول المنطق الأساسي. يمنح قانون حماية البيانات النيجيري 2023، في المادة 37، حقًا مشابهًا بعدم الخضوع لقرارات تلقائية بحتة ذات آثار قانونية أو مماثلة، مع ضوابط تشمل التدخل البشري والحق في الاعتراض.

القواعد تصل في أماكن أخرى. تقول هيئة الخصوصية الأسترالية OAIC إنه اعتبارًا من 10 ديسمبر 2026 يجب على المنظمات الخاضعة لقانون الخصوصية توضيح في سياسات الخصوصية عندما يقوم برنامج حاسوبي باتخاذ أو إبلاغ قرارات تؤثر بشكل كبير على الأفراد. في كاليفورنيا، تدخل قواعد تقنية اتخاذ القرار الآلي حيز التنفيذ مع إلزام الامتثال اعتبارًا من 1 يناير 2027، وفقًا لهيئة حماية الخصوصية في كاليفورنيا. استبدلت كولورادو قانون الذكاء الاصطناعي السابق بقانون اتخاذ القرار الآلي الجديد SB26-189، الموقع في مايو 2026. أطلقت سنغافورة إطار الحوكمة النموذجي للذكاء الاصطناعي القائم على الوكلاء في يناير 2026، يوصي بنقاط تفتيش تحتاج إلى موافقة بشرية. في الإمارات العربية المتحدة والسعودية، تنطبق قوانين حماية البيانات على البيانات الشخصية وراء تلك القرارات، ويجب على الشركات طلب نصيحة محلية بشأن القرارات الآلية.

لا تعمل الموافقة إلا إذا كانت حقيقية. الشخص الذي يوافق على مئة بند في الساعة دون قراءتها ليس في موقع المسؤولية؛ وفقًا لاختبار المملكة المتحدة، قد لا يُعَدّ ذلك حتى تدخلًا بشريًا ذا معنى. اجعل الموافقة ذات معنى من خلال إظهار ما يقترحه الوكيل للموافق، والسبب، والحقائق الرئيسية وراءه، على شاشة واحدة. حافظ على عدد الموافقات قابلًا للإدارة، حتى يتاح للشخص وقتًا للتفكير. سجّل من وافق على ماذا ومتى. ومنح الموافقات السلطة والعادة على قول لا.

راجع الخط بانتظام. كلما أثبت الوكيل موثوقيته في نوع معين من القرارات، يمكنك السماح له بالتصرف بمفرده في الحالات منخفضة المخاطر والاحتفاظ بالموافقة لبقية الحالات. كلما أضفت مهامًا جديدة، ابدأها مرة أخرى بالموافقة. سجل الموافقات والرفض هو أيضًا أفضل دليل لديك على أماكن قوة الوكيل وأين لا.

لماذا يهمّ هذا أعمالك

عندما يتخذ الوكيل قرارًا سيئًا، تتحمل أعمالك العواقب: فقدان المال، الزبون الغاضب، وفي مزيد من الدول، الواجب القانوني للشرح والتصحيح. تحمي نقاط الموافقة الواضحة من أسوأ الأخطاء، وتلبي متطلبات الجهات التنظيمية، وتمنح فريقك الثقة لاستخدام الوكلاء على نطاق أوسع. الموافقة التي لا تتعدى وضع علامة في صندوق لا توفر أيًا من هذه الحمايات.

ما الذي ينبغي فعله يوم الاثنين

قوّم كل إجراء يمكن لوكلائك اتخاذه وضع علامة على كل منهما ما إذا كان قابلاً للتراجع أو لا، وما إذا كان يؤثر بشكل كبير على شخص.
اطلب موافقة بشرية على كل إجراء لا يمكن التراجع عنه وعلى كل قرار يؤثر بشكل كبير على شخص، وضع ذلك في أذونات النظام.
صمم شاشة الموافقة بحيث يرى الموفق الاقتراح، والسبب، والحقائق الرئيسية في مكان واحد.
راجع قواعد اتخاذ القرار الآلي في كل دولة تعمل فيها، وقم بتحديث إشعار الخصوصية حيثما يلزم.
راجع معدلات الموافقة والرفض شهريًا واضبط الخط بناءً على السجلات.

المزيد حول هذا الموضوع: أمن وكلاء الذكاء الاصطناعي ومخاطرهم

موافقة بشرية: حيث يتعين على شخص أن يبقى مسؤولًا عن وكيل ذكاء اصطناعي

لماذا يهمّ هذا أعمالك

ما الذي ينبغي فعله يوم الاثنين

المصادر