AI Agents & Agent Harness: حوكمة الوكلاء والحد من التحيز الخوارزمي

AI Agents & Agent Harness

الكاتب: رئبال مرهج 

يشهد العالم تحولاً متسارعاً تقوده تطبيقات الذكاء الاصطناعي التوليدي، والنماذج اللغوية الكبيرة (LLMs)، وظهور الوكلاء الذكيين (AI Agents) القادرين على تحليل المعلومات واتخاذ القرارات وتنفيذ المهام بصورة شبه مستقلة.

لكن نجاح المؤسسات في هذا التحول لا يعتمد على شراء أحدث التقنيات أو دمج نموذج لغوي داخل أنظمتها، بل على قدرتها على بناء بنية تقنية متماسكة تضمن تشغيل هذه التقنيات بطريقة آمنة وقابلة للتوسع.

ومن هنا يظهر التحدي الحقيقي أمام الرؤساء التنفيذيين للتكنولوجيا، ومهندسي المؤسسات، وقادة التحول الرقمي؛ فالقضية لم تعد تقتصر على ربط نماذج الذكاء الاصطناعي بالعمليات التشغيلية، وإنما أصبحت تتمثل في كيفية بناء مستعرض الوكيل (Agent Harness) الذي ينظم عمل الوكلاء الذكيين، ويضمن كفاءة التشغيل، ويمنع تحول البنية التقنية إلى مصدر للانحياز الخوارزمي أو للمخاطر النظامية.

يهدف هذا المقال إلى تحليل هذه التحديات، بدءاً من فلسفة التكنولوجيا، مروراً بجذور التحيز الخوارزمي، ووصولاً إلى حوكمة الوكلاء الذكيين، وهندسة الأنظمة الأخلاقية القادرة على دعم الابتكار المؤسسي بصورة مستدامة.

أولاً: البنية التحتية غير المرئية كأساس لهندسة الوكلاء الذكيين (AI Agents Architecture)

قبل الحديث عن الوكلاء الذكيين، لا بد من فهم طبيعة البنية التحتية التي تعمل داخلها هذه الأنظمة.

ففي علوم التكنولوجيا، لا تُعرَّف التقنية على أنها مجرد برنامج أو أداة، وإنما باعتبارها وسيلة لتحقيق هدف بشري، ومنظومة متكاملة تجمع بين البرمجيات والعمليات والإجراءات والأشخاص.

وعندما تُدمج تطبيقات الذكاء الاصطناعي داخل المؤسسة، فإنها تتجاوز كونها أدوات تشغيلية لتصبح جزءاً من البنية التحتية الرقمية للمؤسسة نفسها.

وتتميز هذه البنية بصفة جوهرية؛ فهي تبقى غير مرئية أثناء التشغيل الطبيعي، ولا يلتفت إليها أحد إلا عند حدوث خلل أو انهيار في النظام.

عندها فقط تظهر القرارات الهندسية التي بُنيت عليها منذ البداية، ويتضح مدى تأثيرها في الأداء المؤسسي.

وتكمن المشكلة في أن معظم القرارات المعمارية الأولى تصبح لاحقاً شديدة الصعوبة أو مرتفعة التكلفة عند محاولة تعديلها، وهو ما يجعل مرحلة التصميم من أكثر مراحل المشروع حساسية.

ماذا نتعلم من تجربة روبرت موزس Robert Moses؟

تُعد قصة المهندس الأمريكي روبرت موزس (Robert Moses) من أشهر الأمثلة التي تُدرَّس في مجال العلوم والتكنولوجيا والمجتمع (STS).

فقد صمم عدداً من الجسور في مدينة نيويورك بارتفاعات منخفضة، الأمر الذي حال دون مرور الحافلات العامة تحتها، ونتيجة لذلك، أصبحت بعض المناطق الترفيهية متاحة عملياً لمن يمتلك سيارة خاصة فقط، بينما حُرم مستخدمو النقل العام من الوصول إليها.

ورغم أن القرار كان هندسياً في ظاهره، فإنه ترك أثراً اجتماعياً طويل المدى، لأن التصميم نفسه فرض واقعاً جديداً دون أن يبدو ذلك واضحاً عند تنفيذ المشروع.

واليوم يتكرر السيناريو ذاته داخل المؤسسات عند بناء أنظمة وكلاء الذكاء الاصطناعي.

فقد يؤدي تصميم وكيل ذكي إلى استبعاد فئات معينة من العملاء أو الموظفين دون أن يكون ذلك مقصوداً، ليس بسبب خلل في النموذج، وإنما نتيجة الافتراضات التي وُضعت أثناء مرحلة التصميم.

ولهذا السبب، ينبغي أن يرافق كل مشروع سؤال أساسي:

من الذي قد تستبعده هذه البنية التقنية؟ ولماذا؟

إن طرح هذا السؤال في بداية المشروع يساعد على اكتشاف الانحيازات المحتملة قبل أن تتحول إلى جزء دائم من البنية المؤسسية.

لماذا لا تكون البنية التقنية محايدة دائماً؟

يفترض كثير من المطورين أن الأنظمة التقنية محايدة بطبيعتها، لكن الواقع يثبت عكس ذلك.

فالخوارزميات لا تعمل بمعزل عن البشر، بل تُبنى اعتماداً على البيانات، والسياسات، والافتراضات، وآليات اتخاذ القرار التي يضعها الإنسان، ولهذا فإن أي تحيز موجود في مرحلة التصميم أو في بيانات التدريب قد ينتقل تلقائياً إلى النظام بأكمله.

ومع مرور الوقت، يصبح هذا التحيز جزءاً من البنية التشغيلية للمؤسسة، ويؤثر في قراراتها اليومية دون أن يكون مرئياً للمستخدمين أو حتى للمطورين أنفسهم.

لهذا السبب، لم تعد هندسة الذكاء الاصطناعي تقتصر على تطوير نماذج أكثر ذكاءً، بل أصبحت تشمل أيضاً تصميم بنية تحتية عادلة، قابلة للتفسير، وقادرة على مقاومة الانحيازات قبل أن تتحول إلى مخاطر تشغيلية أو قانونية.

ثانياً: كيف ينشأ التحيز الخوارزمي؟ ولماذا تفشل بعض نماذج الذكاء الاصطناعي خارج بيئة التدريب؟

يُعد التحيز الخوارزمي (Algorithmic Bias) من أكبر التحديات التي تواجه المؤسسات عند دمج الذكاء الاصطناعي في عملياتها التشغيلية.

وعلى خلاف الاعتقاد الشائع، فإن هذا التحيز لا ينشأ لأن الخوارزميات “منحازة” بطبيعتها، بل لأنه غالباً ما يكون انعكاساً مباشراً للبيانات التي تعلمت منها أو للبيئة التي صُممت للعمل داخلها.

وبصورة عامة، يظهر التحيز نتيجة سببين رئيسيين.

1. إعادة إنتاج التحيزات البشرية

يتعلم الذكاء الاصطناعي من البيانات التاريخية. لذلك، إذا كانت هذه البيانات تحمل أنماطاً غير عادلة أو قرارات متحيزة، فإن النموذج سيتعلمها ويعيد إنتاجها تلقائياً.

ومن أشهر الأمثلة على ذلك نظام فرز السير الذاتية الذي طورته شركة Amazon لتقييم طلبات التوظيف، اذ اعتمد النموذج على بيانات توظيف تاريخية بهدف توقع المرشحين الأكثر ملاءمة للمقابلات.

إلا أن بيانات التدريب نفسها كانت تعكس قرارات توظيف اتسمت بتمثيل أكبر للرجال مقارنة بالنساء.

ونتيجة لذلك، بدأ النظام يستبعد العديد من طلبات التوظيف المقدمة من النساء، ليس بسبب وجود خلل برمجي، وإنما لأنه تعلم بدقة النمط التاريخي الموجود في البيانات، ثم أعاد إنتاجه في قراراته الجديدة.

تكشف هذه الحالة أن الخطر الحقيقي لا يكمن في الخوارزمية نفسها، وإنما في جودة البيانات التي بُنيت عليها.

2. ضعف القدرة على التعميم (Generalisability)

حتى عندما تكون البيانات دقيقة، قد يفشل النموذج إذا طُبق خارج البيئة التي تدرب فيها.

تُعرف هذه المشكلة بضعف القدرة على التعميم (Lack of Generalisability)، وهي تحدث عندما يتعلم النموذج خصائص بيئة محددة جداً، ثم يُطلب منه العمل في بيئات مختلفة تماماً.

في هذه الحالة، لا يكون النموذج “خاطئاً”، بل يصبح غير قادر على التعامل مع ظروف لم يتعلمها سابقاً.

ولهذا السبب، لا يعني النجاح داخل مؤسسة واحدة بالضرورة نجاح النظام نفسه عند نقله إلى مؤسسة أخرى تختلف في البيانات أو الإجراءات أو البنية التشغيلية.

دراسة حالة: لماذا أخفق مشروع IBM Watson في مركز MD Anderson؟

تُعد تجربة IBM Watson في القطاع الصحي واحدة من أكثر الأمثلة شهرة على مخاطر ضعف القدرة على التعميم.

بعد النجاح الكبير الذي حققه النظام في برنامج Jeopardy!، دخلت IBM في شراكات مع عدد من المؤسسات الطبية لتطوير حلول تعتمد على الذكاء الاصطناعي في تشخيص السرطان ودعم القرارات العلاجية.

وكان من أبرز هذه المبادرات مشروع التعاون مع مركز MD Anderson Cancer Center.

ورغم التوقعات الكبيرة، انتهى المشروع بالإلغاء بعد خسائر تجاوزت 60 مليون دولار، وذلك نتيجة مجموعة من المشكلات الهيكلية.

أولاً: محدودية بيانات التدريب

اعتمد النظام على بيانات سريرية جُمعت في بيئات علاجية محددة، الأمر الذي جعل أداءه جيداً داخل تلك البيئة فقط.

لكن عند محاولة تطبيقه في مؤسسات أخرى، ظهرت صعوبة كبيرة في تعميم النتائج، لأن اختلاف طرق العلاج والبيانات والسجلات الطبية أدى إلى تراجع كفاءة النموذج.

ثانياً: غياب الشفافية

احتاج الأطباء إلى فهم المنطق الذي يقف وراء التوصيات العلاجية الصادرة عن النظام.

إلا أن النموذج كان يعمل وفق آلية الصندوق الأسود (Black Box)، حيث يقدم التوصية دون تفسير واضح لمسار التفكير الذي قاده إليها.

وفي البيئات الطبية، لا تكفي النتيجة وحدها، بل يجب أن يكون القرار قابلاً للتفسير والتحقق قبل اعتماده.

ثالثاً: ضعف التوافقية التقنية

واجه المشروع أيضاً تحديات كبيرة في التكامل مع أنظمة السجلات الطبية الإلكترونية.

ومع تطور هذه الأنظمة بصورة مستمرة، أصبح من الصعب ربط Watson بالبنية الرقمية للمستشفيات المختلفة، مما حدّ من إمكانية نشره على نطاق واسع.

البيانات وحدها لا تصنع العدالة

تكشف هذه التجارب أن الاعتماد على كميات ضخمة من البيانات أو استخدام نماذج رياضية معقدة لا يضمن بالضرورة اتخاذ قرارات عادلة أو موضوعية.

ولهذا تؤكد خبيرة البيانات Cassie Kozyrkov أن البيانات والرياضيات لا تعنيان الموضوعية المطلقة، وأن تطوير التكنولوجيا لا يمكن أن يكون مبرراً للتخلي عن العدالة أو التفكير النقدي.

وتؤكد هذه الرؤية أن بناء أنظمة ذكاء اصطناعي موثوقة لا يعتمد فقط على تطوير الخوارزميات، بل يبدأ من جودة البيانات، ويمتد إلى فهم السياق الذي ستعمل فيه هذه النماذج، مع التأكد من قدرتها على التكيف مع البيئات المختلفة دون إنتاج قرارات متحيزة أو نتائج يصعب تفسيرها.

رئبال مرهج

رئبال مرهج Raabal Murhej

مدرب ومستشار في التسويق الرقمي وتحسين محركات البحث (SEO)، ومتخصص في تطبيقات وكلاء الذكاء الاصطناعي والتحول الرقمي.

يحمل رئبال مرهج شهادات برامج تنفيذية متقدمة في التسويق الإلكتروني ووكلاء الذكاء الإصطناعي من أعرق المؤسسات الأكاديمية العالمية، وفي مقدمتها:

جامعة هارفارد (Harvard) وإمبريال كوليدج لندن (Imperial College London)

إلى جانب برنامج الدراسات العليا في التسويق الإلكتروني من جامعة بوردو الأمريكية  (Purdue University)، وهو برنامج متقدم يتناول مجالات:

• التسويق الرقمي واستراتيجيات اكتساب العملاء.

• تحسين محركات البحث (SEO).

• إدارة القنوات الرقمية وتحليل الأداء.

الشهادات والاعتمادات الاحترافية الإضافية:

• CIM UK: اعتماد إدارة قنوات التسويق الإلكتروني من المعهد المعتمد للتسويق ببريطانيا.

• DMA – USA: شهادة أخصائي تحسين محركات البحث (SEO).

• College of Media & Publishing – UK: دبلوم العلاقات العامة (Level 4) ودبلوم الصحافة متعددة الوسائط (Level 3).

• SAE Institute – Australia: شهادة الإذاعة والبث الصوتي (Radio Broadcasting).