وكلاء الذكاء الاصطناعي: نحو استقلالية مضبوطة

يختلف وكيل الذكاء الاصطناعي عن المساعد باختلاف بسيط: إنه لا ينتظر تعليمة عند كل خطوة. تُسند إليه غاية، فيقرر بنفسه تسلسل الأفعال، ويستدعي أدوات، ويقيّم النتائج، ويمضي حتى يُقدّر أنه أنجز. وهذا تحول كبير — والكلمة المهمة في هذا الوصف ليست «مستقل»، بل «يُقدّر».

يقوم الحماس الحالي للوكلاء على وعد جذاب: أتمتة العمليات كاملةً لا المهام فحسب. أما ما نلاحظه ميدانيًا فأكثر تباينًا، ويستحق العرض بصراحة، لأنه يحدد قرارات الاستثمار في الأشهر الثمانية عشر القادمة.

الملاحظة الأولى أن موثوقية الوكيل تتناقص مع عدد الخطوات. نظام ينفّذ فعلًا واحدًا بشكل صحيح في خمسة وتسعين بالمئة من الحالات يبدو ممتازًا. لكن حين يُسلسَل عبر عشر خطوات مترابطة، فإنه ينتج نتيجة صحيحة في نحو ستين بالمئة من الحالات. وعبر عشرين خطوة، في الثلث. وهذا الحساب ليس عيبًا تصميميًا سيصلحه الجيل القادم من النماذج: إنه نتيجة ميكانيكية للتركيب. ويقود إلى خلاصة عملية — الوكلاء الفعّالون هم من قُيّد عمقهم عن قصد.

الملاحظة الثانية تخص نمط الإخفاق. البرمجية التقليدية حين تفشل تتوقف وتعلن ذلك. أما الوكيل حين يفشل فيواصل. يفسّر نتيجة غير متوقعة، ويتكيّف، ويمضي في اتجاه لم يتوقعه أحد، وينتج في النهاية تقريرًا معقولًا عن عمل لم يُنجَز كما ينبغي. وهذا اختلاف في الطبيعة لا في الدرجة: الإخفاق الصامت أخطر بما لا يقاس من الخطأ الصاخب، لأنه لا يطلق أي إنذار.

الملاحظة الثالثة تتعلق بالصلاحيات. الوكيل المفيد يفعل — يكتب في أنظمة، ويرسل رسائل، ويلزم موارد. وكل قدرة تُمنح توسّع مساحة ما يمكن أن يخطئ فيه. والسؤال الأمني الوجيه ليس «هل النموذج موثوق؟» بل «ما أسوأ نتيجة ممكنة إن أخطأ هذا الوكيل تمامًا، وهل هذه النتيجة مقبولة؟».

إليكم تسلسلًا نموذجيًا. لا يصف مؤسسة بعينها، بل سلسلة أحداث لاحظناها في صور عدة. إدارة مالية تنشر وكيلًا لمطابقة فواتير المورّدين بأوامر الشراء، مخوّلًا باعتماد الفوارق دون عتبة معينة. يعمل النظام على نحو ممتاز أسابيع عدة. ثم يغيّر أحد المورّدين صيغة فواتيره. فلا يجد الوكيل الحقل المتوقع، فيلجأ إلى حقل آخر معقول عدديًا، ويستمر في الاعتماد. ولا يُكتشف الخلل إلا عند المطابقة البنكية الشهرية. المشكلة ليست أن الوكيل أخطأ: بل أنه واصل العمل بثقة بعد أن كفّ عن فهم ما يقرأ.

تُجسّد هذه الحالة المبدأ الذي نطبّقه دائمًا: يجب تصميم الوكيل ليتوقف، لا لينجح فحسب. في كايروس إمبالس، لا نقارب هذه المشاريع بسؤال «ماذا يستطيع الوكيل أن يفعل؟» بل بالعكس: في أي ظروف يجب أن يمتنع عن الفعل ويعيد القرار؟ وهذا يفترض تحديد شروط خروج صريحة، وعتبات ثقة، ونقطة مراجعة بشرية توضع حيث يصبح القرار غير قابل للرجوع — لا في كل مكان، فذلك يلغي الفائدة، بل هناك بالضبط.

ويلزم أيضًا التمييز بين عائلتين من الوكلاء يخلط بينهما النقاش العام. وكلاء النطاق المغلق يعملون على مجموعة أدوات محددة، بخطوات متوقعة وهدف محدود: معالجة طلب إجازة، وتحضير ملف تجديد، واستخراج معلومات والتحقق منها في مجموعة وثائقية معروفة. وهؤلاء ناضجون ومربحون اليوم. أما وكلاء النطاق المفتوح، المفترض أن يتدبروا أمرهم أمام هدف عام بأدوات عامة، فما زالوا في حيّز العروض التوضيحية إلى حد بعيد. والمسافة بين الاثنين كبيرة، وجزء من خيبة اليوم يأتي من مؤسسات استثمرت في الفئة الثانية ظنًا منها أنها تشتري الأولى.

ويُطرح اعتراض وجيه: أليس في هذا التقييد المشدد للوكيل تحويلٌ له إلى أتمتة تقليدية، دون فائدة الذكاء؟ الجواب في ما يقدّمه الوكيل فعلًا. قيمته ليست في القرار الحر، بل في التعامل مع تنوّع المدخلات — فهم بريد كُتب بعشر طرق مختلفة، ومعالجة مستند تتغير بنيته، وإدراك أن حالة ما خارجة عن المألوف. وهذا بالضبط ما تعجز عنه الأتمتة التقليدية. وتقييد الأفعال مع ترك مرونة التأويل عند المدخل ليس حلًا وسطًا: إنه التصميم الصحيح.

ثلاثة أسئلة قبل إطلاق مشروع وكلاء. كم خطوة متسلسلة تتضمنها هذه العملية، وهل حسبنا الموثوقية المركّبة الناتجة؟ ما أسوأ نتيجة ممكنة لفعل خاطئ، وهل هي قابلة للرجوع؟ وأخيرًا، كيف سنعرف أن الوكيل أخطأ — أي إشارة ستصلنا، وفي أي مهلة؟ إذا كان الجواب الثالث «سنلاحظ ذلك»، فالمشروع غير جاهز.