قانون الذكاء الاصطناعي الأوروبي: ما يحتاج القادة إلى معرفته

قليلة هي النصوص التنظيمية التي أثارت من سوء الفهم ما أثاره قانون الذكاء الاصطناعي الأوروبي. في مجالس الإدارة التي نجلس إليها، يحتل مكانة غريبة: الجميع سمع به، ولا أحد تقريبًا يعرف ما يعنيه عمليًا لمؤسسته، ومعظمهم يصنّفه ذهنيًا في خانة «مسألة قانونية، نعالجها لاحقًا». وهذا التصنيف بالذات هو ما يكلّف غاليًا.

اعتُمد التنظيم في مارس 2024، ويدخل حيّز التطبيق على مراحل حتى 2027. وهو يصنّف أنظمة الذكاء الاصطناعي وفق أربعة مستويات من المخاطر. الاستخدامات ذات الخطر غير المقبول — التقييم الاجتماعي، والتلاعب بما دون عتبة الوعي، وبعض أشكال التعرّف البيومتري — محظورة تمامًا. أما الأنظمة عالية الخطورة، التي تمسّ التوظيف والائتمان والصحة والتعليم والقضاء، فتخضع لالتزامات ثقيلة: توثيق تقني، وإدارة للمخاطر، وجودة للبيانات، وإشراف بشري، وتسجيل في قاعدة بيانات أوروبية. والأنظمة ذات الخطر المحدود، كروبوتات المحادثة أو المحتوى المولَّد، تحمل التزامًا بالشفافية: على المستخدم أن يعرف أنه يتعامل مع آلة. وما تبقّى يندرج تحت الخطر الأدنى ولا يستوجب أي التزام خاص.

تبدو هذه البنية بسيطة. وهي أقل بساطة بكثير بمجرد تطبيقها على مؤسسة حقيقية.

الفخ الأول هو الاعتقاد بأن الامتثال يتحدد على مستوى الأداة. إنه يتحدد على مستوى الاستخدام. النموذج اللغوي نفسه، حين يُستخدم لتلخيص محاضر الاجتماعات، يقع في الخطر الأدنى؛ وحين يُستخدم لفرز طلبات التوظيف، ينتقل إلى الخطورة العالية بكل ما يترتب عليها. ليست التقنية هي ما يُصنَّف، بل ما تفعله بها. والمؤسسة التي تنشر مساعدًا محادثيًا على نطاق الشركة دون ضبط الاستخدامات لا تعرف في الواقع في أي فئة تقع — وهذا الغموض في حد ذاته خطر.

الفخ الثاني هو الجدول الزمني. كثير من القادة يسمعون «2027» فيستنتجون أن أمامهم متسعًا من الوقت. غير أن الموعد الذي يهمّ ليس موعد دخول النص حيّز النفاذ، بل موعد مواءمة أنظمة تعمل بالفعل في الإنتاج. إعادة تكوين التوثيق التقني لنموذج نُشر قبل عامين، وتتبّع مصدر بيانات تدريبه، وإثبات وجود إشراف بشري منذ التصميم — كل ذلك أكثر كلفة بما لا يُقاس بعد وقوع الأمر مما لو تم عند التصميم. دَين الامتثال يسلك سلوك الدَّين التقني: يتراكم بصمت ويُستحق في أسوأ لحظة ممكنة.

الحالة التالية لا تصف شركة بعينها: إنها تجمع ملاحظات من عدة مؤسسات. شركة خدمات تنشر منذ ثمانية عشر شهرًا سلسلة من أدوات الذكاء الاصطناعي الجاهزة: مساعد كتابة لفرق المبيعات، ومحرك توصيات لخدمة العملاء، وأداة لفرز الطلبات في الموارد البشرية. قاد كلَّ عملية نشر القسمُ المعني، دون تنسيق مركزي. وحين سُئلت الإدارة العامة عن تعرّضها لقانون الذكاء الاصطناعي، اكتشفت ثلاثة أمور. أولًا، أن الأداة الثالثة تندرج تحت الخطورة العالية وأن أيًا من الالتزامات المقابلة لم يُستبق. ثانيًا، أن لا أحد في المؤسسة يملك خريطة لأنظمة الذكاء الاصطناعي العاملة — واستغرق إعادة بنائها عدة أسابيع. ثالثًا، أن العقود الموقّعة مع المورّدين لا تنص على شيء بخصوص تقديم التوثيق التقني الذي يفرضه التنظيم، ما يضع الشركة في موقع ضعف للحصول عليه.

لا شيء من هذه الملاحظات الثلاث مسألة قانونية. إنها إخفاقات في الحوكمة.

هنا تختلف قراءتنا للموضوع عن قراءة مكتب محاماة. لا يُعالَج قانون الذكاء الاصطناعي كتمرين امتثال، بل كمسألة تصميم تنظيمي. في كايروس إمبالس نبدأ هذه المهام برسم خريطة الاستخدامات قبل تحليل النصوص: ما الأنظمة العاملة، ومن نشرها، وعلى أي بيانات، ولأي قرارات، وبأي مستوى من الإشراف البشري. وتكشف هذه الخريطة دائمًا تقريبًا عن نقاط عمياء — أدوات اعتُمدت محليًا، وخصائص مفعّلة افتراضيًا داخل حزم مكتبية، وتجارب صارت دائمة دون أن يقرر ذلك أحد. ولا يبدأ العمل التنظيمي بمعناه الدقيق إلا بعد ذلك، ويكون عندئذ أسرع بكثير، لأنه ينصبّ على نطاق معلوم.

ثمة اعتراض شائع على هذا النهج، ويستحق أن يؤخذ على محمل الجد: أن الامتثال يكبح الابتكار. تجربتنا توحي بالعكس، بشرط واحد. المؤسسة التي تعرف بدقة أين تقع أنظمتها عالية الخطورة تستطيع التقدم أسرع بكثير في كل ما عداها، لأنها لم تعد مضطرة لتطبيق مبدأ حيطة معمّم على كل مبادرة جديدة. الغموض التنظيمي كابح أقوى بكثير من التنظيم نفسه. والمؤسسات التي لا تعرف أين تقف هي التي تعطّل مشاريعها بدافع الحذر.

البُعد الإنساني لهذا الموضوع مُبخَّس أيضًا. فالتزام الإشراف البشري، وهو في صميم نظام الأنظمة عالية الخطورة، ليس خانة تُؤشَّر: إنه يفترض أن يكون هناك من يقدر على فهم قرار الآلة، والاعتراض على مخرجاتها، وتحمّل المسؤولية عنها. وهذا يتطلب كفاءات، ووقتًا مخصصًا، وسلطة فعلية. أما الإشراف البشري الشكلي — موظف يصادق تباعًا على توصيات لا يملك وسيلة لتقييمها — فلا يفي بروح التنظيم ولا بنصه، ويعرّض المؤسسة أكثر مما يحميها.

إن لم تحتفظوا إلا بثلاثة أسئلة لاجتماعكم القادم، فلتكن هذه. أولًا: هل لدينا اليوم جرد محدَّث لأنظمة الذكاء الاصطناعي العاملة في المؤسسة، بما فيها تلك التي لم تمر عبر قسم تقنية المعلومات؟ ثانيًا: أي من هذه الأنظمة يشارك في قرارات تخص أشخاصًا — توظيف، أو تقييم، أو حصول على خدمة، أو تسعير؟ ثالثًا: بالنسبة لتلك الأنظمة، هل نستطيع اليوم إنتاج التوثيق وتتبّع البيانات وإثبات الإشراف البشري التي يفرضها التنظيم؟ إذا كان أي من هذه الأجوبة غير مؤكد، فالمسألة ليست قانونية. إنها استراتيجية، ومكانها مجلس الإدارة.