في يومٍ ما جاء إليّ موكل رفض البنك منحه قرضًا. لا لأن سجله المالي سيئ، بل لأن خوارزمية قررت ذلك. لا قرار بشري واضحًا يمكن مساءلته، ولا مذكرة تفسيرية يمكن تفكيكها، ولا ورقة تستطيع الطعن فيها بالمعنى التقليدي. فقط نظام صامت بُني على بيانات وقواعد ونماذج، وأنت مطالب بأن تدافع عن موكلك أمام أثر قانوني واقعي لا تفهم كيف صيغ من الداخل.
هذا ليس مشهدًا من المستقبل. إنه جزء من الواقع الذي يتشكّل اليوم.
العلاقة بين القانونيين والخوارزميات لم تعد مسألة نظرية. مع اتساع حضور الأنظمة الذكية في تقييم الحقوق والفرص والمخاطر، بات القانوني يواجه نوعًا جديدًا من القرارات: قرارات تُنتج آثارًا قانونية حقيقية لكنها لا تُصاغ بلغة يستطيع قراءتها بأدواته التقليدية.
وفهم لغة الخوارزميات لا يعني تحويل المحامي إلى مبرمج. يعني أن يُدرك أن جزءًا متزايدًا مما يمس الحقوق والمراكز القانونية يمر عبر بنية تقنية لا يمكن مساءلتها بالأدوات القديمة وحدها.
ماذا يعني الطعن في قرار خوارزمي؟
لنعد إلى الموكل الذي رُفض قرضه.
في النظام التقليدي، كان المحامي يطلب نسخة من قرار الرفض، يقرأ الأسباب، ويطعن فيها أمام لجنة أو محكمة مختصة. مسار واضح.
أما أمام قرار خوارزمي، فالمسار يتعقّد جذريًا.
أول عقبة: لا يوجد قرار مكتوب بالمعنى التقليدي. هناك مخرج نموذج رياضي. ثاني عقبة: البنك نفسه قد لا يستطيع تفسير القرار بالتفصيل لأن الخوارزمية من نوع الصندوق الأسود. ثالث عقبة: حتى لو طلبت الشفافية، فالشركة المطوّرة قد تحتج بالسرية التجارية وحقوق الملكية الفكرية.
هذا ليس افتراضًا. في الولايات المتحدة، كشف تحقيق أجرته وكالة رويترز عام 2018 أن نظام توظيف طوّرته أمازون كان يُميّز ضد النساء بشكل منهجي لأن البيانات التي دُرّب عليها تعكس عقودًا من هيمنة الذكور على القطاع التقني. أوقفت أمازون النظام، لكن السؤال القانوني بقي مفتوحًا: من يتحمل المسؤولية عن القرارات التي صدرت قبل الإيقاف؟
وفي أوروبا، فتح حكم محكمة لاهاي الهولندية في فبراير 2020 بشأن نظام SyRI للكشف عن الاحتيال الاجتماعي بابًا مهمًا حين قضت بأن النظام ينتهك الحق في الخصوصية المنصوص عليه في الاتفاقية الأوروبية لحقوق الإنسان. لم تُدن المحكمة الخوارزمية بوصفها تقنية، بل أدانت غياب الشفافية والتناسب في استخدامها.
هذه السوابق تكشف شيئًا جوهريًا: الأدوات القانونية للطعن موجودة نظريًا. لكنها تحتاج قانونيًا يفهم البنية التي يطعن فيها. من لا يفهم كيف عمل النموذج لن يستطيع أن يُثبت أنه أخطأ.
ما المقصود بلغة الخوارزميات؟
الخوارزمية سلسلة تعليمات تُعالج بيانات للوصول إلى نتيجة. الفكرة تبدو قريبة من منطق النص القانوني: وقائع، شروط، نتيجة.
لكن الفرق جوهري.
النص القانوني يُكتب بلغة قابلة للقراءة والتفسير والمرافعة. الخوارزمية تُبنى داخل بيئة تقنية لا تكون شفافة دائمًا، وقد يصعب حتى على مستخدمها المباشر تفسير آلية عملها تفسيرًا كاملًا.
وهنا ينشأ التحدي: كيف تعترض على قرار لا ترى منطقه؟ وكيف تُثبت التحيز أو التعسف في نظام لا يُبرّر نفسه كما يُبرّر الإنسان قراره؟
أين تظهر الخوارزميات في الممارسة القانونية اليوم؟
المسألة ليست نظرية. الخوارزميات موجودة في قلب ملفات يتعامل معها القانونيون يوميًا، حتى لو لم يُسمّوها بهذا الاسم.
في القطاع المالي تعتمد البنوك على أنظمة تقييم آلية في الجدارة الائتمانية وتحليل السلوك المالي وتقدير المخاطر. النتيجة قد تمس حق الفرد في التعاقد وإمكانية حصوله على تمويل ووضعه الاقتصادي بالكامل. موكلي الذي رُفض قرضه لم يواجه موظفًا اتخذ قرارًا. واجه نموذجًا رياضيًا لا يملك وجهًا.
في التوظيف تعتمد شركات كثيرة على أنظمة فرز السير الذاتية وتحليل الكلمات المفتاحية وتقييم احتمالات الملاءمة. قرار يمس فرص العمل قد يصدر عن منطق خوارزمي لا يعرف المرشح عنه شيئًا.
في التأمين تُصنّف النماذج الذكية العملاء وتُحدد الأقساط واحتمالات الخطر. السؤال لا يقتصر على الكفاءة بل يمتد إلى العدالة والتمييز والشفافية.
في المجال القضائي استُخدمت في بعض الدول أنظمة تنبؤية لتقدير احتمالية العودة إلى الجريمة أو جدوى الإفراج المشروط. هنا تقترب الخوارزمية من مناطق تمس الحرية مباشرة.
في المنصات الرقمية قرارات حذف المحتوى وتقييد الحسابات تتم عبر خوارزميات تؤثر في حرية التعبير والوصول إلى الجمهور والنشاط الاقتصادي. وما يكشفه واقع الإشراف على المحتوى العربي تحديدًا من ثغرات يُبرز حجم المشكلة حين تغيب الرقابة البشرية عن قرارات خوارزمية تمس ملايين المستخدمين.
الخطر الحقيقي: التحيز بالجملة
ما يجعل هذا التحول خطيرًا فعلًا ليس أن الخوارزميات تُخطئ أحيانًا. الإنسان يُخطئ أيضًا. الخطر أن الخطأ الخوارزمي يتكرر بنفس النمط على ملايين الأشخاص في وقت واحد، دون أن يشعر أحد.
موظف بنك متحيز يرفض طلبًا واحدًا. خوارزمية متحيزة ترفض مئة ألف طلب بنفس المنطق المعيب في ثانية واحدة. الحجم يُغيّر طبيعة المشكلة.
والأخطر أن هذا التحيز يكتسي ثوب الموضوعية. لأن القرار صدر عن آلة، يميل الناس إلى تصديقه. هذا ما يسميه الباحثون “تحيز الأتمتة”: الثقة المفرطة في مخرجات الآلة لمجرد أنها آلة.
في الممارسة القانونية العربية تحديدًا، هذا الخطر مضاعف. لا توجد في معظم الدول العربية قوانين تُلزم الجهات بالإفصاح عن استخدام أنظمة ذكية في اتخاذ القرارات. ولا توجد آليات طعن مصممة خصيصًا لهذا النوع من القرارات. المواطن الذي يُرفض طلبه بسبب خوارزمية لا يعرف غالبًا أن خوارزمية اتخذت القرار أصلًا.
لماذا لا يكفي أن نترك الأمر للتقنيين؟
الخبير التقني يشرح كيف يعمل النموذج. لكنه لا يجيب وحده عن مشروعية استخدامه، ولا عن توافقه مع الحقوق، ولا عن كفاية الضمانات الإجرائية، ولا عن طبيعة الأثر القانوني الناتج عنه.
هذه أسئلة قانونية بامتياز. والقانوني لا يستطيع التنازل عنها للمبرمج، كما لا يستطيع المبرمج حسمها من داخل منطق الكود وحده.
المستقبل ليس لمن يعرف القانون وحده، ولا لمن يعرف التقنية وحدها. بل لمن يستطيع ترجمة أحد العالمين إلى الآخر.
أربعة محاور يجب أن يفهمها كل قانوني
ليس المطلوب أن يتحول القانوني إلى مبرمج. المطلوب ثقافة خوارزمية قانونية تُمكّنه من طرح الأسئلة الصحيحة.
منطق البيانات. القرار الخوارزمي يعتمد على بيانات جُمعت ونُظمت وصُنفت ثم أُدخلت في نموذج. من لا يفهم دور البيانات في تشكيل النتيجة لن يفهم أصل المشكلة.
التحيز الخوارزمي. الخوارزمية قد تبدو محايدة لأنها آلة. لكن إذا كانت البيانات التي دُرّبت عليها منحازة، أو المعايير المعتمدة غير متوازنة، فقد تُنتج قرارات غير عادلة وهي تبدو موضوعية. وهذا بالضبط ما يجعل سؤال المسؤولية القانونية حين تُخطئ الخوارزمية من أعقد أسئلة العصر.
الشفافية وقابلية التفسير. هل يستطيع النظام أن يُفسّر لماذا وصل إلى نتيجة معينة؟ وهل يستطيع المتضرر أن يعرف الأساس الذي بُني عليه القرار؟ هذه أسئلة قانونية مركزية لا تقنية فقط.
المسؤولية. إذا أخطأ النظام، من يُحاسَب؟ المطور؟ الجهة المشغّلة؟ المؤسسة التي اعتمدته؟ أم المستخدم النهائي؟ النقاشات التنظيمية الدولية، وعلى رأسها ما يجري في الاتحاد الأوروبي حول قانون الذكاء الاصطناعي، تحاول بناء إطار للإجابة. لكن الإجابات لم تكتمل بعد.
ماذا يحدث حين يتجاهل القانونيون هذا التحول؟
ستتسع الفجوة بين الواقع القانوني كما يتصوره القانوني والواقع كما يُنتج فعلًا.
سيجد نفسه أمام قرارات يصعب تفكيك منطقها، ونزاعات لا تكفي فيها الحجج التقليدية، وسلطات تستخدم أنظمة ذكية يصعب مساءلتها بالأدوات المعتادة.
المشكلة لن تكون أن الخوارزميات ستُلغي دور القانوني. بل أن بعض القانونيين سيفقدون القدرة على فهم الميدان الذي يدافعون فيه عن حقوق الناس.
ولمن يريد التعمق في كيفية دخول الأنظمة الذكية إلى المجال التشريعي نفسه، يمكن الاطلاع على تحليلنا لـكيفية إعادة الذكاء الاصطناعي تشكيل صياغة القوانين.
بعد عقد من الآن، سيجلس قاضٍ عربي أمام نزاع جوهره قرار خوارزمي. سيُطلب منه أن يحكم في شفافية نموذج لم يره، وعدالة معايير لم يختبرها، ومسؤولية جهة تقول إن النظام هو من قرر لا هي.
إذا لم يكن هذا القاضي قد تعلّم الحد الأدنى من لغة الخوارزميات، فكيف سيحكم؟ وإذا لم يكن المحامي الذي أمامه يفهم بنية القرار المطعون فيه، فكيف سيدافع؟
هذا ليس سيناريو بعيدًا. هو ما سيحدث حتمًا. والسؤال الوحيد: هل سنكون مستعدين له، أم سنكتشف الفجوة حين يكون الأوان قد فات؟