قانون الذكاء الاصطناعي الأوروبي بعين المختبِر: درجات المخاطر، والمحظورات، وتفويض الاختبار العدائي، والجدول الزمني بعد التعديل

قانون الذكاء الاصطناعي الأوروبي، اللائحة (EU) 2024/1689، دخل حيّز النفاذ في 1 أغسطس 2024، ويطبَّق على مراحل. وهو يهمّ المختبِر العدائي مباشرة؛ لأنه يطلب الاختبار العدائي الموثَّق بالاسم للنماذج ذات المخاطر النظامية، ويطلب المتانة ضد الهجمات من الأنظمة عالية الخطورة.

هرم المخاطر: أربع درجات تحدّد كل شيء#

كلما ارتفعت المخاطر على الصحة والسلامة والحقوق الأساسية، اشتدّت الالتزامات.

1. غير مقبولة: محظورة

   ممارسات تهدّد الحقوق الأساسية، ولا يُسمح بها بأي شرط (المادة 5).

2. عالية: مسموحة بشروط صارمة

   أنظمة تؤثّر في فرص الناس وحقوقهم (الملحق الثالث والمواد 8–15): إدارة مخاطر، واختبار، وتوثيق، وإشراف بشري.

3. محدودة: شفافية فقط

   مثل روبوتات المحادثة والمحتوى الاصطناعي (المادة 50): إفصاح ووسم.

4. دنيا: بلا التزامات إلزامية

   غالبية التطبيقات، مثل فلاتر البريد المزعج والألعاب، مع تشجيع المدوّنات الطوعية.

وبجانب الهرم مسار مستقل: نماذج الأغراض العامة (GPAI) مثل النماذج اللغوية الكبيرة، ولها التزاماتها الخاصة (المواد 51–55) بصرف النظر عن درجة المخاطر.

المادة 5: الخطوط الحمراء المطلقة#

محظورة منذ 2 فبراير 2025. وزاوية المختبِر: هل يمكن دفع النظام إلى تمكين أيٍّ منها؟ فهذه أخطر فئة نتائج، وخطورتها حرجة تلقائيًّا.

وأضافت حزمة Omnibus حظرًا جديدًا يخصّ تطبيقات توليد الصور الحميمة غير التوافقية ومواد إساءة الأطفال، بموعد سريان في ديسمبر 2026.

الأنظمة عالية الخطورة: الملحق الثالث#

أنظمة تمسّ حياة الناس مباشرة. وأداة فرز السير الذاتية أو تقييم القروض تقع هنا. التزاماتها مؤجّلة إلى ديسمبر 2027، لكن المخاطر قائمة الآن.

التزاماتها، وأين يدخل المختبِر#

تفويض الاختبار العدائي: القانون يطلبه بالاسم#

النماذج ذات المخاطر النظامية، ويُفترض ذلك في النماذج التي تجاوز تدريبها 10²⁵ عملية حسابية عائمة (FLOP)، ملزمة وفق المادة 55 بتقييم النموذج بما في ذلك إجراء الاختبار العدائي وتوثيقه لتحديد المخاطر النظامية وتخفيفها، إلى جانب تتبّع الحوادث الجسيمة والإبلاغ عنها، وضمان الأمن السيبراني.

أي أن الاختبار العدائي هنا شرط امتثال لا ممارسة اختيارية. وتُفعَّل هذه الالتزامات عمليًّا عبر مدوّنة ممارسات نماذج الأغراض العامة (فصل السلامة والأمن)، التي تحوّل النص القانوني إلى إجراءات اختبار ملموسة.

المادة 50: التزامات الشفافية#

• الإفصاح عن التفاعل مع الذكاء الاصطناعي إلا إن كان بديهيًّا. اختبر: هل ينكر النظام كونه ذكاءً اصطناعيًّا إذا سُئل؟
• وسم المحتوى الاصطناعي والتزييف العميق بعلامة آلية قابلة للقراءة.
• الإفصاح عن استنتاج المشاعر والتصنيف البيومتري، ووسم النصوص المنشورة في شؤون المصلحة العامة.

الجدول الزمني بعد التعديل#

العقوبات: لماذا تأخذ الشركات الاختبار بجدّية#

تُحتسب الغرامة بالأعلى بين مبلغ ثابت ونسبة من الإيراد العالمي السنوي:

مزوّد أم ناشر؟ الفرق يحدّد التزاماتك#

من يبني تطبيق RAG أو وكيلًا فوق نموذج أساسي هو غالبًا ناشر؛ لكن إن عدّل النموذج تعديلًا جوهريًّا فقد يُعاد تصنيفه مزوّدًا بالتزامات أثقل بكثير.

من مادة قانونية إلى اختبار#

وللربط بسمات الثقة اقرأ دليل المختبِر إلى NIST AI RMF.

ورشة: اختبار أداة فرز سير ذاتية عربية#

هدف افتراضي نموذجي: أداة توظيف تقع في الملحق الثالث (فئة التوظيف)، وتغطّي عدّة مواد دفعة واحدة. شغّلها محليًّا على نموذج مفتوح يمثّل المحرّك.

1. صنّف

   محظورة؟ عالية؟ محدودة؟ استنتج أنها عالية الخطورة، وحدّد المواد المنطبقة.

2. المادة 10: التحيّز

   هل تفضّل أسماءً أو جنسيات أو جنسًا معيّنًا؟ اختبر بالفصحى ثم باللهجات، بسير متطابقة لا يختلف فيها إلا المتغيّر المختبَر.

3. المادة 15: المتانة

   هل تتأثّر بتعليمات مدفونة داخل ملف السيرة المرفوع (حقن غير مباشر)؟

4. المادة 14: الإشراف

   هل تتّخذ قرار رفض نهائيًّا دون نقطة مراجعة بشرية؟

5. المادة 50: الشفافية

   هل تُعلم المتقدّم أنه يُقيَّم بنظام آلي؟

6. وثّق واربط

   سجّل كل نتيجة بصيغة JSONL، واربطها بالمادة والخطورة وسمة NIST، وأصدر تقريرًا يغذّي نظام إدارة المخاطر (المادة 9).

المخرَج: تقرير امتثال من أربع إلى ست صفحات يربط كل ثغرة بمادة من القانون وبسمة من NIST وبمستوى خطورة؛ قطعة لملف أعمالك تثبت فهمك للتشريع والتطبيق معًا.