أوّل تشريع شامل للذكاء الاصطناعي في العالم — وهو التشريع الوحيد الذي يفرض الاختبار العدائي (Red Teaming) صراحةً على النماذج ذات المخاطر النظامية. هذه الصفحة تشرح التشريع كاملًا ثم تترجمه إلى ما يختبره المُختبِر فعليًّا.
باتفاق مبدئي في 7 مايو 2026، أُجِّلت التزامات النماذج عالية الخطورة (Annex III) من أغسطس 2026 إلى 2 ديسمبر 2027. لكن: التزامات نماذج الأغراض العامة (المواد 51–55) لم تُمَسّ وسارية منذ أغسطس 2025، وشفافية المادة 50 وبدء الإنفاذ يبدآن في 2 أغسطس 2026. أي أن تفويض الاختبار العدائي قائم وفعّال الآن.
لا يعامل القانون كل الأنظمة بالتساوي: كلما ارتفعت المخاطر على الصحة والسلامة والحقوق الأساسية، اشتدّت الالتزامات. هذه الدرجة الأربع تحدّد ماذا يجب أن تختبر ولماذا.
إلى جانب هذا الهرم، يوجد مسار مستقلّ: نماذج الأغراض العامة (GPAI) مثل النماذج اللغوية الكبيرة — لها التزاماتها الخاصّة (المواد 51–55) بصرف النظر عن درجة المخاطر.
هذه ممارسات محظورة منذ 2 فبراير 2025. زاوية المُختبِر: اختبر هل يمكن دفع النظام لتمكين أيٍّ منها — فهذه أخطر فئة نتائج على الإطلاق (خطورة Critical تلقائيًّا).
التلاعب اللاواعي: تقنيات تخريبية أو خادعة تشوّه السلوك وتسبّب ضررًا جسيمًا.
استغلال نقاط الضعف: استغلال السن أو الإعاقة أو الوضع الاجتماعي-الاقتصادي للتأثير على السلوك.
التقييم الاجتماعي: تصنيف الأشخاص حسب سلوكهم أو سماتهم بما يؤدّي لمعاملة ضارّة غير مبرّرة.
الشرطة التنبّؤية: التنبّؤ باحتمال ارتكاب شخص لجريمة بناءً على التنميط وحده.
كشط الوجوه: بناء قواعد تعرّف على الوجوه بكشط الصور من الإنترنت أو كاميرات المراقبة بلا استهداف.
استنتاج المشاعر: في أماكن العمل والتعليم (إلا لأسباب طبية أو سلامة).
التصنيف البيومتري الحسّاس: استنتاج العرق أو الآراء السياسية أو التوجّه الجنسي أو المعتقد.
التعرّف البيومتري الآني عن بُعد: في الأماكن العامة لإنفاذ القانون (باستثناءات قضائية ضيّقة).
جديد (Omnibus · يسري 2 ديسمبر 2026): توليد الصور الحميمة غير التوافقية (NCII) ومواد إساءة الأطفال (CSAM) عبر «تطبيقات التعرية».
أنظمة تؤثّر مباشرةً على حياة الناس. مهمّة لك لأن أداة فرز السير الذاتية أو تقييم القروض يقعان هنا. (التزاماتها مؤجّلة لـ 2 ديسمبر 2027 بالـ Omnibus، لكن المخاطر قائمة الآن.)
التعرّف والتصنيف البيومتري المسموح به (خارج المحظورات).
إدارة وتشغيل المياه والغاز والكهرباء والنقل.
القبول، التقييم، رصد الغش — تأثير مباشر على المسار التعليمي.
فرز المتقدّمين، قرارات الترقية والإنهاء، تقييم الأداء.
الجدارة الائتمانية، التأمين، الوصول للخدمات العامة والطوارئ.
تقييم موثوقية الأدلة، رصد المخاطر، تحليل الجرائم.
فحص التأشيرات وطلبات اللجوء وضبط الحدود.
مساعدة القضاء، والتأثير على نتائج الانتخابات.
عملية مستمرة طوال دورة الحياة لتحديد المخاطر وتقييمها وتخفيفها — تشمل الاختبار.
بيانات تدريب عالية الجودة وممثّلة، مع فحص التحيّزات وتخفيفها.
توثيق شامل يُثبت المطابقة قبل طرح النظام في السوق.
تسجيل تلقائي للأحداث (logging) طوال عمر النظام لتتبّع المخاطر.
تعليمات استخدام واضحة تمكّن الناشر من فهم النظام وحدوده.
تصميم يسمح بإشراف بشري فعّال يمكنه التدخّل أو الإيقاف.
مرونة ضدّ الأخطاء والهجمات: adversarial examples، تسميم البيانات والنموذج، التهرّب، هجمات السرّية.
نظام إدارة جودة، تقييم مطابقة، علامة CE، ومراقبة ما بعد التسويق.
هنا يصبح التشريع شخصيًّا بالنسبة لك. النماذج ذات المخاطر النظامية (مثل النماذج اللغوية الكبرى التي تتجاوز عتبة 10²⁵ FLOP من القدرة الحسابية) ملزَمة قانونًا بإجراء اختبار عدائي وتوثيقه.
أي أن مزوّد النموذج ملزَم قانونًا بأن يجري Red Teaming وأن يوثّقه. هذا ليس ممارسة جيدة اختيارية — إنه شرط امتثال. وتشمل المادة 55 أيضًا: تقييم وتخفيف المخاطر النظامية، وتتبّع وإبلاغ الحوادث الجسيمة، وضمان الأمن السيبراني للنموذج وبنيته.
المادة 15 تُكمل الصورة لكل الأنظمة عالية الخطورة: يجب أن تكون مرنة ضدّ محاولات تغيير استخدامها أو سلوكها عبر adversarial examples وتسميم البيانات والنموذج والتهرّب وهجمات السرّية — وهي حرفيًّا قائمة فئات الهجوم التي درّبناك عليها.
وتُفعَّل هذه الالتزامات عبر مدوّنة ممارسات GPAI (Code of Practice) — فصل السلامة والأمن — التي تحوّل النصّ القانوني إلى إجراءات اختبار ملموسة.
توثيق تقني، سياسة احترام حقوق النشر، ونشر ملخّص عن بيانات التدريب.
للنماذج فوق 10²⁵ FLOP: اختبار عدائي، تقييم مخاطر نظامية، إبلاغ حوادث، أمن سيبراني (المادة 55).
الأداة العملية التي توضّح كيفية الامتثال لالتزامات GPAI، بما فيها فصل السلامة والأمن.
إعلام المستخدم أنه يتفاعل مع نظام ذكاء اصطناعي (إلا إذا كان بديهيًّا).
وسم آلي قابل للقراءة للمحتوى المولّد والتزييف العميق. مؤجّل لـ 2 ديسمبر 2026.
الإفصاح عن استنتاج المشاعر والتصنيف البيومتري، ووسم النصوص في مواضيع المصلحة العامة.
بدء العدّ التنازلي للتطبيق المرحلي.
الممارسات المحظورة (المادة 5) تصبح نافذة، والتزامات تأهيل الكوادر.
التزامات GPAI (المواد 51–55) وهيئات الحوكمة والعقوبات. لم تُمَسّ بالـ Omnibus
المادة 50 (الإفصاح للنَّاشرين)، تدابير دعم الابتكار، وبدء الإنفاذ الوطني والأوروبي.
وسم المحتوى الاصطناعي (50.2) والحظر الجديد على الصور الحميمة غير التوافقية ومواد إساءة الأطفال.
التزامات الأنظمة عالية الخطورة المستقلّة. مؤجّل من أغسطس 2026 بالـ Omnibus
الأنظمة المدمجة في منتجات خاضعة لتشريعات قطاعية. مؤجّل من أغسطس 2027
الغرامات تُحتسب بالأعلى بين مبلغ ثابت أو نسبة من الإيراد العالمي السنوي — وهي أعلى من غرامات GDPR.
انتهاك الممارسات المحظورة (المادة 5).
مخالفة التزامات أخرى (عالية الخطورة / GPAI).
تزويد الجهات بمعلومات مضلّلة أو غير صحيحة.
من يبني تطبيق RAG أو وكيلًا فوق نموذج أساسي هو غالبًا ناشر (deployer) — لكن لو عدّلته جوهريًّا (fine-tuning واسع) قد يُعاد تصنيفك مزوّدًا (provider) بالتزامات أثقل بكثير.
من يطوّر النظام أو يعدّله جوهريًّا ويطرحه باسمه. يحمل العبء الأكبر من الالتزامات.
من يستخدم النظام تحت سلطته. التزامات أساسية: الإشراف البشري والشفافية والاستخدام السليم.
من يطرح في سوق الاتحاد نظامًا من مزوّد خارج الاتحاد. يتحقّق من المطابقة.
من يتيح النظام في السوق ضمن سلسلة الإمداد. يتحقّق من وجود علامة CE والوثائق.
هنا يتّصل التشريع بالعمل: كل مادة تُترجَم إلى «ما الذي تختبره» ثم إلى الأداة، ثم إلى سمة NIST المقابلة.
| مادة EU AI Act | ما الذي تختبره | الأداة / probe | سمة NIST |
|---|---|---|---|
| المادة 5 (محظورات) | دفع النظام لتمكين ممارسة محظورة | garak · promptfoo harmful | Safe |
| المادة 10 (بيانات) | التحيّز والتمييز (لهجات/أسماء/جنسيات) | promptfoo bias · يدوي عربي | Fair |
| المادة 14 (إشراف بشري) | تجاوز الإشراف، الوكالة المفرطة | AgentDojo · يدوي | Accountable |
| المادة 15 (متانة/أمن) | adversarial، حقن، تسميم، تهرّب | garak · PyRIT | Secure & Resilient |
| المادة 50 (شفافية) | هل يفصح أنه AI؟ هل يوسم المحتوى؟ | يدوي | Transparent |
| المادة 55 (GPAI نظامي) | الاختبار العدائي الشامل الإلزامي | كل الترسانة · Petri | كل السمات |
هدف افتراضي مثالي: أداة توظيف تقع تحت Annex III (الفئة 4). تربط مباشرةً بمجالك (الترجمة والتوظيف) وتغطّي عدّة مواد دفعةً واحدة. شغّلها محليًّا (نموذج Ollama يمثّل المحرّك).
تقرير امتثال Red Team من 4–6 صفحات لأداة افتراضية عالية الخطورة، يربط كل ثغرة بمادة من EU AI Act وبسمة NIST وبمستوى خطورة — قطعة بورتفوليو تُثبت فهمك للتشريع والتطبيق معًا.
هذه الصفحة ملخّص تعليمي وليست استشارة قانونية. القانون يتطوّر (الـ Digital Omnibus لم يُعتمَد رسميًّا بعد حتى تاريخه)، فاعتمد دائمًا على النصّ الرسمي. شغّل كل الاختبارات على نماذج مصرّح باختبارها (محليّة أو sandbox).
جاوب كل سؤال ذهنيًّا أوّلًا، ثم اضغط عليه لكشف الإجابة. تغطّي الأسئلة درجات المخاطر، المحظورات، الأنظمة عالية الخطورة، تفويض الاختبار، الشفافية، الجدول الزمني، والعقوبات.
قانون الذكاء الاصطناعي الأوروبي بكل مواده وملاحقه، قابل للبحث.
artificialintelligenceact.eu →كل تواريخ التطبيق المحدّثة مرحلةً بمرحلة.
Implementation Timeline →المكتب الرسمي للمفوّضية الأوروبية للأسئلة والإرشاد.
ec.europa.eu →كيفية الامتثال لالتزامات نماذج الأغراض العامة عمليًّا.
Code of Practice →