🤖 إطار حوكمة وأخلاقيات مشاريع الذكاء الاصطناعي والتعلم الآلي

مرجع الوثيقة: TASLEEMAT-GUIDE-08-AI-GOVERNANCE-AR
الإصدار: 2.0
المعايير المرجعية: مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا - SDAIA)، إطار إدارة مخاطر الذكاء الاصطناعي (NIST AI RMF 1.0)، وقانون الذكاء الاصطناعي الأوروبي (EU AI Act).

🎯 نظرة عامة تنفيذية

مع تحول نماذج الذكاء الاصطناعي والتعلم الآلي والنماذج اللغوية الكبيرة (LLMs) من بيئات التجارب المعملية إلى صلب العمليات المؤسسية، باتت أدوات إدارة المشاريع التقليدية غير كافية بمفردها. تتميز مشاريع الذكاء الاصطناعي بمخاطر نوعية مثل: انحراف أداء النموذج (Model Drift)، والهلوسة التوليدية، والتحيز الخوارزمي، وتسريب خصوصية البيانات.

يوفر نظام «تسليمات» حزمة متكاملة لحوكمة الذكاء الاصطناعي مدمجة في دورة حياة المشروع، لتمكين المؤسسات من الابتكار بسرعة فائقة مع ضمان أعلى درجات الامتثال والأخلاقيات والجاهزية للتدقيق المؤسسي.

flowchart TD
    subgraph "1. التقييم والتأطير"
        A1["PMO-02.03 تقييم الجاهزية للذكاء الاصطناعي"] --> A2["PMO-02.04 لوحة حالة استخدام الذكاء الاصطناعي"]
        A2 --> A3["PMO-02.06 تقييم الخصوصية والأخلاقيات"]
    end

    subgraph "2. التخطيط وخط الأساس"
        A3 --> B1["PMO-02.02 خطة حوكمة الذكاء الاصطناعي"]
        B1 --> B2["PMO-02.05 بطاقة النموذج ووثيقة الحقائق"]
    end

    subgraph "3. التنفيذ والتحسين"
        B2 --> C1["PMO-05.09 سجل مكتبة الأوامر البرمجية والمدخلات"]
        C1 --> C2["PMO-06.11 الفحص الدوري للمشروع (شريحة AI)"]
    end

    subgraph "4. الإطلاق والتشغيل المستمر"
        C2 --> D1["PMO-07.04 التحول للعمليات التشغيلية (MLOps)"]
        D1 --> D2["PMO-07.05 مراجعة القيمة المتحققة بعد التنفيذ"]
    end

🏛️ وثائق حوكمة الذكاء الاصطناعي الست الأساسية

1. `PMO-02.03` تقييم الجاهزية للذكاء الاصطناعي (AI Readiness Assessment)

الهدف: قياس مدى جاهزية البنية التحتية، وجودة البيانات، والكوادر البشرية، والأمن السيبراني قبل ضخ الميزانيات.
المعايير: اكتمال البيانات، نضج مسارات MLOps، زمن الاستجابة، والتوافق الأمني.
بوابة العبور: يشترط تحقيق نسبة نضج $\ge 70\%$ لاجتياز بوابة العبور 0.

2. `PMO-02.04` لوحة حالة استخدام الذكاء الاصطناعي (AI Use Case Canvas)

الهدف: وثيقة استراتيجية من صفحة واحدة تربط المشكلة المستهدفة بالأثر التجاري والتقنية المستخدمة (RAG، تدريب مخصص، أو واجهات API).
المحتويات: المستفيد المستهدف، مؤشرات الأداء، مصادر البيانات، آلية التدخل البشري والرجوع التلقائي، وعائد الاستثمار المتوقع.

3. `PMO-02.06` تقييم خصوصية البيانات والأخلاقيات (Data Privacy & Ethics)

الهدف: الفحص الدقيق لحماية البيانات الشخصية، والامتثال لنظام حماية البيانات الشخصية (PDPL) ومعايير سدايا، وخلو النماذج من التحيز التمييزي.
الفحوصات الإلزامية: تحليل السمات الحساسة، آليات إخفاء الهوية، وضمانات الخصوصية التفاضلية.

4. `PMO-02.02` خطة حوكمة الذكاء الاصطناعي (AI Governance Plan)

الهدف: الميثاق المؤسسي الحاكم لدورة حياة النماذج، ومستويات المخاطر، وقواعد التدخل البشري (HITL)، ومؤشرات انحراف النماذج.
القواعد الصارمة: حدود إعادة التدريب (مثل انخفاض مقياس F1 بأكثر من 5%) وصلاحيات إيقاف النماذج في بيئة الإنتاج.

5. `PMO-02.05` بطاقة النموذج ووثيقة الحقائق (AI Model Card & Fact Sheet)

الهدف: جواز سفر فني ومعرفي يوثق سلسلة إمداد النموذج ومصادر بيانات التدريب ونتائج الاختبارات والقيود الفنية.
الجداول الحيوية: مقاييس الدقة عبر الشرائح السكانية، الحالات غير المصرح باستخدام النموذج فيها، وإجراءات الحد من المخاطر.

6. `PMO-05.09` سجل مكتبة الأوامر البرمجية والمدخلات (Prompt Library Log)

الهدف: إدارة النسخ والتعديلات لأوامر النماذج التوليدية (System Prompts) وضبط المعاملات (Temperature, Top-p) واختبارات الانحدار.
التحكم بالتغيير: منع التدهور المفاجئ في جودة المخرجات وضمان ثبات السلوك عبر إصدارات التطبيق.

🛡️ تصنيف المخاطر وسياسات التدخل البشري (HITL)

مستوى المخاطرة	التعريف والأمثلة	النماذج الإلزامية	سياسة التدخل البشري (Human-in-the-Loop)
المستوى 1: عالي المخاطر	تقييم الجدارة الائتمانية، التشخيص الطبي، الفرز الوظيفي الآلي، البنية التحتية الحرجة	كافة نماذج AI الستة + تدقيق قانوني خارجي	موافقة بشرية إلزامية مسبقة لكل معاملة أو قرار عالي التأثير.
المستوى 2: متوسط المخاطر	روبوتات خدمة العملاء التفاعلية، تلخيص الوثائق الداخلية، الصيانة التنبؤية	لوحة الاستخدام، بطاقة النموذج، سجل الأوامر	تدخل بشري عند الاستثناء (تحويل الحالات ذات الثقة المنخفضة للبشر).
المستوى 3: منخفض المخاطر	مسودات الإنتاجية الداخلية، تحليل المشاعر للمنشورات العامة	لوحة الاستخدام، بطاقة النموذج	مراجعة دورية بالعينات لضمان الجودة.

🤖 تسخير النماذج اللغوية الكبيرة (LLMs) لعمليات إدارة المشاريع

صُممت تسليمات لتكون المرجع الموثوق للمساعدات الذكية مثل ChatGPT و Claude وبيئات البرمجة الذكية مثل OpenCode و Cursor:

1. توليد الوثائق بنقرة واحدة (Zero-Shot & Few-Shot Prompting)

تحتوي كل تسليمة على ملف موجه ذكي مهندس مسبقاً (*.md) بجانب القالب البشري (*_قالب.md): - تغذية فورية للمحادثات: الصق الموجه في المحادثة مع ملاحظات الاجتماع لتوليد وثيقة متكاملة في ثوانٍ. - أمثلة واقعية معتمدة: توفر الأمثلة الـ 228 الموثقة في examples/ar/ مرجعاً تطبيقياً مدعماً ببيانات ومؤشرات مشاريع واقعية.

2. ضمانات ضد الهلوسة وانحراف المخرجات

إلزامية جداول ضبط الوثائق: تلزم النماذج بتحديد أسماء المعدين، المعتمدين، وتاريخ الإصدار بدقة.
رموز التجزئة التدقيقية SHA-256: تتضمن كافة القوالب وسماً برمجياً مخصصاً للبصمة الرقمية قبل اعتماد المستند في بوابات العبور.
التحقق الهيكلي عبر JSON: يتيح استدعاء tasleemat.validate_artifact_data التأكد التام من مطابقة المخرجات للمخططات المعيارية المعتمدة.

3. استدعاء أدوات الذكاء الاصطناعي الذاتية ومخططات بروتوكول MCP

يمكّن نظام "تسليمات" وكلاء الذكاء الاصطناعي المستقلين وأنظمة PMO المؤتمتة (عبر خادم tasleemat mcp أو حزمة بايثون البرمجية): - 114 مخطط هيكلي متقدم Draft 2020-12: يوفر كل مخرج مخطط JSON صارم يحدد أنواع الحقول والمدخلات الإلزامية وتنسيقات RFC القياسية (date, date-time, email, uuid). - استدعاء الأدوات البرمجية (Tool/Function Calling): يمكن لوكلاء الذكاء الاصطناعي استدعاء الأدوات لجلب عقود ومخططات البيانات قبل تعبئة النماذج عبر استدعاء get_artifact_asset(artifact_id, role="schema"). - حلقة التحقق والتصحيح الذاتي التلقائي: يمكن للوكلاء فحص مخرجاتهم برمجياً عبر دالة validate_artifact_data(artifact_id, data, strict=True)، وتلقي مسارات الأخطاء لتصحيحها ذاتياً قبل تقديم التسليمات لمديري المشاريع.