دليل نماذج تسليمات

المخرج: خطة حوكمة الذكاء الاصطناعي

مرجع الوثيقة: PMO-02.02

يوفّر هذا المستند مرجعًا مهنيًا شاملًا لفهم الغرض من خطة حوكمة الذكاء الاصطناعي واستخدامه بفعالية بما يتوافق مع إطار تسليمات.

1. مفهوم الوثيقة وطبيعتها

سجل للقيود والصلاحيات ونتائج الاختبارات والمالكين المحددين الذين يحكمون نظامًا ذكيًا بعينه، عند إصدار بعينه، لفائدة مجموعة أشخاص بعينهم. فيذكر ما هو النظام وما يستثنيه، والاستخدامات المحظورة صراحةً والمعتمدة ضمن حدود محددة، والسند القانوني لكل فئة بيانات واستخدامها المسموح وضابط الحماية وتاريخ الحذف، واختبار العدالة لكل فئة متأثرة بالعتبة التي تستدعي إجراءً، والالتزام الذي يفي به كل ضابط، والشخص المحدد الذي يملك صلاحية إيقاف النظام. وهي مُثبَّتة خط أساس، ويُعاد فتحها بالأحداث لا بالملاءمة.

2. القيمة والأهمية الاستراتيجية

لأن سلوك النظام الذكي غير ظاهر من مخرجاته. فالنموذج نفسه يتصرف بطريقة مختلفة على بيانات مختلفة، والإعداد والاستخدام المعتمد والعتبة السارية جميعها بعيدة عن عين من يخضع للمخرج. وبلا سجل مُثبَّت خط أساس تصير كل سؤال عن قرار سابق بلا جواب، والأسئلة التي تصل متأخرة دائمًا: لماذا استُخدمت هذه البيانات، ومن قبل مَن صُنِّف هذا، وماذا حدث حين أخفق اختبار الانحراف. والحوكمة تساوي ما تساويه هذه الأسئلة، وهي أسئلة تصل في أسوأ لحظة ممكنة.

والانضباط الذي يفرضه النموذج هو التسمية لا التصنيف. خطة تسجّل «مُقلَّم» و«مراقَب» ستجتاز المراجعة ولن تقول لقارئ شيئًا، لأن هاتين الكلمتين تصفان فئة من الضوابط لا الضابط الساري. أما رقم الإصدار وحامل المفتاح والعتبة الرقمية والمالك المحدد ف هي ما يجعل السجل نافعًا لاحقًا.

3. التوقيت ودواعي الإعداد والتحديث

يُعدّ هذا المخرج ويستخدم أساسًا في مجموعة منهجية المشروع وتخصيصه من دورة حياة المشروع. يُعدّ قبل استخدام النظام في الإنتاج ويثبَّت عند الإطلاق، ويُعاد فتحه عند تغيير إصدار النموذج، أو مصدر بيانات جديد، أو استخدام معتمد جديد، أو تغيير تنظيمي. وهذه الأحداث متكررة، والخطة التي لا تراجع إلا بتقويم تفوتها جميعًا.

4. الأدوار والمسؤوليات (RACI)

المسؤوليات: يُعدّه مسؤول الذكاء الاصطناعي أو تعلّم الآلة مع مسؤول حماية البيانات، لأن الخطة لا تُقن إلا إذا لم يكتف الشخص الذي قيّم البيانات ولا يكتف المستناد عن النظام، وأن ملاك المسابلة عن النظام مصاركان. ويعتمده المالك المسؤول، ويجب أن يكون شخصًا يملك صلاحية إيقاف النظام منفردًا، ويعتمده راعي المشروع حيث يمس النظام أطرافًا خارجية. وتُراجع المستندات نفسها عند كل حدث مستدعٍ.

إرشادات التخصيص والمواءمة

يجوز أن تغطي الخطة عدة نماذج كسلة واحدة بدل كتابة خطة لكل نموذج، بشرط أن يسمّي الجردُ الإصدار الذي ينطبق عليه كل قيد، فالعلة التي يمنعها هذا أن يُقتبس قيدٌ على غير موضعه.
حيث يكون النظام مشترىً لا مبنيًا، تنطبق الحوكمة على المورّد أيضًا. فسجّل ما اشترطه العقد، فالضابط الذي افترضت المؤسسة تملكه ليس ضابطًا تملكه.
التغير الجوهري في النموذج أو في الأداء يستدعي إعادة فتح الخطة وإن لم يتغير النظام، فنموذج يؤدي جيدًا على سكان الأمسًا على سكان الأمس لا يصير ملائمًا لسكان الغد بذلك.
يجوز اختصار خطط الاستخدام الداخلي الأقل خطرًا، لكن الأقسام التي تبقى أيًّا كان الصنف هي قائمة المحظورات والمالك المحدد وتعريف الحادث، لأنها الثلاثة التي يحتاجها القارئ في الساعة الأولى من الحادث.
يُفضَّل حفظ الخطة مع بطاقة النموذج لا أن تُدمج فيها، فالبطاقة تصف ما هو النظام وهذه الوثيقة تصف ما هو مسموح، والثّنيان يتباعدان عند كل مراجعة.
تُحفظ الخطط المستبدلة ولا تُطمس، فالذي تولده حادثة غالبًا ما يكون السؤال عمّا كان ساريًا حينها.

المحاذاة والترابط المؤسسي

1. المتطلبات المسبقة والمدخلات (الاعتماديات السابقة)

إلزامي:
- نموذج حالة استخدام الذكاء الاصطناعي (PMO-02.04)
- تقييم جاهزية الذكاء الاصطناعي (PMO-02.03)
- سياسة أخلاقيات الذكاء الاصطناعي في المنظمة (مرجع خارجي)
اختياري / سياقي:
- تقييم خصوصية البيانات وأخلاقياتها (PMO-02.06)
- ميثاق المشروع (PMO-03.01)

2. النماذج التابعة (الاعتماديات اللاحقة)

إلزامي:
- بطاقة نموذج الذكاء الاصطناعي (PMO-02.05)
- مقاييس الجودة (PMO-04.05.02)
- خطة إدارة المخاطر (PMO-04.08.01)
اختياري / سياقي:
- سجل مكتبة الأوامر (PMO-05.09)
- نموذج اعتماد اختبار قبول المستخدم (PMO-06.10)

5. إرشادات تعبئة الحقول والبيانات

لإتمام خطة حوكمة الذكاء الاصطناعي بدقّة واحتراف، على المسؤول تعبئة الأقسام التالية استنادًا إلى سياق المشروع (مع التأكد من الرجوع إلى parameters.md للمتغيرات العامة للمشروع):

جرد النظام الذكي: ما هو النظام، وبأي إصدار سيعمل فعلًا، ومن يشغّله. اذكر الإصدار، فالخطة التي تغطي «النموذج» تغطي أي نموذج يكون منشورًا حين يُسأل، والجواب نادرًا ما يكون الذي خُصص.
الغرض المقصود والمستخدمون المتأثرون: ما الغرض من النظام، ومن يخضع لمخرجه لا من يستخدمه فحسب. الاثنان يُخلطان عادة، وفي هذا الخلط يصير النظام الذي يفرز المرشحين موصوفًا بأنه أداة تساعد المُوظِّفين على كتابة إعلانات أفضل.
تصنيف المخاطر: الصنف الممنوح والمعايير التي أوقعته فيه، لا الصنف وحده. فالتصنيف الذي بلا معايير لا يقبل الطعن، والتصنيف الذي لا يقبل المراجعة أو الطعن هو في حقيقته انعدام للتصنيف.
استثناءات النطاق: ما لا تغطيه هذه الخطة صراحةً، ومن يملكه بدلًا منها. فالحوكمة تخسر عند الحد: المكوّن الذي لم يُسند إلى أحد يقع تحت خطة افترضت أنه مشمول.
المبادئ الأخلاقية: المبادئ التي تقيّد الاستخدام في هذا المشروع، وحالة تنازل أحدها عن الآخر. والمبادئ التي لا يمكن أن يتنازل أحدها عن آخر ليست قاعدة قرار، والمشروع ذو الجدول الزمني الضيق زمنيًا يحسم التعارض بصمت وبعد وقوعه.
الاستخدامات المحظورة: الاستخدامات المرفوضة أيًّا كانت المنفعة. وهذا القسم هو سبب وجود الخطة، والخطة التي تسرد المسموح فقط لا تملك وسيلة لرفض شيء.
حالات الاستخدام المعتمدة: الاستخدامات المعتمدة، وحدود كل منها التي يبقى ضمنها معتمدًا. فالاستخدام المعتمد بلا حدود محدَّدة قدرة معتمدة لا استخدام معتمد.
تقييم الأثر على الإنسان: من يتحمل نتيجة مخرَج خاطئ، وهل يستطيع تمييز أنه خاطئ. النظام الذي لا يكتشف صاحبه أخطاءه ينقل كلفة الخطأ إلى أقل الناس قدرة على الاعتراض عليه.
فئة البيانات: أي بيانات هذه، بصيغة يعرف بها صاحب البيانات أنها عنه. التصنيف التقني وحده لا يعبّر عن شيء، فالاسم التقني يمكن أن يصف شيئًا لا يعرف صاحبه أنه موجود.
المصدر والسند القانوني: من أين جاءت البيانات وتحت أي سند تُعالَج. البيانات التي وصلت مع النموذج لا يمكن إضافة سندها لاحقًا، فمن دُرِّب قبل طرح هذا السؤال يحمل بيانات لا يستطيع أحد اليوم إثبات وضعها.
الاستخدام المسموح: ما يجوز استخدام البيانات لأجله في هذا النظام، وما لا يجوز. أشيع خلل في الحوكمة ليس تسريبًا بل إعادة استعمال لغرض لم يُعتمد من جديد.
ضابط الحماية: الضابط المطبَّق تحديدًا، لا فئة الضابط. «مشفَّر» فئة، والجملة التي تُغيّر الحاجة هي أي مفتاح، ومن يحتفظ به، وكيف يُدوَّر.
الاحتفاظ والحذف: متى تُحذف البيانات، وكيف يُتحقق من الحذف. والحذف الذي يُدَّعى ولا يُثبَت هو كيف تعمّر مجموعة تدريب أطول من المشروع الذي بررها.
الفئة المتأثرة: الفئة التي تتأثر نتائجها، مذكورة بالاسم. فالفئات توصف مجموعةً على أساس اختبار، والفئة التي تهم هي التي يكون أداؤها الأسوأ عليه.
مخاطر التحيّز: الطريقة المحددة التي قد يكون النظام بها غير عادل تجاه هذه الفئة، مصوغة بحيث يمكن أن تكون خاطئة. عنوان «مخاطر التحيّز» ليس خطرًا، و«النموذج يمنح هذه الفئة درجات أدنى بناءً على معدلات إتمام تاريخية» خطر يمكن قياسه ويمكن أن يثبت خطؤه.
منهج الاختبار والعتبة: كيف يُختبر، وأي نتيجة تستدعي إجراءً، والعتبة مكتوبة قبل معرفة النتيجة. العتبة التي تُحدد بعد رؤية الرقم وصف لذلك الرقم.
التخفيف: ما سيُفعل تجاه تفاوت مؤكد، وما يفعله النظام في ذلك مؤقتًا. أغلب خطط التخفيف تصف الحالة النهائية وتُسكت عن كون النظام يعمل أم لا بينما السؤال مفتوح.
المؤشر المستمر: المقياس الذي يُتابَع بعد الإطلاق وتواتره. والتحيّز ليس خاصية للنموذج عند الإطلاق بل لبياناته التي يواصل مصادبتها، فقياس الإطلاق هو أول سلسلة لا آخرها.
اللوائح المنطبقة: الصكوك التي تربط هذا النظام، مذكورة بالبند الذي تتحدد عنده الالتزام. قائمة أسماء اللوائح بحث لا موقف امتثال.
ربط الضوابط: أي ضابط يفي بأي التزام، وأي التزامات لا ضابط لها بعد. النصف الثاني هو النصف المفيد، والربط الذي يغطي كل التزام هو في الغالب ربط كُتب ليكتمل لا ليصح.
الأدلة والسجلات: ما يُحتفظ به لإثبات الامتثال، وكم مدة الاحتفاظ، ومن يحق له الاطلاع. الامتثال الذي لا يُثبت إلا بالإفادة لا يخضع للتدقيق، وما لا يخضع للتدقيق لا يُثبت أمام جهة رقابية.
دورة مراجعة الامتثال: كم مرة تُراجَع، وما الذي يستدعي مراجعة خارج الموعد. تغيير إصدار النموذج، ومصدر بيانات جديد، واستخدام جديد، كلها أحداث، والخطة التي لا تراجع إلا بتقويم تفوت الثلاثة.
المالك المسؤول: الشخص المحدد المسؤول عن سلوك النظام، وله صلاحية إيقافه دون جمع أحد. والمساءلة إذا سُندت إلى لجنة توزعت على لا أحد، والمعيار هو قدرة المحدد على إيقاف النظام منفردًا.
نقاط الإشراف البشري: النقاط التي يستطيع فيها الإنسان التجاوز، والتي لا يستطيع. الإشراف الموجود في كل مكان من حيث المبدأ وفي لا مكان من حيث سير العمل بيان مبادئ، والنقاط التي تهم هي التي يكون التجاوز فيها مكلفًا.
حقوق القرار والإنصاف: من يقرر ما يُسمح به بعد الإطلاق، وكيف يعترض من تضرّ من مخرجه. الإنصاف هو الآلية الوحيدة التي تجعل المساءلة في متناول من يحتاجها.
الإبلاغ عن الحوادث: ما الذي يُعدّ حادثًا، ومن يُبلَّغ، وفي أي مهلة. وتعريف حادث كُتب واسعًا ليلتقط كل شيء هو تعريف لا يستطيع أحد تطبيقه تحت ضغط الوقت، والتعريف الضيق يفوت بالضبط ما لم يكن متوقعًا حين كُتب.
مراقبة الأداء والانحراف: ما يراقب في التشغيل، ومقابل أي خط أساس. نموذج الإنتاج نظام مختلف عن الذي خُصص، والفرق بينهما يتراكمي ولا يعلن عن نفسه.
محفزات إعادة التقييم: الأحداث التي تفرض إعادة فتح الخطة، مصوغة بحيث يعرفها من لم يحضر. المحفزات الموصوفة بعبارة الجوهرية تنتهي دائمًا عند عدم التحقق.
ارتباط ضبط التغيير: كيف يُرفع تعديل على النظام، إذ تحكم هذه الخطة النظام وبياناته واستخداماته المعتمدة، وأي تغيير في أيٍّ منها تغيير في الخطة.

النماذج المرتبطة

6. نموذج تطبيقي معبأ (مثال استرشادي)

يتوفر نموذج تطبيقي مكتمل وعالي الجودة يوضح كيفية تعبئة واستخدام هذا المستند عملياً:

📖 النموذج التطبيقي المكتمل: 02_02_خطة_حوكمة_الذكاء_الاصطناعي_مثال.md