الساعة العاشرة صباحاً. يفتتح رئيس مجلس الإدارة الاجتماع الرابع للعام، وعلى جدول الأعمال الميزانية التشغيلية وملف استحواذ لم يُعلَن عنه بعد. يلقي أمين السر نظرة على قائمة الحضور الإلكترونية: ستة أعضاء، واسم سابع لا يعرفه. «مساعد الملاحظات».
يسأل الرئيس: من دعاه؟ يتبيّن بعد دقيقة أن أحد الأعضاء ربط تقويمه بأداة تدوين ذكية قبل أسابيع، وأن الأداة تنضم تلقائياً إلى كل اجتماع في تقويمه. لا أحد في القاعة يعرف أين يذهب التسجيل، ولا من يستطيع الاطلاع على الملخص، ولا من سيُسأل إن تسرّب خبر الاستحواذ غداً.
المشهد افتراضي، لكنه ليس بعيداً. فأدوات التدوين الذكية أصبحت جزءاً من العمل اليومي، وكثير منها يدخل الاجتماعات بهدوء، بقرار فردي من مستخدم واحد، دون أن يمرّ بأي إجراء حوكمة.
والسؤال الذي يطرحه هذا المشهد ليس تقنياً. ليس «هل الأداة دقيقة؟» ولا «هل هي آمنة؟»، بل سؤال حوكمة بالدرجة الأولى: من يُساءل عن هذا الطرف السابع؟
ماذا تعني المساءلة في الحوكمة؟
كثيراً ما تُستخدم كلمتا «المسؤولية» و«المساءلة» بالمعنى نفسه، لكن الحوكمة تفرّق بينهما تفريقاً دقيقاً:
- المسؤولية تعني أن تؤدي المهمة.
- المساءلة تعني أن تُسأل عن نتيجتها أمام جهة أعلى، وأن تشرح ما حدث، وأن تتحمّل العاقبة.
يمكن أن تُسند المهمة لغيرك، لكن المساءلة عنها لا تنتقل بالإسناد. وهذا بالضبط ما تؤكده الأطر النظامية محلياً ودولياً.
لائحة حوكمة الشركات (هيئة السوق المالية). تنص المادة (20) على أن مجلس الإدارة يبقى مسؤولاً عن أعمال الشركة وإن فوّض بعض صلاحياته للجان أو أفراد أو جهات، ولا يجوز له أن يصدر تفويضاً عاماً أو غير محدد المدة. وتجعل المادة (35) توثيق اجتماعات المجلس وإعداد محاضرها من مهام أمين السر، أي أن للمحضر صاحباً مسمّى بحكم النظام.
مبادئ G20/OECD لحوكمة الشركات (2023). يبدأ الفصل الخامس، المخصص لمسؤوليات المجلس، بأن يضمن إطار الحوكمة «مساءلة المجلس أمام الشركة والمساهمين»، ويطالب أعضاء المجلس بأن يعملوا «على أساس من المعرفة الكاملة، وبحسن نية، وبالعناية الواجبة». ولا يمكن لعضو أن يعمل على أساس من المعرفة الكاملة وهو لا يعرف من يحضر الاجتماع معه.
ISO 37000 (حوكمة المنظمات). يجعل المعيار الدولي المساءلة أحد مبادئ الحوكمة الأحد عشر، وينص على أن الجهاز الإداري الأعلى مساءَل في النهاية عن أفعال المنظمة وإغفالاتها، وأن من فُوّضت إليهم الصلاحية ليسوا فوق المساءلة.
تتفق الأطر الثلاثة على قاعدة واحدة: التفويض ينقل المهمة، ولا ينقل المساءلة. ولكي تعمل المساءلة فعلياً، لا بد من ثلاثة عناصر:
- صاحب معروف: شخص مسمّى يُسأل، لا «النظام» ولا «الفريق».
- تفويض واضح: حدود مكتوبة لما يُسمح به وما لا يُسمح.
- قدرة على الجواب: سجل يسمح بشرح ما حدث ولماذا.
لماذا يختبر الذكاء الاصطناعي هذا المبدأ؟
كل من يحضر اجتماع مجلس الإدارة اليوم يُساءل أمام جهة ما: العضو أمام الجمعية العامة، وأمين السر أمام المجلس، والمستشار القانوني أمام من كلّفه. الذكاء الاصطناعي هو أول مشارك في القاعة لا يمكن أن يُساءل بنفسه. وهذا يخلق أربع فجوات:
- ليس شخصاً قانونياً. لا يوقّع على المحضر، ولا يُستجوَب، ولا يتحمّل عاقبة. لذلك فإما أن تُربط مساءلته بإنسان مسمّى، أو لا توجد مساءلة أصلاً.
- يدخل بقرار فردي. حضور شخص جديد الاجتماع يمرّ عبر أمين السر ورئيس المجلس. أما أداة ذكية مرتبطة بتقويم عضو واحد، فقد تدخل دون أن يعلم أحد. هذا ما يُسمّى «الذكاء الاصطناعي الخفي»: أداة تعمل خارج أي إطار حوكمة.
- لا يسجّل فقط، بل يختار. المساعد الذكي يلخّص، ويصنّف، ويقترح صياغة القرارات. كل واحدة من هذه الأفعال اختيار يؤثر في السجل الرسمي للمجلس، وكل اختيار يحتاج إلى من يُسأل عنه.
- خلفه سلسلة مورّدين. النموذج، والمنصة، ومزوّد الاستضافة. وهنا يحسم الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي الصادر عن سدايا الأمر: نقل المخاطر إلى المورّدين عبر العقود لا يُسقط عن الجهة واجباتها في الحوكمة.
ولهذا جاءت «المسؤولية والمساءلة» ضمن المبادئ السبعة في مبادئ أخلاقيات الذكاء الاصطناعي لسدايا، التي تجعل الجهة المستخدمة مسؤولة أولاً عن التزامها، وتطلب منها تعيين أدوار محددة لمتابعة ذلك، منها مسؤول الذكاء الاصطناعي المسؤول. ويضيف الإطار الوطني لإدارة المخاطر أن المساءلة تعني أدواراً واضحة، ورقابة بشرية طوال دورة حياة النظام، وتحديداً مسبقاً لما يفعله النظام بمفرده وأين يجب أن يتدخل إنسان.
بعبارة أخرى: العناصر الثلاثة للمساءلة (الصاحب والتفويض والسجل) لا توجد تلقائياً مع الذكاء الاصطناعي. يجب أن تُبنى عمداً.
سلسلة المساءلة: أين يقف الذكاء الاصطناعي؟
الحل ليس أن نجعل الذكاء الاصطناعي مُساءَلاً بنفسه، بل أن نضعه داخل سلسلة المساءلة التي تعمل بها الحوكمة أصلاً، وأن نربطه بحلقة بشرية معروفة.
الحلقة الأهم هي الصاحب المسمّى: من دونه يبقى المساعد خارج السلسلة، والعقد مع المورّد لا يسدّ هذا الفراغ.
ست قواعد لذكاء اصطناعي يُساءَل
إذا كان الذكاء الاصطناعي سيحضر اجتماعات المجلس، فمن حق المجلس أن يتوقع منه سلوكاً محدداً ومعروفاً مسبقاً. هذه ست قواعد تحوّل مبدأ المساءلة إلى سلوك عملي:
- لا يدخل إلا بدعوة من صاحب صلاحية. الدعوة تأتي من أمين السر أو ممن يحدده المجلس، لا من ربط تقويم شخصي. الأداة التي تنضم من تلقاء نفسها لا مكان لها في اجتماع مجلس.
- لكل مساعد صاحب مسمّى. شخص واحد معروف يُسأل عن إعداداته ومخرجاته، وهو في الغالب أمين السر بحكم مسؤوليته عن توثيق الاجتماعات.
- هويته معلنة للحضور. يظهر باسم واضح في قائمة المشاركين، ويعلم الجميع أنه حاضر وما الذي يقوم به. لا تسجيل صامت، ولا مشارك متنكّر.
- يعمل ضمن تفويض مكتوب. ما الذي يسجّله؟ ما الذي يلخّصه؟ وما الذي لا يفعله أبداً، مثل اعتماد قرار أو مشاركة محتوى خارج المنصة؟ وهذا تطبيق مباشر لمبدأ اللائحة بأن التفويض لا يكون عاماً أو مفتوحاً.
- يترك أثراً لكل ما يفعل. كل إجراء مرتبط بوقته وبمن أذن به وبالسياسة التي استند إليها، حتى يستطيع صاحبه أن يجيب حين يُسأل. (نفصّل ذلك في المقال الرابع عن سجل الإجراءات.)
- يمكن سحبه في أي لحظة. من دعاه، أو رئيس الاجتماع، يستطيع إخراجه فوراً، مثلاً عند مناقشة بند بالغ الحساسية. (نفصّل ذلك في المقال الثاني عن الرقابة البشرية.)
بند مقترح لسياسة اجتماعات المجلس
أسرع طريقة لتثبيت هذه القواعد هي أن تُكتب. يمكن لأمين السر أن يقترح على المجلس إضافة بند مثل هذا إلى سياسة الاجتماعات، بعد مراجعته مع المستشار القانوني:
«لا يجوز استخدام أي أداة ذكاء اصطناعي في اجتماعات المجلس أو لجانه إلا إذا كانت معتمدة من المجلس، ومدعوّة من أمين السر، ومعلناً عن حضورها للمشاركين. ويكون أمين السر مسؤولاً عن إعداداتها ومراجعة مخرجاتها قبل اعتمادها، ولرئيس الاجتماع إيقافها في أي وقت.»
أسئلة تطرحها على أي مورّد
قبل أن تسمح لأي حل ذكاء اصطناعي بدخول اجتماعات المجلس، اطرح هذه الأسئلة. الإجابة الغامضة على أي منها إشارة تستحق التوقف.
- من يملك صلاحية دعوة المساعد إلى الاجتماع؟ وهل يمكن حصرها في أشخاص محددين بالاسم؟
- هل يستطيع عضو أن يُدخل المساعد إلى اجتماع من تقويمه الشخصي دون موافقة أمين السر؟
- كيف يظهر المساعد لبقية الحضور؟ وهل يعلمون أنه يوثّق؟
- أين يُكتب ما يُسمح للمساعد بفعله وما لا يُسمح؟ ومن يعدّل ذلك؟
- هل يمكنك أن ترى، لكل إجراء قام به، من أذن به ومتى ولماذا؟
- من يستطيع إيقاف المساعد أثناء الاجتماع؟ وماذا يحدث لما سجّله قبل الإيقاف؟
- ما المسؤوليات التي يتحملها المورّد تعاقدياً، وما الذي يبقى على عاتق جهتك؟
قائمة تحقق المساءلة
إذا كانت الإجابة «لا» عن أي بند، فهذا أول ما يجب معالجته قبل الاجتماع القادم.
- لدى المجلس قائمة بأدوات الذكاء الاصطناعي المعتمدة لاجتماعاته ولجانه
- لكل أداة معتمدة صاحب مسمّى مسؤول عن إعداداتها ومخرجاتها
- الأدوات الشخصية غير المعتمدة ممنوعة من دخول اجتماعات المجلس، والأعضاء يعلمون ذلك
- حضور المساعد الذكي معلن في قائمة المشاركين وفي بداية كل اجتماع
- ما يُسمح للمساعد بفعله مكتوب ومعتمد، ومحدد النطاق
- يمكن معرفة من أذن بكل إجراء قام به المساعد
- رئيس الاجتماع أو أمين السر يستطيع إيقاف المساعد فوراً
- عقد المورّد يوضّح توزيع المسؤوليات، مع العلم أن المساءلة النهائية تبقى للجهة
هذه البنود جزء من قائمة التحقق الشاملة: ذكاء اصطناعي محكوم في اجتماعات مجلس الإدارة، التي تغطي الركائز الست كلها مع المرجع النظامي لكل بند. حمّل القائمة الشاملة
كيف تطبّق منصة آدم هذا المبدأ
صُمّم المساعد الذكي في منصة آدم ليكون مشاركاً مُساءَلاً من اللحظة الأولى. لا يحضر إلا بدعوة ممن تحددهم جهتك بالاسم، ويظهر للمشاركين باسم «مساعد آدم» مع مؤشر واضح للتوثيق، ويعمل وفق سياسات جهتك لا وفق إعدادات افتراضية، ويسجّل كل إجراء يقوم به والسياسة التي استند إليها. ويبقى اعتماد ما ينتجه بيد أمين السر.
النتيجة: حين يسأل رئيس المجلس «من دعاه؟»، تكون الإجابة جاهزة دائماً.
المراجع
- هيئة السوق المالية، لائحة حوكمة الشركات، الصادرة بالقرار رقم 8-16-2017 والمعدلة بالقرار رقم 8-5-2023، المادتان (20) و(35).
- OECD، مبادئ G20/OECD لحوكمة الشركات 2023، الفصل الخامس: مسؤوليات المجلس.
- ISO، ISO 37000:2021 حوكمة المنظمات، مبدأ المساءلة.
- الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، مبادئ أخلاقيات الذكاء الاصطناعي، الإصدار 2.0 (ملخص التميمي وشركاه).
- الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، أبريل 2026 (ملخص Gowling WLG).
