إطار «سدايا» لإدارة مخاطر الذكاء الاصطناعي… من يتحمل مسؤولية الخطأ؟
في داخل كل واحد منا رغبة خفية في أن يجد من يخفف عنه عبء التفكير والقرار. واليوم، جاء الذكاء الاصطناعي بإجابات سريعة، وصياغة مرتبة، وقدرة مدهشة على التحليل والاقتراح.
قد يكتب تقريرًا خلال ثوانٍ، ويختصر اجتماعًا طويلًا، ويحلل أرقامًا معقدة، ثم يقدم النتيجة بلغة تبدو واثقة ومقنعة.
لكن ماذا يحدث عندما تكون هذه النتيجة خاطئة؟ ومن يتحمل المسؤولية عندما تتحول إجابة النظام إلى تقرير رسمي، أو توصية إدارية، أو قرار يؤثر في حياة إنسان؟
من هنا تأتي أهمية الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، الذي أطلقته الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا»، ليكون مرجعًا إرشاديًا يساعد الجهات الحكومية والخاصة على استخدام هذه التقنيات بصورة أكثر أمانًا ومسؤولية.
الإطار لا يهدف إلى إيقاف الذكاء الاصطناعي أو إبطاء الابتكار، بل إلى تنظيم العلاقة بين التقنية والإنسان. وبمعنى أبسط، هو يقول للجهات: استخدموا الذكاء الاصطناعي واستفيدوا من قدراته، لكن ضمن ضوابط واضحة ومسؤوليات محددة.
نحن في المجتمع التقني كنا ننتظر مثل هذا الإطار منذ فترة.
فكما مثّل صدور نظام مكافحة جرائم المعلوماتية محطة مهمة في تنظيم التعامل مع الفضاء الرقمي، أصبحنا اليوم بحاجة إلى مرجعية تضبط استخدام الذكاء الاصطناعي قبل أن تتوسع تطبيقاته أسرع من قدرتنا على فهم آثارها.
وبالطبع، هناك فرق جوهري بين الاثنين؛ فنظام مكافحة جرائم المعلوماتية تشريع ملزم يتضمن جرائم وعقوبات، بينما يأتي الإطار الوطني بوصفه مرجعًا إرشاديًا لإدارة المخاطر، وليس نظامًا يحدد العقوبات أو المسؤوليات القانونية.
لكن أهميته تكمن في أنه ينقل استخدام الذكاء الاصطناعي من الاجتهادات الفردية إلى منهج مؤسسي يقوم على تحديد المخاطر وتقييمها ومعالجتها ومتابعتها.
من الأفكار المهمة في الإطار أن مستوى الخطر لا يرتبط بالتقنية وحدها، بل بطبيعة استخدامها وحجم تأثيرها.
فأداة تقترح عنوانًا لرسالة ليست كنظام يساعد في تشخيص المرضى، أو تقييم المتقدمين للوظائف، أو تحديد أهلية شخص للحصول على خدمة.
إذا أخطأ الذكاء الاصطناعي في اقتراح فيلم، فقد نخسر ساعتين من وقتنا. لكن إذا أخطأ في تقييم مريض أو طالب أو موظف، فقد يتحول الخطأ إلى ضرر حقيقي يمس حياة الإنسان وحقوقه وفرصه.
ولهذا، كلما اقترب النظام من القرارات الحساسة، ازدادت الحاجة إلى الاختبار والشفافية والمراجعة البشرية وتحديد المسؤوليات.
أول هذه التحديات هو الثقة الزائدة. فالذكاء الاصطناعي قد يخطئ بلغة شديدة الثقة، والإنسان بطبيعته يتأثر بطريقة عرض المعلومة. وكلما كانت الإجابة مرتبة ومصاغة باحتراف، قل احتمال أن يشك فيها.
نحن لا نصدق النظام دائمًا لأنه أثبت أنه صحيح، بل قد نصدقه لأنه تحدث بطريقة توحي بأنه يعرف.
فالخطر ليس فقط في أن الآلة قد تخطئ، بل في أن نثق بها إلى درجة نتوقف معها عن السؤال.
التحدي الثاني هو البيانات والتحيز. فالذكاء الاصطناعي ليس محايدًا بالضرورة؛ إذ قد تنتقل إليه انحيازات البيانات التي دُرّب عليها، أو الخيارات البشرية التي أثرت في تصميمه. وقد ينتج عن ذلك قرارات تبدو موضوعية، لكنها تعيد إنتاج أخطاء بشرية سابقة بسرعة أكبر وعلى نطاق أوسع.
أما التحدي الثالث فهو صعوبة تفسير القرار. قد نعرف ماذا قرر النظام، لكننا لا نعرف دائمًا لماذا قرر ذلك. وهذه ليست قضية تقنية فقط، بل قضية عدالة، خصوصًا عندما يتعلق القرار بصحة إنسان أو عمله أو تعليمه.
لا يكفي أن نقول للمتضرر: «النظام قرر». فالخوارزمية لا تقف أمامه لتفسر قرارها أو تتحمل نتيجته.
ويأتي بعد ذلك تحدي تغير أداء النظام مع الوقت؛ فنجاحه أثناء الاختبار لا يعني أنه سيبقى بالدقة نفسها بعد التشغيل. فالبيانات والبيئة وطريقة الاستخدام تتغير، وقد تتغير النتائج معها.
فالواقع لا يشبه المختبر دائمًا، والبشر لديهم موهبة عجيبة في استخدام الأنظمة بطرق لم تخطر على بال من صممها.
أما أكثر التحديات تعقيدًا فهو تحديد المسؤولية. عندما يخطئ النظام، هل المسؤول هو المطور؟ أم الجهة التي اشترته؟ أم الموظف الذي استخدمه؟ أم المدير الذي اعتمد النتيجة؟
قد يقول المطور إن النظام أسيء استخدامه، ويقول المشغل إنه وثق في المطور، بينما يقول المستخدم إن الجهة سمحت له باستخدامه.
أخطر ما قد يحدث ليس أن يقع الخطأ، بل أن يصبح الخطأ بلا صاحب.
وهنا تبرز أهمية تحديد المسؤوليات قبل تشغيل الأنظمة، لا بعد وقوع الضرر، مع بقاء تحديد المسؤولية القانونية خاضعًا للأنظمة ذات الصلة.
يتضمن الإطار الوطني سبعة مبادئ أساسية، ويصنف مخاطر الذكاء الاصطناعي ضمن سبعة أنواع رئيسية، بما يساعد الجهات على النظر إلى المخاطر من زوايا متعددة، لا من الجانب التقني وحده.
ويقدم منهجية تبدأ بفهم سياق النظام والغرض من استخدامه، ثم تحديد المخاطر وتقييم احتمال وقوعها وحجم أثرها، واختيار المعالجة المناسبة، وصولًا إلى المتابعة والمراجعة المستمرة.
وقد تشمل المعالجة تحسين جودة البيانات، وتقييد الصلاحيات، وحماية المعلومات الحساسة، وإضافة مراجعة بشرية، وتدريب الموظفين ومراقبة أداء النظام.
وفي بعض الحالات، قد يكون القرار الصحيح هو عدم استخدام النظام أصلًا، إذا كانت مخاطره أكبر من فائدته.
فليس كل ما يمكن تنفيذه تقنيًا مناسبًا بالضرورة للتطبيق على الناس.
إصدار الإطار الوطني خطوة مهمة؛ لأنه ينقل النقاش من مجرد الانبهار بقدرات الذكاء الاصطناعي إلى التفكير في مسؤوليات استخدامه.
لكن الوثائق وحدها لا تمنع الأخطاء.
القيمة الحقيقية ستظهر عندما تتحول مبادئ الإطار إلى سياسات واضحة، وتدريب للموظفين، ومراجعة بشرية فعلية، وسجلات للمخاطر، وآليات للإبلاغ عن الحوادث وإيقاف الأنظمة عند الضرورة.
ولعل الخطوة التالية التي نحتاج إليها هي قياس مدى التزام الجهات بتطبيق هذه المنهجية عمليًا، لا الاكتفاء بإدراجها ضمن سياساتها ووثائقها.
فالثقة في الذكاء الاصطناعي لا تُبنى بما نعلنه من ضوابط، بل بما نختبره من نتائج.
أما إذا بقي الإطار في حدود النماذج والاجتماعات، فسنكون قد نظمنا الورق وتركنا الخطر يعمل على الشاشة.
يبقى الذكاء الاصطناعي أداة صنعها الإنسان لتساعده، لا لتأخذ مكان وعيه أو مسؤوليته.
قد يكتب، ويحلل، ويتنبأ، لكنه لا يدرك الضرر كما يدركه الإنسان، ولا يشعر بثقل النتيجة، ولا يقف أمام الخطأ ليعتذر.
ولهذا، فإن قيمة هذا الإطار لا تكمن فقط في تنظيم التقنية، بل في تذكيرنا بأن المسؤولية ستبقى بشرية، مهما أصبحت الآلة أكثر ذكاءً.
وربما نكتشف مع الوقت أن التحدي لم يكن يومًا في أن تتعلم الآلة كيف تفكر…
بل في ألا ننسى نحن كيف نفكر.
