ب 7 مبادئ أخلاقية.. «سدايا» تطلق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي ”سدايا“ الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، ليكون مرجعًا تستند إليه الجهات الحكومية والخاصة في المملكة لتحديد مخاطر أنظمة الذكاء الاصطناعي وتقييمها ومعالجتها، بما يعزز الاستخدام المسؤول للتقنيات الذكية، ويرسخ مبادئ الحوكمة والثقة، ويحد من الآثار المحتملة لهذه الأنظمة على الأفراد والجهات والمجتمع والبيئة.
وأكدت ”سدايا“ أن الإطار يزود الجهات بمنهجية عملية متكاملة لإدارة مخاطر الذكاء الاصطناعي عبر جميع مراحل دورة حياة الأنظمة، ابتداءً من التصميم والتطوير، مرورًا بالنشر والتشغيل، ووصولًا إلى المتابعة والمراجعة المستمرة، بما يضمن تحقيق أعلى مستويات الموثوقية والسلامة والامتثال التنظيمي.
وأوضح الإطار أن المخاطر المرتبطة بأنظمة الذكاء الاصطناعي لا تقتصر على احتمالية وقوع أخطاء تقنية، وإنما تشمل مزيجًا من احتمالية حدوث آثار غير مرغوب فيها وشدة تأثيرها في ظل حالة من عدم اليقين المرتبطة بطريقة عمل النماذج الذكية، وقراراتها، وتفاعلها مع البيانات والبيئات التشغيلية المختلفة.
وأشار إلى أن هذه المخاطر قد تؤدي إلى انحراف الأنظمة عن أهدافها المتوقعة أو التسبب في آثار سلبية تمس الأفراد أو المؤسسات أو المجتمع أو البيئة أو استمرارية الأعمال، مبينًا أن مصادرها قد ترتبط بجودة البيانات المستخدمة في تدريب وتشغيل النماذج، أو بطريقة تصميمها، أو آلية دمجها مع الأنظمة الأخرى، أو أسلوب استخدامها من قبل المستخدمين، إضافة إلى غياب الضوابط والإجراءات التنظيمية المناسبة لمراقبة الأداء وإدارة التشغيل.
وأضاف الإطار أن تأثيرات مخاطر الذكاء الاصطناعي قد تمتد إلى مستويات متعددة، إذ قد تؤثر في حقوق الأفراد وسلامتهم وفرصهم الاقتصادية، كما قد تتسبب في تعطيل أعمال الجهات أو تكبدها خسائر مالية أو الإضرار بسمعتها أو تعرضها لمخاطر تنظيمية، فضلًا عن إمكانية انعكاسها على المجتمع وسلاسل الإمداد والموارد الطبيعية والبيئة، خاصة مع التوسع المتسارع في الاعتماد على أنظمة الذكاء الاصطناعي في تقديم الخدمات واتخاذ القرارات.
وبيّنت ”سدايا“ أن الإطار يعتمد منهجية عملية متسلسلة لإدارة مخاطر الذكاء الاصطناعي تبدأ بمرحلة تحديد المخاطر من خلال التعرف المبكر على التهديدات المحتملة التي قد تواجه الجهة أو المشروع، تليها مرحلة تقييم المخاطر عبر دراسة طبيعة كل خطر، والعوامل المؤثرة فيه، وقياس احتمالية حدوثه وحجم تأثيره.
وتشمل المنهجية أيضًا مرحلة معالجة المخاطر، التي تتضمن اختيار الاستراتيجية المناسبة للتعامل مع كل خطر وتنفيذها ووضع خطط واضحة للاستجابة، ثم مرحلة المتابعة والمراجعة المستمرة لرصد أي مخاطر جديدة أو تغيرات قد تطرأ على النظام، والتأكد من فاعلية إجراءات المعالجة المطبقة.
وأكدت أن إدارة مخاطر الذكاء الاصطناعي ليست إجراءً يُنفذ مرة واحدة، وإنما عملية مستمرة تتطلب التحديث الدوري والمتابعة طوال دورة حياة النظام.
وتناول الإطار أبرز التحديات التي تواجه الجهات عند تقييم مخاطر الذكاء الاصطناعي، وفي مقدمتها الاعتماد على بيانات أو نماذج أو مكونات برمجية من أطراف ثالثة، وهو ما قد يؤثر في دقة تقييم المخاطر نتيجة اختلاف خصائص تلك المكونات أو محدودية الشفافية بشأنها.
وأشار كذلك إلى أن غياب مقاييس موحدة وموثوقة لقياس مخاطر الذكاء الاصطناعي يمثل أحد أبرز التحديات، إذ تختلف نتائج التقييم باختلاف السياقات، كما أن بعض المؤشرات قد لا تعكس الصورة الكاملة للمخاطر أو لا تراعي اختلاف الفئات المتأثرة، الأمر الذي يؤثر في دقة تقدير مستوى الخطر.
وأوضح الإطار أن طبيعة المخاطر تتغير أيضًا مع تطور النظام وانتقاله بين مراحل التطوير والنشر والتشغيل، فقد تظهر مخاطر جديدة مع التوسع في الاستخدام أو عند تطبيق النظام في بيئات تشغيلية مختلفة، وهو ما يجعل تقييم المخاطر عملية ديناميكية وليست ثابتة.
أشار إلى وجود فجوة بين نتائج الاختبارات التي تجرى في البيئات التجريبية والواقع التشغيلي، حيث قد لا تعكس الاختبارات جميع المتغيرات والظروف الفعلية، الأمر الذي يستدعي استمرار مراقبة الأنظمة بعد تشغيلها وإعادة تقييم مخاطرها بصورة دورية.
وأكد الإطار أن مخاطر أنظمة الذكاء الاصطناعي تختلف عن مخاطر الأنظمة البرمجية التقليدية من حيث الطبيعة والنطاق، إذ تمتد آثارها إلى أبعاد اجتماعية وتنظيمية وأخلاقية أوسع، وقد تظهر بصورة غير متوقعة أثناء التشغيل.
وأوضح أن بعض الخصائص التي تمنح أنظمة الذكاء الاصطناعي قدرات متقدمة، مثل التعلم من البيانات، والتعميم، واتخاذ القرارات بصورة مستقلة، قد تتحول في الوقت ذاته إلى مصادر لمخاطر إضافية تتعلق بعدم اليقين، والتحيز، وصعوبة إعادة إنتاج النتائج أو تفسيرها، وهو ما يتطلب تقييم المخاطر وفقًا لسياق الاستخدام الفعلي لكل نظام.
وأشار إلى أن اعتماد هذه الأنظمة على البيانات يجعل جودة البيانات وتمثيلها للواقع عاملًا حاسمًا في موثوقية النتائج، حيث إن البيانات غير المكتملة أو المتحيزة قد تؤثر في أداء الأنظمة وعدالتها، وتنعكس سلبًا على الأفراد والمؤسسات.
وركز الإطار على ترسيخ منظومة متكاملة من المبادئ والقيم الإسلامية والإنسانية التي ينبغي أن تحكم تطوير وتشغيل واستخدام أنظمة الذكاء الاصطناعي، بما يضمن توافقها مع قيم العدالة وحفظ الحقوق وصون الكرامة الإنسانية وعدم الإضرار بالآخرين.
واعتمد الإطار 7 مبادئ أساسية لأخلاقيات الذكاء الاصطناعي، تشمل النزاهة والإنصاف من خلال الحد من التحيز والتمييز في البيانات والخوارزميات وضمان عدالة الأنظمة لجميع الفئات دون تمييز.
وأكد مبدأ الخصوصية والأمن عبر تطوير الأنظمة بما يتوافق مع متطلبات حماية البيانات والأمن السيبراني، ومنع الوصول غير المشروع إلى البيانات، وضمان مراقبة الأنظمة طوال دورة حياتها.
وتناول مبدأ الإنسانية الذي يدعو إلى تطوير أنظمة تعزز دور الإنسان في اتخاذ القرار ولا تحل محله بصورة تنتقص من حريته أو حقوقه، مع الالتزام بالقيم الثقافية والإنسانية.
وشدد الإطار على أهمية المنافع الاجتماعية والبيئية، من خلال توظيف الذكاء الاصطناعي لخدمة المجتمع وتحقيق التنمية المستدامة، مع تجنب أي آثار سلبية على الإنسان أو البيئة.
وركز على مبدأ الموثوقية والسلامة، بما يضمن عمل الأنظمة وفق الغرض الذي صممت من أجله، مع دمج آليات فعالة لإدارة المخاطر وتقليل الأعطال والسلوكيات غير المتوقعة إلى أدنى مستوى ممكن.
وأكد أيضًا مبدأ الشفافية وقابلية التفسير، الذي يهدف إلى تعزيز الثقة في أنظمة الذكاء الاصطناعي عبر توضيح كيفية عملها، وإمكانية تفسير قراراتها، وتمكين تتبع آليات اتخاذ القرار المؤتمت، خصوصًا في التطبيقات ذات الأثر المباشر على الأفراد.
أما المبدأ السابع فهو المساءلة والمسؤولية، الذي يحمل المصممين والمطورين والمشغلين ومقيمي الأنظمة مسؤولية الآثار الناتجة عن قرارات أنظمة الذكاء الاصطناعي، مع التأكيد على أهمية الحوكمة والإشراف البشري، ووضوح المسؤوليات، واتخاذ التدابير الوقائية اللازمة لتقييم المخاطر والتخفيف منها، بما يضمن حماية حقوق الأفراد، وتعزيز العدالة، واستدامة استخدام تقنيات الذكاء الاصطناعي.
وأوضح الإطار أن التنظيمات الوطنية تشكل المرجعية النظامية لتطوير وتشغيل أنظمة الذكاء الاصطناعي، من خلال مجموعة من السياسات والتشريعات والأطر التنظيمية التي تحدد الالتزامات والمسؤوليات على جميع الجهات ذات العلاقة، بما يضمن توافق الأنظمة مع المتطلبات الوطنية، والحد من المخاطر القانونية والتنظيمية، مع المحافظة على بيئة داعمة للابتكار في إطار من الحوكمة والامتثال.
وأشار إلى أن هذه التنظيمات تعزز الاتساق في تطبيق الضوابط، وتدعم الامتثال المستمر طوال دورة حياة النظام، بما يحقق وضوح المتطلبات وقابلية المراجعة والمساءلة، ويرفع مستوى الثقة في تطبيقات الذكاء الاصطناعي.
وأكدت سدايا أن البيانات تمثل الركيزة الأساسية في إدارة مخاطر الذكاء الاصطناعي، نظراً لاعتماد هذه الأنظمة عليها في جميع مراحل التطوير والتشغيل، موضحة أن تنظيمات البيانات تتضمن ضوابط تحكم جمع البيانات ومعالجتها وتخزينها واستخدامها، مع التركيز على حماية الخصوصية، خصوصاً البيانات الشخصية والحساسة.
وتشمل المتطلبات إلزام الجهات بتحديد أغراض استخدام البيانات، وضبط صلاحيات الوصول إليها، وضمان جودتها وسلامتها، إلى جانب تتبع مصادرها، والتحكم في مدة الاحتفاظ بها، ومعالجة مخاطر التحيز والأمن وجودة المخرجات، بما يسهم في رفع موثوقية أنظمة الذكاء الاصطناعي واستدامة استخدامها.
وبيّن الإطار أن متطلبات إدارة المخاطر تختلف باختلاف القطاعات، مثل القطاع الصحي والمالي والتعليمي، نظراً لاختلاف حساسية البيانات وطبيعة القرارات ومستوى التأثير المحتمل.
وأكد أن لكل قطاع ضوابط وإرشادات تنظيمية متخصصة تضمن توافق أنظمة الذكاء الاصطناعي مع المعايير التشغيلية والأمنية ومتطلبات السلامة والامتثال، بما يدعم إدارة المخاطر بصورة تتناسب مع طبيعة كل قطاع، ويعزز موثوقية الأنظمة وإمكان استخدامها بشكل آمن ومسؤول.
واعتمد الإطار الوطني منهجية شاملة لحصر وتصنيف المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي، تبدأ بإعداد قائمة متكاملة للمخاطر، ثم تصنيفها وفق إطار موحد يضمن عدم إغفال أي نوع من المخاطر طوال دورة حياة النظام.
وأوضح أن هذه المنهجية تراعي الطبيعة المعقدة والمتداخلة لمخاطر الذكاء الاصطناعي، والتي قد تنشأ من أكثر من سبب، وتمتد آثارها إلى عدة أطراف، وقد تظهر قبل إطلاق النظام أو بعد تشغيله، وهو ما يجعل إدارتها أكثر تعقيداً مقارنة بالأنظمة البرمجية التقليدية.
وأوضح الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي أن المخاطر المحتملة لأنظمة الذكاء الاصطناعي تندرج ضمن سبع فئات رئيسية، تبدأ بمخاطر التحيز والتمييز والإساءة الناتجة عن البيانات أو الخوارزميات، وما قد تسببه من قرارات غير عادلة أو محتوى ضار، مرورًا بمخاطر الخصوصية والأمن المرتبطة بتسريب البيانات والثغرات الأمنية والوصول غير المصرح به إلى الأنظمة.
وتشمل المخاطر إنتاج أو نشر معلومات مضللة تؤثر في قرارات الأفراد والثقة بالمعلومات، إضافة إلى إساءة استخدام الذكاء الاصطناعي في الاحتيال، وانتحال الهوية، والتضليل، والهجمات السيبرانية.
ويتناول الإطار كذلك مخاطر الاعتماد المفرط على الأنظمة الذكية بما قد يضعف دور الإنسان في اتخاذ القرار، إلى جانب الآثار الاجتماعية والاقتصادية والبيئية، مثل اتساع فجوات عدم المساواة، وفقدان الوظائف نتيجة الأتمتة، والتحديات البيئية.
وحذر من مخاطر السلامة والمحدودية، التي تشمل ضعف موثوقية الأنظمة أو قابليتها للتفسير، واحتمالات تعطلها أو ظهور ثغرات جديدة نتيجة تفاعلها مع أنظمة أخرى. إدارة استباقية للمخاطر
