ضمن جهودها في ترسيخ الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي، أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، ليكون مرجعًا إرشاديًا يقدّم منهجية وطنية موحدة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها، بما يمكّن الجهات الحكومية والخاصة من تبني هذه التقنية بصورة آمنة ومسؤولة تتسق مع الأولويات والتوجهات الوطنية.
ويأتي إطلاق الإطار في ظل التوسع المتسارع في تبني تقنيات الذكاء الاصطناعي في تطوير الأعمال والخدمات على المستوى العالمي والمحلي، لما قد يترتب على أنظمتها من مخاطر تختلف في طبيعتها عن مخاطر الأنظمة التقنية التقليدية، وما لها من آثار محتملة على الأفراد والجهات والاقتصاد الوطني.
وأوضحت سدايا أن مخاطر الذكاء الاصطناعي تتميز بطبيعة مختلفة عن مخاطر البرمجيات التقليدية، إذ قد تظهر بطرق غير متوقعة أثناء التشغيل، وقد يتغير أداء الأنظمة بمرور الوقت، إضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج نتائجها، مما يجعل حصر المخاطر وتقييمها أكثر تعقيدًا ويستوجب تبني منهجية متكاملة لإدارتها.
وبيّنت أن منهجية إدارة المخاطر تقوم على دورة حياة متكاملة تشمل أربع مراحل مترابطة، تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتقييمها ومعالجتها، وصولًا إلى المتابعة والمراجعة المستمرة، مع احتساب مستوى الخطر عبر مصفوفة تربط بين احتمالية وقوعه وحجم أثره، بما يوحّد آلية التقييم بين الجهات ويدعم المقارنة وتحديد أولويات المعالجة.
وأشارت الهيئة إلى أن الإطار يرتكز على سبعة مبادئ أساسية، تشمل النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية، ويصنّف مخاطر الذكاء الاصطناعي في سبعة أنواع رئيسية تضمن شمولية التحديد وعدم إغفال أي فئة جوهرية من المخاطر.
وتضمّن الإطار سيناريو تطبيقيًا يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، يستعرض تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، بما يوفّر للجهات نموذجًا عمليًا قابلًا للتطبيق على اختلاف قطاعاتها ومراحل نضجها الرقمي.
ويأتي هذا الإطار من سدايا انطلاقًا من دورها بوصفها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة، إسهامًا منها في تعزيز منظومة الابتكار الرقمي، بما يواكب مستهدفات رؤية المملكة 2030.