رقمنة
تتجه السعودية إلى تعزيز حضورها في صياغة المعايير الدولية المرتبطة بحوكمة وأخلاقيات الذكاء الاصطناعي، بالتزامن مع التطور المتسارع في قدرات الأنظمة الذكية وارتفاع مستوى استقلاليتها، وما يرافق ذلك من حاجة إلى وضع أطر عملية تضمن الاستخدام المسؤول لهذه التقنيات.
ويأتي هذا التوجه في وقت تتزايد فيه أهمية تحويل المبادئ العامة المرتبطة بأخلاقيات الذكاء الاصطناعي إلى متطلبات واضحة يمكن تطبيقها واختبارها وقياس مدى الالتزام بها، مع تحديد المسؤوليات القانونية والتنظيمية المرتبطة بالأنظمة الذكية.
مسؤولية الأضرار تقع على المطور والمشغل
قال المهندس سعيد بن محمد الشهراني، المتحدث باسم الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا»، إن المسؤولية القانونية عن الأضرار الناتجة عن الأنظمة الذكية تبقى على عاتق المطور والجهة المشغلة للنظام، ولا تنتقل إلى النظام نفسه.
وأكد الشهراني أهمية وجود إشراف بشري على القرارات التي تنطوي على مستويات مرتفعة من المخاطر، إلى جانب تحديد سلاسل واضحة للمسؤولية عند استخدام أنظمة الذكاء الاصطناعي.
وأشار إلى ضرورة توفير آليات تسمح بإيقاف الأنظمة في حالات الطوارئ، ضمن منظومة رقابية تضمن قدرة الجهات المسؤولة على التدخل عند ظهور مخاطر أو نتائج غير متوقعة.
الرياض تستضيف منتدى أخلاقيات الذكاء الاصطناعي
جاءت تصريحات الشهراني بالتزامن مع استضافة الرياض النسخة الرابعة من «منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي»، خلال الفترة من 14 إلى 17 سبتمبر.
وتُعد هذه الاستضافة الأولى للمنتدى في دولة عربية، بمشاركة أكثر من 100 متحدث من المسؤولين والخبراء والأكاديميين وممثلي الجهات الدولية والحكومية والخاصة.
وتناول المنتدى قضايا مرتبطة بحوكمة الذكاء الاصطناعي وأخلاقياته، في وقت تعمل فيه الدول والمؤسسات الدولية على تطوير أطر تساعد على التعامل مع التطورات المتسارعة في تقنيات الذكاء الاصطناعي وتطبيقاتها.
التحدي ينتقل من المبادئ إلى التطبيق
يرى الشهراني أن التحدي الأساسي في المرحلة الحالية لم يعد مرتبطًا بوضع المبادئ الأخلاقية للذكاء الاصطناعي، وإنما بقدرة الجهات المعنية على تحويل هذه المبادئ إلى متطلبات عملية يمكن تطبيقها وقياسها.
وتشمل هذه المبادئ مفاهيم مثل العدالة والشفافية والمساءلة، التي تحتاج إلى ترجمتها إلى متطلبات هندسية واختبارات معيارية وضوابط تنظيمية واضحة.
ويعني ذلك تطوير أدوات تستطيع الجهات التنظيمية من خلالها تقييم أنظمة الذكاء الاصطناعي قبل إطلاقها، إلى جانب متابعة أدائها والمخاطر المرتبطة بها خلال فترة التشغيل.
متطلبات هندسية لضمان الاستخدام المسؤول
يتطلب تحويل أخلاقيات الذكاء الاصطناعي إلى ممارسات عملية إدخال الاعتبارات الأخلاقية ضمن مراحل تصميم الأنظمة وتطويرها وتشغيلها.
وتشمل هذه العملية وضع اختبارات معيارية تساعد على قياس أداء الأنظمة في مجالات مثل العدالة والشفافية، إلى جانب تحديد متطلبات واضحة للمساءلة والإشراف البشري.
كما تتطلب الأنظمة عالية الخطورة وجود ضوابط تمكن الجهات المسؤولة من التدخل وإيقاف النظام عند الحاجة، مع تحديد المسؤوليات المرتبطة بكل مرحلة من مراحل استخدام التقنية.
سدايا تتبنى التنظيم المرن
تتبنى «سدايا» نهجًا يقوم على ما وصفه الشهراني بـ«التنظيم المرن»، الذي يعتمد على التقييم المستمر للأنظمة والأدوات المستخدمة في تطوير وتطبيق تقنيات الذكاء الاصطناعي.
ويشمل هذا النهج توفير أدوات للتقييم الذاتي للشركات، بما يساعدها على مراجعة أنظمتها وقياس مدى توافقها مع المتطلبات والمعايير ذات الصلة.
كما يتضمن إنشاء بيئات تنظيمية تجريبية تتيح اختبار تطبيقات الذكاء الاصطناعي تحت إشراف الجهات المعنية قبل طرحها بصورة تجارية.
وتوفر هذه البيئات مساحة لاختبار التقنيات الجديدة في ظروف منظمة، مع إمكانية تحديد المخاطر ومراجعة الضوابط قبل وصول التطبيقات إلى نطاق استخدام أوسع.
أنظمة الذكاء الاصطناعي تتجاوز الحدود
مع ارتفاع مستوى استقلالية أنظمة الذكاء الاصطناعي وقدرتها على تنفيذ مهام عبر الحدود، تزداد الحاجة إلى آليات تعاون دولي تساعد على التعامل مع المخاطر التي قد لا تتوقف عند نطاق دولة واحدة.
وأوضح الشهراني أن الرقابة الدولية يمكن تعزيزها من خلال أربع آليات رئيسية ترتبط بتبادل المعلومات والتنسيق بين الجهات التنظيمية.
وتشمل هذه الآليات إنشاء شبكات للإنذار المبكر، وتبادل المعلومات المتعلقة بالحوادث التقنية، إلى جانب الاعتراف المتبادل بتقييمات المخاطر التي تصدرها جهات تنظيمية موثوقة.
كما تتضمن الآليات المقترحة وضع بروتوكولات لإنفاذ القانون عبر الحدود، بما يسمح بتعزيز التعاون عند التعامل مع المخاطر أو الحوادث المرتبطة بأنظمة الذكاء الاصطناعي.
تعاون دولي دون قانون موحد
لا تتوقع «سدايا» الوصول بالضرورة إلى قانون عالمي موحد يحكم جميع تفاصيل الذكاء الاصطناعي، في ظل اختلاف الأنظمة القانونية والأولويات الاقتصادية بين الدول.
ويرى الشهراني إمكانية الوصول إلى قاعدة مشتركة تركز على مبادئ السلامة والأخلاقيات والضمانات الأساسية، مع ترك مساحة لكل دولة لتطوير القواعد التي تتناسب مع نظامها القانوني وأولوياتها المحلية.
ويعكس هذا التوجه الحاجة إلى إيجاد أرضية مشتركة بين الدول، مع مراعاة الاختلافات التنظيمية والاقتصادية التي تجعل تطبيق إطار قانوني واحد على جميع الأسواق أمرًا معقدًا.
السعودية تستهدف دورًا في صياغة المعايير
تسعى السعودية في هذا السياق إلى الانتقال من تبني المعايير الدولية المتعلقة بالذكاء الاصطناعي إلى المشاركة في صياغتها وتطويرها.
ويأتي التعاون مع «UNESCO» ومؤسسات دولية أخرى ضمن هذا المسار، مع التركيز على تعزيز حضور السعودية في النقاشات الدولية المرتبطة بحوكمة الذكاء الاصطناعي وأخلاقياته.
ويعكس هذا التوجه رغبة في المشاركة في تطوير الأطر التي ستحدد كيفية التعامل مع الأنظمة الذكية، خصوصًا مع اتساع نطاق استخدامها في القطاعات الحكومية والاقتصادية والخدمية.
مركز دولي لأبحاث أخلاقيات الذكاء الاصطناعي
ضمن جهودها في هذا المجال، تعمل السعودية على إنشاء المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي «ICAIRE» في الرياض.
ويستهدف المركز دعم الانتقال من المبادئ العامة لأخلاقيات الذكاء الاصطناعي إلى تطبيقات عملية في مجالات البحث والتعليم والمعايير والابتكار والسياسات العامة.
ويأتي إنشاء المركز في إطار توجه أوسع نحو تطوير المعرفة والخبرات المرتبطة بالذكاء الاصطناعي، مع التركيز على الجانب الأخلاقي والتنظيمي بالتوازي مع التطور التقني.
تحويل الأخلاقيات إلى أدوات قابلة للقياس
يرتبط المسار الذي تتبناه السعودية بفكرة تحويل أخلاقيات الذكاء الاصطناعي من مجموعة مبادئ عامة إلى أدوات يمكن للجهات والشركات استخدامها في الواقع العملي.
ويشمل ذلك تطوير معايير واختبارات تساعد على تقييم الأنظمة، إلى جانب آليات للتقييم الذاتي والرقابة المستمرة، بما يسمح برصد المخاطر خلال مراحل تطوير وتشغيل الأنظمة.
كما يتطلب ذلك رفع قدرات الجهات التنظيمية حتى تتمكن من تقييم الأنظمة الذكية قبل إطلاقها ومتابعة أدائها بعد دخولها مرحلة التشغيل.
الإشراف البشري في الأنظمة عالية المخاطر
يمثل الإشراف البشري أحد العناصر الأساسية في النهج الذي طرحه المتحدث باسم «سدايا»، خصوصًا عند التعامل مع الأنظمة التي يمكن أن تؤثر قراراتها في مجالات عالية الخطورة.
ويشمل ذلك تحديد الأشخاص والجهات المسؤولة عن النظام، ووضع سلاسل واضحة للمساءلة، مع توفير آليات للتدخل والإيقاف عند ظهور ظروف تستدعي ذلك.
وتزداد أهمية هذه الضوابط مع تطور الأنظمة الذكية وقدرتها على تنفيذ عدد متزايد من المهام بصورة مستقلة، ما يفرض الحاجة إلى تحديد حدود واضحة للاستقلالية وآليات الرقابة المرتبطة بها.
الحوكمة تتطلب تعاونًا دوليًا
تفرض الطبيعة العابرة للحدود للأنظمة الذكية تحديات إضافية أمام الجهات التنظيمية، خصوصًا عندما تتداخل البنية التقنية ومقدمو الخدمات والمستخدمون في أكثر من دولة.
ومن هنا تأتي أهمية تبادل المعلومات حول الحوادث التقنية، والتعاون في تقييم المخاطر، وتطوير آليات مشتركة للتعامل مع الأنظمة التي تعمل عبر أكثر من نطاق قانوني.
وتوفر هذه الآليات أساسًا للتنسيق الدولي دون الحاجة إلى توحيد جميع القوانين واللوائح، مع التركيز على الحد الأدنى من متطلبات السلامة والضمانات الأساسية.
قياس النجاح يتجاوز حجم النقاش
أكد الشهراني أن نجاح الجهود الدولية في مجال حوكمة الذكاء الاصطناعي لن يقاس بعدد المشاركين في المؤتمرات أو حجم النقاشات التي تدور حول أخلاقيات التقنية.
وأوضح أن المعيار الأساسي يتمثل في القدرة على إنتاج أدوات ومبادرات تنفيذية قابلة للقياس، تساعد الجهات التنظيمية على تحويل المبادئ الأخلاقية إلى ممارسات يمكن تطبيقها على الأنظمة الذكية.
ويضع هذا الطرح التركيز على النتائج العملية، من خلال تطوير أدوات واختبارات وضوابط يمكن استخدامها فعليًا بدل الاكتفاء بوضع مبادئ عامة لا ترتبط بآليات واضحة للتنفيذ والقياس.
مرحلة جديدة لحوكمة الذكاء الاصطناعي
تأتي تحركات السعودية في مجال حوكمة وأخلاقيات الذكاء الاصطناعي بالتزامن مع تسارع التطور في قدرات الأنظمة الذكية وارتفاع مستوى استقلاليتها.
ويبرز ضمن هذا المسار التركيز على تطوير أطر تنظيمية مرنة، وتعزيز الإشراف البشري، وتحديد المسؤوليات القانونية، وتطوير أدوات قابلة للقياس لتقييم الأنظمة قبل تشغيلها وأثناء استخدامها.
كما يتضمن التوجه تعزيز التعاون الدولي والمشاركة في صياغة المعايير، إلى جانب دعم البحث والتعليم والابتكار في مجال أخلاقيات الذكاء الاصطناعي من خلال «ICAIRE».
وتشير هذه التحركات إلى انتقال التركيز من وضع المبادئ العامة إلى بناء أدوات عملية يمكن استخدامها من جانب الشركات والجهات التنظيمية لضمان تطبيق هذه المبادئ على أرض الواقع.
جولة
