رقمنة
كشفت دراسة جديدة أجرتها شركة IBM (المدرجة في بورصة نيويورك تحت الرمز: IBM) أن الحوادث المرتبطة بالذكاء الاصطناعي باتت تصل بالفعل إلى مجالس إدارة المؤسسات في دولة الإمارات، في وقت تواجه فيه قدرات الحوكمة وإدارة المخاطر ضغوطًا متزايدة مع تسارع تبني هذه التقنيات.
وأفاد 75% من التنفيذيين في الإمارات المشاركين في استطلاع الرأي بأن بعض الحوادث المرتبطة باستخدام الذكاء الاصطناعي استدعت اهتمام مجلس الإدارة أو الإدارة التنفيذية العليا خلال الاثني عشر شهراً الماضية. وتشمل هذه الحالات تحديات تشغيلية أو تقنية مرتبطة باستخدام الذكاء الاصطناعي، مثل تعطل أحد الوكلاء، أو انكشاف البيانات، أو أخطاء في اتخاذ القرارات المدعومة بالذكاء الاصطناعي، أو حوادث أمنية ذات صلة. ومن بين المشاركين الذين أفادوا بوقوع حوادث تصعّدت إلى مستويات القيادة العليا، أشار 49% إلى تعديل سياسات حوكمة الذكاء الاصطناعي أو أطرها، فيما غيّر 40% خطط الاستثمار في الذكاء الاصطناعي أو نشر تطبيقاته.
وعندما تتجاوز وتيرة نشر الذكاء الاصطناعي مستوى جاهزية أطر الحوكمة والامتثال، أفاد 60% من المشاركين في الإمارات بمواصلة النشر ضمن حدود المخاطر المتفق عليها، بالتزامن مع تكيّف أطر الحوكمة. وفي المقابل، يؤجل 30% النشر إلى حين جاهزية هذه الأطر.
وتشير الدراسة إلى أن التطور المتسارع في قدرات وكلاء الذكاء الاصطناعي وتوليهم مهام أكثر استقلالية يفتح آفاقًا جديدة لتعزيز الإنتاجية والابتكار، مع زيادة الحاجة إلى أطر حوكمة قادرة على مواكبة هذا التحول. وأفاد 38% من المشاركين في الإمارات بأن الذكاء الاصطناعي الوكيل دخل بالفعل مرحلة الإنتاج في وظيفة واحدة أو أكثر، من بينهم 13% قاموا بدمجه في العمليات المؤسسية على نطاق واسع. كما يتوقع 78% أن يتمتع وكلاء الذكاء الاصطناعي بمستوى من الاستقلالية في اتخاذ القرارات بحلول عام 2027. وفي حين أكد 41% أن أطر الحوكمة لديهم مصممة للتوسع بالتوازي مع نشر الذكاء الاصطناعي الوكيل، أشار 35% إلى أن الأطر الحالية قادرة على مواكبة هذا التوسع، لكنها ستحتاج إلى مزيد من التعزيز.
وفي تعليقه على الدراسة، قال، نائب الرئيس والمدير العام لشركة IBM في منطقة الخليج وبلاد الشام وباكستان شكري عيد .. مع تنامي تطور وكلاء الذكاء الاصطناعي والاعتماد عليهم في القرارات والإجراءات، ينبغي أن تصبح الحوكمة جزءاً لا يتجزأ من آلية عمل الذكاء الاصطناعي، لا مجرد خطوة لاحقة. وبالنسبة إلى المؤسسات في دولة الإمارات، يعني ذلك إرساء مساءلة واضحة، وتعزيز الرقابة، وتطوير ضوابط قادرة على التوسع بالتوازي مع تبني هذه التقنيات. وسيكون ترسيخ الثقة في الذكاء الاصطناعي منذ البداية عاملاً أساسياً لتحويل الابتكار إلى قيمة أعمال مستدامة على المدى الطويل، مع إدراك المخاطر المرتبطة به”.
تطور متطلبات المساءلة والمسؤولية القانونية في عصر الذكاء الاصطناعي
على الرغم من خضوع مخاطر الذكاء الاصطناعي رسمياً للحوكمة على مستوى مجالس الإدارة في جميع المؤسسات الإماراتية التي شملها الاستطلاع تقريباً، لم تكشف الدراسة عن توافق واضح بشأن الجهة المسؤولة عن النتائج السلبية الناجمة عن وكلاء الذكاء الاصطناعي المستقلين. وجاء رئيس إدارة المخاطر أو رئيس إدارة الامتثال في مقدمة الجهات التي حددها المشاركون بوصفها الجهة المسؤولة، بنسبة 21%، تلتها المسؤولية المشتركة بين أعضاء محددين بالاسم من الإدارة التنفيذية العليا بنسبة 17%، ثم رئيس قسم المعلومات أو رئيس قسم التكنولوجيا بنسبة 15%.
كما تباينت آراء المشاركين بشأن المسؤولية القانونية عندما يتسبب نظام ذكاء اصطناعي في أضرار جسيمة. إذ يرى 26% أن المسؤولية القانونية عن الذكاء الاصطناعي مسألة معقدة للغاية وترتبط بسياق كل حالة، بما يجعل من الصعب تقديم إجابة عامة بشأنها. وأشار 19% إلى عدم وجود إطار تنظيمي كافٍ حتى الآن، فيما يرى 16% أن المسؤولية ينبغي أن تتوزع بصورة تناسبية بين المؤسسة التي تنشر الوكيل والمورّد التقني.
ولإدارة وكلاء الذكاء الاصطناعي الذين من المرجح أن يتخذوا قرارات بصورة متزايدة الاستقلالية في كل مرحلة بحلول عام 2027، يتوقع التنفيذيون في الإمارات الحاجة إلى أطر قانونية أو تعاقدية رسمية تحدد مسؤولية مورّدي الذكاء الاصطناعي (37%)، وهياكل حوكمة عابرة للولايات القضائية (36%)، إلى جانب القدرة على إيقاف أنشطة الوكلاء فورًا على مستوى المؤسسة بالكامل (36%).
أبرز النتائج الأخرى للدراسة
- تفاوت في قياس المخاطر المالية: أجرى 39% من المشاركين تقييماً رسمياً للمخاطر المالية الناجمة عن الثغرات في حوكمة الذكاء الاصطناعي، خضع لمراجعة مجلس الإدارة، فيما وضع 38% تقديرات مالية أولية لم تخضع لمراجعة منتظمة أو لم تشمل جميع المخاطر.
- مخاطر الذكاء الاصطناعي لدى الأطراف الثالثة: يقر نحو نصف المشاركين في الإمارات (49%) بوجود ثغرات أو قيود في مدى تغطية أطر الحوكمة لديهم لأنظمة الذكاء الاصطناعي التي يستخدمها المورّدون والشركاء التقنيون والجهات المشاركة في سلاسل التوريد. ولا يراقب مخاطر الذكاء الاصطناعي لدى الأطراف الثالثة بصورة مستمرة سوى 29%، فيما يشترط 16% الحصول على تأكيد مستقل أو شهادة اعتماد.
- الاستراتيجية الوطنية للذكاء الاصطناعي تواصل تحفيز الاستثمارات في الحوكمة والابتكار المسؤول: أشار 59% إلى متطلبات الاستراتيجية الوطنية للذكاء الاصطناعي باعتبارها أحد المحركات الرئيسية للاستثمار في حوكمة الذكاء الاصطناعي في دولة الإمارات، تلتها متطلبات الامتثال التنظيمي الدولي بنسبة 42%، ثم المتطلبات التنظيمية الخاصة بالقطاعات بنسبة 38%.
