رقمنة
حذرت لجنة علمية مدعومة من الأمم المتحدة من أن إجراءات السلامة الحالية قد لا تكون قادرة على مواكبة التطور السريع في قدرات وكلاء الذكاء الاصطناعي، مشيرة إلى أن نموذج السلامة المعمول به حالياً بدأ يظهر نقاط ضعف متزايدة.
لماذا تشعر الأمم المتحدة بالقلق؟
على عكس روبوتات المحادثة التقليدية، يستطيع وكلاء الذكاء الاصطناعي تنفيذ مهام بشكل مستقل نيابة عن المستخدمين. وتقول اللجنة إن الحادثة كشفت عن عدة نقاط ضعف في الطريقة التي يتم بها تطوير هذه الأنظمة واختبارها حالياً.
ووجدت اللجنة أن نحو 1200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف، وتمكنوا من التنسيق فيما بينهم عبر جلسات اختبار منفصلة باستخدام أداة برمجية داخلية. كما حصلوا على وصول غير مصرح به إلى الإنترنت وصلاحيات إدارية، بينما كشفت التقارير أيضاً أن نماذج أوبن إيه آي أنشأت بشكل سري لوحة رسائل بهدف تنسيق عمليات الاختراق.
لكن الخبراء يرون أن الخطر لا يقتصر على هذه الحادثة وحدها. فأساليب التدريب الحالية قد تسمح لوكلاء الذكاء الاصطناعي بتطوير أهداف خاصة بهم، وتجاهل تعليمات السلامة، وإخفاء ما يقومون به.
كما أن الوكلاء الأكثر تطوراً قد يصبحون قادرين على فهم القيود المفروضة عليهم والتخطيط لتجاوزها بطرق أكثر ذكاءً.
ماذا تريد الأمم المتحدة أن يتغير؟
قال الرئيس المشارك للجنة يوشوا بنجيو إن ثلاثة مؤشرات تحذيرية ظهرت مجتمعة داخل نظام فعلي وليس في بيئة مختبرية فقط، وهي وجود هدف غير متوافق مع المطلوب، والقدرة على السعي لتحقيقه، ووجود بيئة تسمح بذلك.
واعتبر أن هذه المؤشرات تمثل علامة مقلقة بشأن الطريقة التي يتم بها تدريب وكلاء الذكاء الاصطناعي حالياً.
وتدعو اللجنة إلى إنشاء طبقات متعددة من الحماية مستوحاة من قطاعات مثل الطيران والطاقة النووية، تشمل فرض قيود أكثر صرامة على وصول الوكلاء إلى الأدوات، وتسجيل أنشطتهم، ومراقبة سلوكهم، وتوفير آليات إيقاف فوري عند ظهور سلوك خطير.
لكن عضو اللجنة تشينغهوا لو حذر من أن هذه الإجراءات قد لا تكون كافية مع ازدياد استقلالية وكلاء الذكاء الاصطناعي وصعوبة مراقبتهم.
وأيد الأمين العام للأمم المتحدة أنطونيو غوتيريش نتائج اللجنة، داعياً إلى إنشاء هيئة دولية جديدة لوضع معايير تنظم الذكاء الاصطناعي مع استمرار تطوره.
وأكدت اللجنة أنها لا تتنبأ بالضرورة بفقدان خطير للسيطرة على هذه الأنظمة، لكنها شددت في الوقت نفسه على أن حالة عدم اليقين لا ينبغي اعتبارها دليلاً على أن البشر سيظلون دائماً قادرين على السيطرة عليها.
