الخبير في مجال التقنية وصفي الصفدي يكتب لـ ” رقمنة” : لماذا تتصاعد التحذيرات من الذكاء الاصطناعي الآن؟

رقمنة 

*وصفي الصفدي

ما نشهده حالياً من تحذيرات متزايدة من مخاطر الذكاء الاصطناعي ليس مجرد موجة إعلامية، وإنما يعكس تحولاً حقيقياً في طبيعة التقنية نفسها. الذكاء الاصطناعي لم يعد مجرد نموذج يجيب عن سؤال أو ينشئ نصاً أو صورة، وإنما أصبح قادراً بصورة متزايدة على التخطيط، واستخدام الأدوات والبرمجيات، وتنفيذ سلسلة من المهام بدرجة أكبر من الاستقلالية.

وهنا تحديداً يبدأ القلق.

تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 يقدم صورة متوازنة ومهمة جداً: فهو يؤكد أن قدرات أنظمة الذكاء الاصطناعي المتقدمة تتطور بسرعة، وأن الوكلاء الذكيين أصبحوا قادرين على تنفيذ مهام أطول وأكثر تعقيداً بصورة مستقلة، لكنه في الوقت نفسه لا يقول إننا وصلنا إلى مرحلة خرج فيها الذكاء الاصطناعي عن السيطرة.

بل إن التقرير يوضح أن الأنظمة الحالية لا تمتلك بعد القدرات اللازمة لسيناريوهات فقدان السيطرة الكامل، وأن هناك فجوة كبيرة بين القدرات الحالية وبين السيناريوهات القصوى التي يخشى منها بعض الباحثين. كما يؤكد أن توقيت واحتمال هذه السيناريوهات ما زالا موضع قدر كبير من عدم اليقين العلمي.

وهذه نقطة مهمة جداً لأن النقاش العام أصبح أحياناً ينتقل مباشرة من “الذكاء الاصطناعي يتطور بسرعة” إلى “نحن على وشك فقدان السيطرة عليه”، بينما الأدلة العلمية لا تسمح بهذا الانتقال بهذه البساطة.

لكن التقرير الدولي في الوقت نفسه لا يدعو إلى الاطمئنان.

فهو يحذر من أن بعض القدرات ذات الصلة بالمخاطر تتطور بسرعة، وأن الأنظمة أصبحت أفضل في التخطيط والعمل المستقل وفي اكتشاف نقاط الضعف في بعض آليات التقييم والرقابة. المشكلة إذن ليست أن الكارثة وقعت، وإنما أن نافذة الوقت المتاحة لبناء إجراءات السلامة قد تصبح أضيق كلما تسارعت القدرات.

وهذا هو السبب الحقيقي وراء دعوات بعض قادة شركات الذكاء الاصطناعي إلى إبطاء تطوير النماذج الأكثر تقدماً.

فداريو أمودي، الرئيس التنفيذي لشركة Anthropic، دعا إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، ليس بمعنى وقف الذكاء الاصطناعي، وإنما إعطاء إجراءات السلامة والحوكمة وقتاً للحاق بسرعة تطور القدرات. وهذه الدعوة تأتي في سياق نقاش أوسع داخل قطاع التقنية حول ما إذا كانت إجراءات السلامة الحالية كافية أمام التطور السريع للنماذج.

هل يعني ذلك أننا وصلنا إلى AGI؟

الإجابة الدقيقة هي: لا يمكن القول إن الذكاء الاصطناعي العام تحقق بالفعل.

لدينا نماذج شديدة القوة في البرمجة والرياضيات والتحليل والبحث واللغة، لكن التقرير الدولي يلفت إلى أن الأنظمة الحالية لا تزال تعاني من تفاوت كبير في قدراتها؛ فقد تتفوق على الإنسان في اختبار أو مهمة معقدة، ثم تفشل في مهمة أخرى أبسط نسبياً. كما أن الاستقلالية طويلة المدى والقدرة على العمل بصورة موثوقة في بيئات واقعية ما زالت محدودة.

لذلك فإن الحديث عن أننا “وصلنا بالفعل إلى AGI” هو استنتاج أكبر من الأدلة المتاحة.

لكن هناك نقطة أكثر أهمية: لسنا بحاجة إلى الوصول إلى AGI حتى تظهر مخاطر كبيرة.

فإذا أصبح نظام الذكاء الاصطناعي قادراً على تنفيذ هجمات إلكترونية معقدة، أو المساعدة في تطوير تقنيات خطرة، أو إدارة عمليات رقمية واسعة بصورة مستقلة، فإن هذه مخاطر حقيقية حتى لو لم نسمِّ النظام AGI.

ولهذا فإن التركيز على اسم المرحلة — هل هي AGI أم ليست AGI — قد يصرف الانتباه عن السؤال الأهم:

ما مستوى القدرة والاستقلالية الذي وصل إليه النظام، وما مقدار الصلاحيات التي نمنحه إياها؟

أما الخطر الأكثر إثارة للجدل فهو فقدان السيطرة.

هنا أيضاً يجب أن نكون دقيقين.

الخطر ليس بالضرورة أن “يصبح الذكاء الاصطناعي شريراً”، وإنما أن نطور نظاماً شديد القدرة، نعطيه هدفاً أو مجموعة أهداف، ثم نكتشف أن سلوكه لتحقيق هذه الأهداف لا يتطابق تماماً مع نوايا البشر، خصوصاً إذا كان قادراً على التخطيط واستخدام الأدوات وتجاوز بعض القيود.

التقرير الدولي يتعامل مع هذه المخاطر باعتبارها احتمالات يجب الاستعداد لها، وليس أحداثاً مؤكدة أو وشيكة. وهذه ربما أهم رسالة فيه: لا يوجد مبرر للتهويل، ولكن لا يوجد أيضاً مبرر لانتظار الدليل النهائي على الخطر قبل بناء إجراءات الحماية.

إذن، هل المطلوب إيقاف الذكاء الاصطناعي؟

لا.

المطلوب هو التمييز بين الذكاء الاصطناعي المستخدم في التطبيقات اليومية وبين النماذج الحدودية Frontier AI التي تصل إلى مستويات عالية جداً من القدرة والاستقلالية.

كلما ارتفعت القدرة، يجب أن ترتفع معها متطلبات الاختبار والرقابة.

وهنا يمكن أن تكون لدينا قاعدة بسيطة:

لا ينبغي أن تكون سرعة تطوير القدرات أكبر من سرعة تطوير القدرة على اختبارها وتأمينها.

ومن أهم الإجراءات المطلوبة:

أولاً، إجراء اختبارات مستقلة للنماذج المتقدمة قبل إطلاقها، خصوصاً في مجالات الأمن السيبراني والبيولوجيا والاستقلالية والتلاعب.

ثانياً، وضع عتبات واضحة للقدرات الخطرة، بحيث يؤدي تجاوز النظام مستوى معيناً من القدرة إلى متطلبات سلامة ورقابة أعلى.

ثالثاً، إلزام الشركات بالإبلاغ عن الحوادث الخطيرة والسلوكيات غير المتوقعة، حتى تستفيد بقية الشركات والدول من هذه التجارب.

رابعاً، عدم منح نظام واحد صلاحيات غير محدودة تجمع بين القدرة العالية والوصول إلى الإنترنت والأنظمة الحساسة والموارد المالية والتنفيذ المستقل.

خامساً، الحفاظ على الإنسان داخل دائرة القرار في المجالات الحساسة، خصوصاً الأمن والبنية التحتية والأسلحة والأنظمة المالية.

وسادساً، تطوير آليات دولية للتنسيق؛ لأن المشكلة لا يمكن حلها إذا قامت شركة أو دولة واحدة بإبطاء نفسها بينما يواصل الآخرون السباق بلا قيود.

وهنا أعتقد أن الرسالة الأهم من التقرير الدولي هي رسالة توازن.

التقرير لا يقول إن الذكاء الاصطناعي سيؤدي حتماً إلى كارثة، ولا يقول إننا أمام “نهاية العالم”، وفي الوقت نفسه لا يقول إن المخاطر مجرد خيال.

هو يقول عملياً إن لدينا قدرات تتقدم بسرعة، ومخاطر بعضها بدأ يظهر بالفعل، بينما لا تزال لدينا فجوات في فهم هذه الأنظمة وفي القدرة على اختبارها والسيطرة عليها.

وبالتالي فإن السياسة العقلانية ليست “إيقاف الذكاء الاصطناعي”، كما أنها ليست “دعوا الشركات تطور بلا قيود”.

المطلوب هو إدارة سرعة التطوير بحسب مستوى المخاطر.

نسرّع الاستخدامات ذات المخاطر المحدودة، ونشدد الاختبارات والرقابة كلما اقتربنا من أنظمة قادرة على العمل باستقلالية والوصول إلى أنظمة حساسة أو تنفيذ أفعال ذات عواقب واسعة.

وفي النهاية، السؤال الذي يجب أن نطرحه في 2026 ليس فقط:

هل وصلنا إلى الذكاء الاصطناعي العام؟

بل السؤال الأكثر أهمية:

هل تتقدم قدرات الذكاء الاصطناعي بسرعة أكبر من قدرتنا على فهمها واختبارها وتأمينها؟

إذا بدأ الفارق بين الاثنين يتسع، فهذه هي اللحظة التي ينبغي فيها أن نرفع مستوى الحوكمة والسلامة، وليس بعد وقوع حادث كبير.

*خبير في مجال التقنية والاتصالات