وترصد تقارير وتحليلات غربية تصاعد المخاوف من تنامي استقلالية الذكاء الاصطناعي، وما يرافق ذلك من مخاطر أمنية ووجودية يصعب توقعها أو احتواؤها، بالتوازي مع اتساع تأثيره في تصورات البشر للواقع وإضعاف القدرة على التمييز بين الحقيقي والمصطنع.
وبين سباق القوى الكبرى، واحتمالات فقدان السيطرة على الأنظمة المتقدمة، وتآكل القدرة على الاتفاق على حقيقة مشتركة، تبرز 3 أسئلة: هل يتحول الذكاء الاصطناعي إلى قوة عالمية جديدة؟ وما الذي قد يحدث إذا تجاوزت قدراته وسائل السيطرة عليه؟ وهل يصبح فقدان ثقة البشر بما يرونه ويسمعونه أولى الخسائر؟
قوة ثالثة
يرى الكاتب بول تودور جونز، في مقال نشرته صحيفة وول ستريت جورنال، أن لقاء الرئيسين الأمريكي دونالد ترمب والصيني شي جين بينغ هذا الشهر سيضعهما في مواجهة قوة تنامت بصورة لافتة منذ اجتماعهما الأخير: الذكاء الاصطناعي.
ففي الأشهر الماضية، أظهرت نماذج الذكاء الاصطناعي المتقدمة قدرة على اكتشاف ثغرات أمنية كانت خفية ومهاجمتها بتوجيه بشري محدود، فيما لا تزال التطورات الأكثر تأثيرا في هذه التكنولوجيا قيد التبلور، وفي مقدمتها قدرتها على تحسين نفسها ذاتيا.
ويستشهد المقال باستقالة الباحث في شركة “أنثروبيك“ جاكوب كوكسون، بعدما حذر من أن السباق لتطوير أنظمة قادرة على تحسين نفسها ذاتيا يخرج عن السيطرة، فيما قدّر إيفان هوبينغر -باحث السلامة في الشركة- احتمال أن “يقتل الذكاء الاصطناعي جميع البشر خلال العقد المقبل” بأكثر من 10%.
ويصف المقال هذه العملية بأنها “آلات تبني آلات” موضحا أن تطوير نماذج الذكاء الاصطناعي لا يبدأ بنتيجة نهائية محددة، إذ لا يمثل النموذج سوى هيكل أولي يصل، بعد استيعاب كميات هائلة من بيانات التدريب وإجراء تريليونات العمليات، إلى نتيجة لا يمكن معرفتها مسبقا.
وفي خضم السباق للهيمنة على الذكاء الاصطناعي المتقدم، يشير جونز إلى أن الولايات المتحدة تتقدم على الصين بما بين 6 و12 شهرا وتسعى إلى الحفاظ على هذه الأفضلية.
لكنه يحذر من أن تسارع تطور الذكاء الاصطناعي قد يتجاوز، ما لم يتغير المسار الحالي، قدرة البشر على قياسه أو السيطرة عليه، فضلا عن فهمه، داعيا إلى تحرك منسق بين الولايات المتحدة والصين لضبط تطوره وانتشاره ضمن إطار آمن وقابل للاحتواء والفهم.
الخروج عن السيطرة
ويلخص تقرير منفصل لصحيفة وول ستريت جورنال أبرز سيناريوهات الخطر في مسارين رئيسيين:
- الأول: فقدان السيطرة
قد تبدأ أنظمة شديدة الذكاء، قادرة على نسخ نفسها وتحسين قدراتها، في السعي وراء أهداف خاصة بها تتجاهل مصالح البشر أو تتعارض معها، فيما يعرف بمشكلة “عدم المواءمة” وهو ما قد يقود في السيناريوهات القصوى إلى تدمير البشرية.
وأظهرت تجارب مخبرية أن بعض النماذج يمكن أن تتعلم سلوكيات تسعى إلى اكتساب مزيد من القوة، أو اتخاذ خطوات تحول دون إيقافها، مثل محاولة نسخ نفسها إلى خادم آخر.
وفي السيناريوهات القصوى، قد ترى الأنظمة غير المتوائمة أن قتل البشر مجرد خطوة ضرورية لتحقيق أهدافها.
- الثاني: سوء الاستخدام البشري
قد يستخدم أشخاص ذوو نوايا خبيثة قدرات الذكاء الاصطناعي لتطوير فيروسات جديدة، بينما تشمل السيناريوهات الأقل من الإبادة هجمات إلكترونية واسعة تعطل شبكات الكهرباء أو الأنظمة المالية وتؤدي إلى اضطراب في النظام الاجتماعي.
ولا تقتصر المخاوف على الفناء البشري، إذ يحذر بعض الباحثين من سيناريو يتنازل فيه البشر تدريجيا عن السيطرة للآلات، حتى يصبحوا عاجزين عن تحديد مصيرهم أو حتى فهمه.
أما صحيفة “إندبندنت” فترصد مؤشرات عملية على اتساع قدرة أنظمة الذكاء الاصطناعي على العمل بصورة مستقلة، وما يرافق ذلك من صعوبة متزايدة في ضبط سلوكها.
ففي اختبار للأمن السيبراني أجراه معهد أمن الذكاء الاصطناعي البريطاني، بحث أحد الأنظمة المتقدمة عن أشخاص حقيقيين يعملون في مشروع برمجي مفتوح المصدر، ثم أنشأ هويات مزيفة في محاولة لإقناع أحدهم بالموافقة على شفرة برمجية خبيثة. وبعد ذلك، حاول إخفاء ما فعله وفكر في إنشاء هوية جديدة لمواصلة المهمة.
وتنقل الصحيفة عن المعهد أن النماذج الرائدة باتت قادرة على تنفيذ مهام تستغرق وقتًا أطول من دون تدخل بشري، وإن المدة التي تستطيع خلالها العمل باستقلالية تتضاعف تقريبًا كل 8 أشهر.
لكن جوانا برايسون، أستاذة الأخلاقيات والتكنولوجيا في كلية هيرتي في برلين، تلفت إلى أن كثيرا من المخاطر المرتبطة بالذكاء الاصطناعي تعود أيضا إلى مشكلات تتعلق بالحوكمة وتركيز القوة وإعادة التوزيع، معتبرة أن الحل يكمن في تحميل الشركات مسؤولية إنتاج أنظمة قابلة للضبط والصيانة والاستخدام الآمن.
ويكمن التحدي -بحسب الصحيفة- في التوصل إلى توافق دولي على تطبيق هذه الإجراءات بصورة متزامنة، في وقت دعا فيه كبير علماء شركة “أوبن إيه آي“ جاكوب باتشوكي إلى جعل التنسيق الدولي بشأن التطوير المستقبلي للذكاء الاصطناعي أولوية للحكومات حول العالم.
هل نفقد السيطرة على الحقيقة؟
يرصد موقع “أكسيوس” وجها آخر لمخاطر الذكاء الاصطناعي، يتعلق بقدرته على إضعاف ثقة الناس بما يرونه ويسمعونه، في وقت تتزايد فيه الإعلانات السياسية المولدة بهذه التكنولوجيا.
ويشير الموقع إلى أن ثقة الأمريكيين بالسياسيين والمؤسسات داخل البلاد تراجعت خلال السنوات الأخيرة، محذرا من أن الإعلانات الانتخابية المولدة بالذكاء الاصطناعي قد تزيد هذا التآكل عمقا.
بدوره، يقول نيت بيرسيلي المدير المشارك لمبادرة ستانفورد لقانون الذكاء الاصطناعي إن الأمريكيين يفقدون ثقتهم في قدرة المؤسسات على تحديد ما هو حقيقي وما هو زائف، مضيفا أن زيادة استهلاك المواد الاصطناعية تجعل الناس أقل قدرة على التمييز بين الحقيقة والزيف، وربما أقل اهتماما بذلك أيضا.
ويرى بيرسيلي أن الخطر الأكبر لا يكمن فقط في خداع الناس بمحتوى مولد بالذكاء الاصطناعي، بل في أن تتمكن جهات سيئة من إنكار محتوى حقيقي ووصمه بأنه تزييف عميق.
وتسلط سارة كريبس، مديرة معهد سياسات التكنولوجيا بجامعة كورنيل، الضوء على البعد النفسي لهذه الظاهرة، محذرة من أن حالة الشك واليقظة المستمرة قد تصبح مرهقة بمرور الوقت، إلى حد يدفع الناس إلى التعامل مع المحتوى على أنه مزيف ما لم يثبت العكس.
