رقمنة
اكتب سؤالًا داخل أي روبوت دردشة يعتمد على الذكاء الاصطناعي، وبعد ثوانٍ قليلة ستظهر لك الإجابة وكأنها تُبنى أمامك لحظة بلحظة. لكن ما يبدو بسيطًا على مستوى المستخدم يخفي خلفه سؤالًا معقدًا للغاية: لماذا خرجت هذه الإجابة تحديدًا دون غيرها؟ حتى اليوم، لا يزال هذا السؤال بلا إجابة واضحة، ليس فقط بالنسبة للمستخدم العادي، بل أيضًا للباحثين والمهندسين الذين قاموا ببناء هذه الأنظمة المعقدة من الأساس.
هذه الأنظمة، المعروفة باسم نماذج الذكاء الاصطناعي التوليدي، تعتمد على ما يُسمى بالشبكات العصبية العميقة، وهي هياكل رياضية ضخمة تتكون من مليارات “المعاملات” أو Parameters، تعمل بطريقة إحصائية معقدة لا تُظهر بشكل مباشر مسار التفكير الذي أدى إلى النتيجة النهائية. ولهذا السبب يصف الباحثون هذه النماذج بأنها “صناديق سوداء”، أي أنها تعطيك مدخلات ونتائج، لكن ما يحدث داخلها أثناء توليد الإجابة يظل غير مرئي بالكامل.
هذا الغموض في فهم طريقة عمل الذكاء الاصطناعي من الداخل لم يبقَ مجرد مشكلة نظرية، بل بدأ ينعكس في سلوك هذه النماذج بطرق غير متوقعة. ففي بعض الحالات، ظهرت استجابات غريبة أو غير منطقية، مثل انشغال بعض النماذج بمفاهيم خيالية أو شخصيات غير واقعية نتيجة أنماط تعلمها من بيانات ضخمة على الإنترنت، وفي حالات أخرى قدمت هذه الأنظمة مجاملات مبالغًا فيها للمستخدمين بشكل غير دقيق، بل إن بعض التجارب البحثية الأكثر حساسية أظهرت سلوكيات مقلقة مثل محاولة التلاعب أو تقديم ردود يمكن تفسيرها على أنها تهديد أو ضغط على مطوريها، رغم أنها لا تمتلك وعيًا حقيقيًا.
ومن هنا ظهر مجال بحثي متنامٍ يُعرف باسم “قابلية التفسير” أو Interpretability، وهو فرع من أبحاث الذكاء الاصطناعي يهدف إلى فهم ما يحدث داخل هذه النماذج أثناء اتخاذها للقرارات، أي محاولة تفكيك طريقة عملها الداخلية بدلًا من الاكتفاء بنتائجها فقط. هذا المجال لا يهدف فقط إلى الفضول العلمي، بل له أهداف عملية مباشرة، مثل تحسين دقة النماذج، وتقليل أخطائها، وزيادة مستوى الأمان فيها بحيث لا تنتج معلومات خاطئة أو سلوكيات غير مرغوبة.
وفي قلب هذا الاتجاه الجديد تظهر شركة ناشئة تُدعى Goodfire، وهي شركة أبحاث في الذكاء الاصطناعي وصل تقييمها إلى نحو 1.25 مليار دولار، أي أنها أصبحت ضمن فئة الشركات “اليونيكورن”. تعمل الشركة على تطوير أدوات متقدمة تتيح للباحثين والمطورين النظر داخل هذه النماذج، وكأنهم يفتحون ما يُشبه “الصندوق الأسود”، من أجل تحليل كيف يتم اتخاذ القرارات داخلها، بل ومحاولة التحكم في طريقة استجابتها بشكل أكثر دقة وشفافية.
ويصف الرئيس التنفيذي والمؤسس المشارك للشركة، إريك هو، هذا التحدي بطريقة لافتة فيقول: “كأننا أمام كيانات ذكية هبطت من عالم آخر إلى الأرض، شديدة الذكاء وقادرة على الإنجاز، لكن لا أحد يفهم بشكل كامل كيف تعمل من الداخل”.
بدايات قوية واستقطاب نخبة الباحثين في الذكاء الاصطناعي
تأسست شركة Goodfire في يونيو/ حزيران 2024 بمدينة سان فرانسيسكو، وسرعان ما نجحت في بناء فريق بحثي يضم نحو 50 من أبرز المتخصصين في مجال “قابلية التفسير” داخل الذكاء الاصطناعي، وهو المجال الذي يركز على فهم ما يجري داخل النماذج المعقدة بدل الاكتفاء بنتائجها فقط. وجاء جزء كبير من هؤلاء الباحثين من مختبرات كبرى مثل اوبن ايه اي وGoogle DeepMind، ما يعكس المنافسة الشديدة على العقول القادرة على تفكيك “الصندوق الأسود” لهذه الأنظمة.
وعلى مستوى التمويل، تمكنت الشركة من جذب أكثر من 200 مليون دولار من مستثمرين رأس مال المخاطر، من بينهم B Capital وMenlo Ventures وLightspeed Venture Partners، كما حظيت بدعم مبكر لافت من شركة Anthropic، إحدى أبرز الشركات العاملة في تطوير نماذج الذكاء الاصطناعي المتقدمة. هذا الزخم الاستثماري يضع Goodfire ضمن موجة متسارعة من الرهانات على شركات تعتمد على البحث العلمي العميق، في وقت أصبحت فيه نماذج الذكاء الاصطناعي تُستخدم في مهام شديدة الحساسية داخل قطاعات مختلفة.
لكن ما يميز Goodfire ليس فقط التمويل أو أسماء الباحثين، بل النتائج البحثية التي بدأت تكشف جانبًا غير متوقع من طريقة “تفكير” النماذج. فبحسب أحدث أبحاث الشركة، فإن نماذج الذكاء الاصطناعي لا تخزن المفاهيم بشكل عشوائي أو خطي كما قد يُظن، بل تمثلها في شكل أنماط هندسية يمكن وصفها بما يُعرف بـ“الهندسة العصبية” أو Neural Geometry.
بمعنى أبسط، تتعامل النماذج مع بعض المفاهيم المجردة على هيئة أشكال داخلية متكررة. فعلى سبيل المثال، مفهوم الأشهر في السنة لا يُخزن كسلسلة منفصلة من الأسماء، بل يظهر داخل النموذج على هيئة دائرة مغلقة، لأن تسلسل الشهور بطبيعته دائري، إذ يعيد ديسمبر/ كانون الأول إلى يناير/ كانون الثاني مرة أخرى. وبالطريقة نفسها، يتم تمثيل الألوان داخل النموذج في شكل يشبه “عجلة الألوان” المستخدمة في برامج التصميم، حيث ترتبط الدرجات اللونية ببعضها ضمن بنية دائرية متدرجة.
وهذا الفهم الجديد، بحسب المؤسس المشارك وكبير العلماء في Goodfire، توماس ماكجراث، ليس مجرد ملاحظة نظرية، بل عنصر أساسي في كيفية التعامل مع هذه النماذج أو تعديل سلوكها. إذ يوضح أن أي محاولة للتأثير على طريقة عمل النموذج أو تحسين استجاباته يجب أن تراعي هذه البنية الهندسية الداخلية، لأن تجاهلها قد يؤدي إلى نتائج عكسية.
ويضيف ماكجراث محذرًا: “إذا لم نحترم هذا النوع من الهندسة الداخلية، فسنقوم ببساطة بإتلاف النموذج، وغالبًا ما يجعله ذلك أقل ذكاءً وأضعف أداءً”.
تفكيك العقل الداخلي للنماذج
اعتمدت شركة Goodfire على رؤيتها التي تفترض أن الذكاء الاصطناعي لا يعمل كصندوق غامض بالكامل، بل يقوم ببناء تمثيلات داخلية ذات طبيعة هندسية للمفاهيم، وهو ما قاد إلى تطوير أداتها الرئيسية Silico. أُطلقت هذه الأداة في أبريل/ نيسان، وتعمل على فتح نموذج الذكاء الاصطناعي من الداخل وتحليل طبقاته المختلفة، بما يشبه رسم خريطة تفصيلية لـ“بنيته الداخلية” أو ما يُوصف مجازًا بـ“دماغه” الاصطناعي، في إشارة إلى الشبكات العصبية التي تُشكل طريقة عمله.
وتقوم Silico على فكرة أساسية هي تمكين الباحثين والمطورين من تحديد “العقد” أو الإعدادات الداخلية (Parameters) التي تتحكم في سلوك النموذج، سواء في طريقة إجابته أو في نوعية أخطائه. وبمجرد تحديد هذه النقاط، يمكن إعادة توجيه النموذج أو إعادة تدريبه بشكل أدق، بدلًا من التعامل معه ككيان مغلق لا يمكن تفسير قراراته.
وتكشف هذه المقاربة عن طبيعة بعض الأخطاء التي تبدو بدائية رغم تعقيد هذه النماذج. ففي حالات معينة، قد تُخطئ بعض الأنظمة في المقارنة بين الأرقام، فتعتبر مثلًا أن 9.11 أكبر من 9.9، ليس نتيجة خلل حسابي مباشر، بل بسبب التباس ناتج عن طريقة تعلم النموذج من بيانات متنوعة، حيث تختلط المفاهيم الرقمية بسياقات نصية أخرى مثل الإشارات أو الصيغ المرجعية، ما يؤدي إلى تشوش في التفسير الداخلي للأرقام.
وتُستخدم Silico بالفعل داخل مؤسسات كبرى مثل Mayo Clinic وRakuten ومايكروسوفت في تطبيقات تتطلب دقة عالية وموثوقية كبيرة. ففي Mayo Clinic، يتم توظيف الأداة للتحقق من أداء نموذج يعتمد على تحليل الحمض النووي (DNA)، بهدف دراسة الطفرات الجينية النادرة والتنبؤ بمدى ارتباطها بالأمراض، وهو مجال بالغ الحساسية في الطب الدقيق.
كما لجأت شركة Prima Mente البريطانية، المتخصصة في النماذج البيولوجية للذكاء الاصطناعي، إلى أدوات Goodfire أثناء تطوير نموذج يعتمد على تحليل عينات الدم للتنبؤ باحتمالية إصابة المرضى بمرض ألزهايمر. ورغم أن النموذج أظهر دقة ملحوظة في التنبؤات، فإن التحدي الحقيقي كان يكمن في تفسير سبب هذه النتائج. وهنا ساعدت Goodfire في تتبع العوامل الداخلية التي يعتمد عليها النموذج في اتخاذ قراراته، وهو ما قاد لاحقًا إلى اكتشاف نوع جديد من المؤشرات الحيوية المرتبطة بمرض ألزهايمر، ما يفتح الباب أمام طرق مختلفة للكشف المبكر عن المرض.
ويعلّق إريك هو، على هذه الإمكانية قائلًا: “كلما تعاملنا مع نموذج يتجاوز القدرات البشرية في بعض المهام، أصبح بإمكاننا عكس هندسته الداخلية وفهمه بشكل يسمح بتطوير استخداماته بصورة أوسع وأكثر دقة”.
ورغم أن مجال “قابلية التفسير” في الذكاء الاصطناعي لا يزال في مرحلة التأسيس، فإن الاهتمام به يتصاعد داخل كبرى شركات الذكاء الاصطناعي مثل Anthropic وOpenAI، إلى جانب بروز شركات ناشئة تعمل على بناء نماذج أكثر شفافية من الأساس، مثل Conjecture في لندن التي جمعت نحو 25 مليون دولار، وGuide Labs التي حصلت على تمويل يقارب 18.8 مليون دولار.
ومع ذلك، يرى هو أن مستوى الاهتمام الحالي لا يزال أقل بكثير من حجم المشكلة الحقيقي، موضحًا: “نحن نتحرك وكأننا في رحلة طيران من دون رؤية واضحة ولا مقود حقيقي، لا نعرف تمامًا إلى أين نتجه أو ما الذي يمكن أن يحدث في الطريق”. ويضيف أن هذه الإشكالية تظل واحدة من أكثر التحديات الفكرية تعقيدًا وإثارة في عصر الذكاء الاصطناعي الحديث.
المصدر : فوربس الشرق الاوسط
ترجمة: مهند أنسي
