امن المعلوماتذكاء اصطناعي

المحتوى المضلل يجد طريقه إلى “شات جي بي تي” بفضل المحتالين

رقمنة

وجد البعض ثغرة في آلية عمل الترشيحات التي يقدمها ” شات جي بي تي ” لنشر المحتوى المضلل والعبث في جودة الترشيحات الناتجة عن الأداة، وذلك بحسب التقرير الذي نشره موقع “تيك رادار برو” (Techradar Pro) التقني.

واستند تقرير الموقع إلى تجربة قام بها جيمس بروكبانك، وهو المدير التنفيذي ومؤسس شركة “ديجيتال لوفت” (Digitalloft) للتسويق الرقمي، إذ وجد بروكبانك أن نموذج “شات جي بي تي” يثق في المواقع ويعتمد عليها كمصادر حتى وإن تغير محتوى الموقع.

ويعني هذا أن النموذج يثق في رابط الموقع دون النظر إلى محتواه، لذلك استغل البعض هذه الثغرة عبر شراء روابط مواقع منتهية الصلاحية أو اختراق مواقع شهيرة ووضع الترشيحات الخاصة بهم في هذه المواقع.

Portland, OR, USA - Dec 18, 2022: Webpage of ChatGPT, a prototype AI chatbot, is seen on the website of OpenAI, on a smartphone. Examples, capabilities, and limitations are shown before a new chat. شترستوك
ويشير التقرير إلى موقع كان تابعا للأمم المتحدة في السابق، ولكن توقف عن العمل وانتهت صلاحيته، وبعد ذلك استحوذ عليه مستخدم ووضع روابط تشير إلى موقع آخر تابع له حتى يقوم “شات جي بي تي” بإظهارها في الترشيحات الخاصة به.

وتكرر الأمر مع موقع كان تابعا لهيئة خيرية في المملكة المتحدة وكان يشار إليه من قبل مواقع ط بي بي سي ” و”سي إن إن” و”بلومبيرغ”، ولكن الآن يضم محتوى عن الألعاب الخبيثة و”شات جي بي تي” اعتمد عليه كمصدر لترشيح هذه الألعاب.

ويؤكد بروكبانك أن مثل هذه السلوكيات تختلف تماما عن آليات تحسين ظهور المواقع في محركات البحث عبر بناء الروابط الموثوق بها، إذ يستطيع “غوغل” التعرف على سلامة الموقع ويأخذ في الاعتبار نوعية المحتوى المنشور به.

لكن يبدو أن “شات جي بي تي” يفتقر إلى هذه النقطة، ولا يستطيع تحديد نوعية المحتوى الموجود في الموقع وإن كان متسقا مع تاريخه السابق أم لا، بل ينظر فقط إلى وضع الروابط التي تشير إلى هذا الموقع.

المصدر: الجزيرة عن  مواقع إلكترونية

مقالات ذات صلة

زر الذهاب إلى الأعلى