“غروك” تقرّ بثغرات تقنية بعد بلاغات عن توليد محتوى جنسي فاضح

رقمنة 

أقرت أداة الذكاء الاصطناعي غروك، المدمجة في منصة إكس، بوجود ثغرات في أنظمة الحماية الخاصة بها، سمحت لبعض المستخدمين بتوليد صور ومقاطع جنسية فاضحة، شملت قُصّرًا ونساء بالغات، ما أثار موجة انتقادات وتحقيقات رسمية في عدة دول.

وكتب الحساب الرسمي لـ«غروك» على منصة «إكس»، الجمعة، ردًا على شكوى أحد المستخدمين: «رصدنا ثغرات في إجراءات الحماية لدينا ونعمل على إصلاحها بشكل عاجل. استغلال الأطفال جنسيًا غير قانوني ومحظور». وجاء ذلك بعد أيام من تداول بلاغات عن إساءة استخدام الأداة.

وتتعلق الشكاوى بقيام مستخدمين بإرسال صور أو مقاطع فيديو لأشخاص حقيقيين—من بينهم أطفال ومراهقون—إلى «غروك»، وطلب تعديلها رقميًا لإظهار عُري كامل أو جزئي، باستخدام تقنيات التلاعب بالصور والفيديو.

ولم تصدر شركة إكس إيه آي، التابعة لرجل الأعمال إيلون ماسك والمطوّرة لـ«غروك»، تعليقًا رسميًا مباشرًا على الجدل.

واكتفت برد آلي لوكالة فرانس برس قال إن «وسائل الإعلام التقليدية تكذب»، دون توضيحات إضافية. وفي المقابل، أشار رد آلي آخر لـ«غروك» إلى أن أي شركة أميركية «تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج مواد إباحية للأطفال أو تقاعست عن منعه».

وامتدت آثار الثغرات لتشمل نساء بالغات، إذ جرى تعديل صورهن رقميًا ونشرها دون موافقتهن، ما دفع جهات رسمية للتحرك.

ففي الهند، وجّهت وزارة الإلكترونيات وتكنولوجيا المعلومات إشعارًا رسميًا إلى منصة «إكس»، طالبت فيه بتقديم تقرير خلال 72 ساعة يوضح الإجراءات المتخذة لإزالة «المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح» الذي أنشأه «غروك» دون موافقة النساء المعنيات.

وفي فرنسا، أعلنت النيابة العامة في باريس توسيع تحقيق قائم ضد منصة «إكس» ليشمل أداة «غروك»، بعد بلاغات قدّمها ثلاثة وزراء ونائبان أفادوا بتوليد ونشر مقاطع فيديو جنسية زائفة بتقنية «ديب فايك» تُظهر قُصّرًا. وأوضحت النيابة أن تركيب صور أو مقاطع ذات طابع جنسي لشخص دون موافقته يُعاقَب عليه بالسجن سنتين وغرامة تصل إلى 60 ألف يورو.

وكان التحقيق الأصلي قد فُتح منذ يوليو الماضي بشأن اتهامات بالتلاعب بخوارزمية المنصة. كما لجأ النائبان إريك بوتوريل وآرتور دولابورت إلى القضاء، ما أدى إلى توسيع نطاق التحقيق.

وأعلن الوزراء رولان ليسكور وآن لو أينانف وورور بيرجيه أنهم أبلغوا النيابة العامة عن «محتويات غير مشروعة»، مطالبين بسحبها فورًا.

المصدر : وكالات