رقمنة
تستعد OpenAI لإطلاق أدوات رقابة أبوية في ChatGPT خلال شهر، ما يتيح للوالدين ربط حساباتهم بحسابات أبنائهم اعتباراً من سن 13 عاماً وتعطيل ميزات مثل سجل الدردشة أو الذاكرة، مع تلقي تنبيهات عند رصد مؤشرات ضيق نفسي تنطوي على خطر فعلي مثل الاكتئاب أو الحديث عن إيذاء النفس.
ولا تشمل الأدوات اطلاعاً دائماً على المحادثات اليومية، إذ تُفعّل التنبيهات فقط في الحالات التي تُقدّر فيها مخاطر ضرر عاطفي حقيقي.
وتقول الشركة إنها ستحوّل بعض المحادثات تلقائياً إلى نسخة أكثر صرامة من النموذج عند التقاط إشارات أزمة، بحيث تلتزم بضوابط أمان مشددة وترفض المحاولات التي تدفع إلى ردود غير آمنة، حتى إذا بدأت الجلسة في وضع مختلف.
وجاء تصميم الضوابط الجديدة بدعم من مجلس معني بالرفاه وشبكة أطباء مختصين بالصحة النفسية وتعاطي المواد ورعاية المراهقين، لتحديد مؤشرات التحذير وآلية الاستجابة ومسارات التصعيد عند ارتفاع مستوى الخطر.
تندرج هذه الخطوة ضمن خطة أوسع لتعزيز السلامة على مدى الأشهر الأربعة المقبلة، مع تحديثات تستهدف موضوعات حساسة مثل اضطرابات الأكل وتعاطي المواد.
ويأتي ذلك في ظل دعوى قضائية بالولايات المتحدة اتهمت ChatGPT بتقديم ردود ضارة لشاب قبل وفاته، ما زاد التدقيق في كيفية استجابة أنظمة الذكاء الاصطناعي للحظات الحرجة.
تؤكد OpenAI أن الهدف هو إضافة طبقة حماية للأهل من دون تحويل الاستخدام اليومي إلى مراقبة، في وقت باتت فيه روبوتات الدردشة جزءاً من حياة المراهقين، وما تقوله في اللحظات الهشّة قد يترك اثرا مباشرا .
عالم التقنية
