قبل أكثر من عقد، قدمت إحدى أشهر حلقات مسلسل “بلاك ميرور” (Black Mirror) تصورا لعالم لا تنسى فيه الذاكرة الرقمية شيئا، حيث يمكن استرجاع كل لحظة عاشها الإنسان، لتتحول الذاكرة من وسيلة لحفظ الماضي إلى أداة للمراقبة وإعادة تفسير الحياة.
وما بدا آنذاك خيالا علميا، يجد اليوم صداه في الجيل الجديد من مساعدات الذكاء الاصطناعي، التي لم تعد تكتفي بالإجابة عن الأسئلة، بل تتجه إلى بناء ذاكرة عن المستخدم مع مرور الوقت، وربط محادثاته، وتكوين استنتاجات قد ترسم صورة أكثر اكتمالا عنه مما يدركه هو نفسه.
ومع تسابق شركات مثل “غوغل” و”أوبن إيه آي” و”أنثروبيك“ إلى تطوير مساعدين أكثر شخصية بفضل الذاكرة طويلة الأمد، لم يعد النقاش يقتصر على البيانات التي تجمعها هذه الأنظمة، بل امتد إلى الذاكرة التي تبنيها والاستنتاجات التي تستخلصها منها، وما إذا كانت ستصبح الجبهة الجديدة في معركة الخصوصية الرقمية، بما تحمله من تحديات تقنية وقانونية وأخلاقية لم تواكبها التشريعات الحالية بعد.
من سباق النماذج إلى سباق الذاكرة
إذا كان السباق خلال العامين الماضيين يدور حول تطوير نماذج أكثر قدرة على الفهم والإجابة، فإن المنافسة بدأت اليوم تنتقل إلى مستوى آخر، وهو بناء مساعدين قادرين على تذكر المستخدم مع مرور الوقت.
فبدل أن يبدأ كل حوار من الصفر، تسعى شركات الذكاء الاصطناعي إلى تطوير أنظمة تحتفظ بسجل مستمر لتفضيلات المستخدم وعاداته وسياقاته المختلفة، بحيث تصبح أكثر قدرة على تقديم إجابات وخدمات مخصصة.
ويظهر هذا التحول بوضوح في أحدث إعلانات كبرى شركات التقنية، فقد كشفت “غوغل” عن “بيرسونال إنتليجنس” (Personal Intelligence) وهي آلية تجعل مساعدها “جيميناي” يستفيد، بموافقة المستخدم، من خدمات مثل “جيميل” وصور “غوغل” وسجل البحث و”يوتيوب” لتقديم تفاعلات أكثر شخصية واستباقية.
ولا يقتصر هذا التوجه على تحسين تجربة الاستخدام، بل يعكس تحوّلا في طبيعة المساعدات الذكية. فهذه الأنظمة لم تعد مصممة للإجابة عن سؤال واحد أو تنفيذ مهمة منفردة، وإنما لمرافقة المستخدم على المدى الطويل، فتتعلم أسلوبه في العمل، وتتابع مشروعاته، وتتذكر تفضيلاته، وتصبح مع مرور الوقت أكثر قدرة على التعامل مع سياقه الشخصي.
لكن هذه الذاكرة المستمرة تفتح بابا لمشكلة أكثر تعقيدا عندما لا تكتفي الأنظمة بتخزين ما يخبرها به المستخدم، بل تبدأ في استنتاج معلومات جديدة عنه من خلال الربط بين محادثاته وسلوكياته عبر الزمن.
ما وراء الذاكرة
في السياق نفسه، لا تثير قدرة المساعدات الذكية على تذكر اسم المستخدم أو تفضيلاته في الطعام أو أسلوبه في العمل كثيرا من القلق بحد ذاتها. فهذه الذاكرة تمنحها القدرة على تقديم إجابات أكثر دقة، وتجنب تكرار الأسئلة، وإنجاز المهام بكفاءة أكبر.
لكن المشكلة تبدأ عندما لا تقتصر هذه الأنظمة على حفظ المعلومات التي يشاركها المستخدم، بل تستخدمها لبناء استنتاجات جديدة عنه لم يصرح بها أصلا.
فقد يسأل المستخدم، على سبيل المثال، عن دواء معين، أو يبحث عن مطاعم تناسب مرضى السكري، أو يطلب إعداد نظام غذائي منخفض السكر. وقد تبدو كل واحدة من هذه الإشارات غير ذات أهمية بمفردها، لكن جمعها على مدى أشهر وربطها بمحادثات أخرى قد يدفع النظام إلى استنتاج أن المستخدم يعاني من مرض السكري، رغم أنه لم يفصح عن ذلك صراحة.
وبالطريقة نفسها، قد تكشف أسئلة متفرقة عن احتمال انتقاله إلى وظيفة جديدة، أو مروره بأزمة مالية، أو حتى توجهاته السياسية أو معتقداته الدينية.
وترى ألميرا زينوتدينوفا، باحثة إسبانية في أخلاقيات وتقنيات الذكاء الاصطناعي المسؤول ونائبة رئيس جمعية “فيغ آي إيه” (VigIA) الإسبانية غير الربحية المعنية بالاستخدام الأخلاقي والمسؤول للذكاء الاصطناعي، أن المشكلة الحقيقية لم تعد تقتصر على البيانات التي يجمعها الذكاء الاصطناعي، بل على الاستنتاجات التي يبنيها منها.
وتقول -في حديثها للجزيرة نت- إن “الاستنتاجات التي يولدها الذكاء الاصطناعي قد تكون أكثر خطورة من البيانات الأصلية التي استند إليها. فقد لا يفصح الشخص مطلقا عن حالته الصحية أو ميوله السياسية أو توجهه الجنسي، لكن النظام قد يستنتج هذه الخصائص بدرجة عالية من الثقة، ثم تستخدم لاحقا للتأثير في قرارات تتعلق بالتوظيف أو الائتمان أو التأمين أو حتى الرسائل السياسية”.
ولم تعد هذه المخاوف مجرد سيناريوهات مستقبلية، إذ تشير زينوتدينوفا إلى أن أخطر الاستنتاجات الخوارزمية ظهر بالفعل في تجارب واقعية، مستشهدة بقضية نظام “إس يو آر آي” (System Risk Indication -SyRI) في هولندا، وهو نظام استخدمته السلطات لرصد مؤشرات الاحتيال المحتمل في برامج الرعاية الاجتماعية.
الخصوصية في عصر الاستدلال
وإذا كانت قوانين الخصوصية التقليدية قد انشغلت بحماية البيانات التي يقدمها الأفراد، فإن أنظمة الذكاء الاصطناعي تفرض طبقة جديدة من التحديات، لأن ما يترتب على البيانات قد يكون أكثر حساسية من البيانات نفسها.
وترى إليانور واتسون، العضو البارز في “معهد مهندسي الكهرباء والإلكترونيات” (IEEE) وباحثة الدكتوراه في الهندسة بجامعة غلوستيرشير (Gloucestershire) البريطانية، أن قوانين الخصوصية الحالية صُممت لحماية البيانات بوصفها سجلات يمكن جمعها أو حذفها، بينما تنتج مساعدات الذكاء الاصطناعي اليوم شيئا مختلفا تماما، يتمثل في “نموذج متجدد باستمرار لشخصية الإنسان وهويته”.
وتقول في حديثها للجزيرة نت إن “البيانات التي يقدمها المستخدم طوعا ليست سوى قمة جبل الجليد، أما الاستدلالات فهي الكتلة الضخمة المختبئة تحت سطح الماء”.
وتحذر واتسون من أن المشكلة لا تكمن فقط في قدرة هذه الأنظمة على بناء مثل هذه الملفات، بل أيضا في احتمال أن تكون استنتاجاتها خاطئة. فهذه الأخطاء قد تؤثر بصمت في الإعلانات التي يتلقاها المستخدم، أو الخدمات التي تعرض عليه، أو حتى الأسعار التي يدفعها، من دون أن يعرف أساس هذه القرارات أو يمتلك وسيلة للطعن فيها.
وبحسبها، فإن السؤال الذي حكم نقاش الخصوصية لعقود، “من يملك بياناتي؟”، لم يعد كافيا، إذ حل محله سؤال أكثر تعقيدا، “من يحتفظ بنظرية عني، وما الذي يحق له أن يفعله بها؟”. وترى أن هذا التحول ينقل الخصوصية من مجرد حماية البيانات إلى حماية ما تصفه بـ “الذات الداخلية”، أو ما تسميه “الخصوصية الاستدلالية”.
بين المساعدة والتلاعب
لكن المشكلة لا تتوقف عند معرفة النظام بالمستخدم، فكلما ازدادت معرفته بعاداته ونقاط ضعفه وتفضيلاته، ازدادت قدرته على التأثير في قراراته وسلوكه، وأصبح الخط الفاصل بين المساعدة المشروعة والتلاعب الخفي أكثر ضبابية.
وترى زينوتدينوفا أن هذه المخاوف لم تعد مجرد افتراضات نظرية، مشيرة إلى إعلان ممول رصدته على منصة “فيسبوك” لمساعد ذكاء اصطناعي زعم أنه قادر على اختراق عقول المستهلكين عبر ما سماه “التحفيز العاطفي” (Emotional Prompting) و”المحفزات النفسية” (Psych Triggers) و”التكتيكات العصبية” (Neurotactics)، بهدف إرسال رسائل وإعلانات مخصصة أكثر تأثيرا.
وتقول إن مثل هذه الممارسات تختزل الإنسان في مجرد هدف قابل للتوجيه والاستغلال، وتثير أسئلة أخلاقية تتعلق بما يعرف بـ “الحقوق العصبية”، التي تشمل الحق في الخصوصية الذهنية، والهوية الشخصية، والإرادة الحرة، والسلامة الذهنية، والحماية من أشكال التلاعب المعرفي.
ورغم أن الاتحاد الأوروبي يحاول التعامل مع بعض هذه التحديات من خلال قانون الذكاء الاصطناعي الأوروبي (AI Act) وقواعد حماية البيانات، ترى زينوتدينوفا أن المقاربة الحالية قد لا تكون كافية لمواكبة التطورات المتسارعة، وأن الوقت ربما حان لإعادة النظر في كيفية حماية الإنسان، ليس فقط من إساءة استخدام بياناته، بل أيضا من استغلال ما تستنتجه الأنظمة عن عقله وسلوكه.
من الذاكرة الرقمية إلى الذات المستنتجة
من جهة أخرى، قد تصبح الذاكرة التي يحتفظ بها الذكاء الاصطناعي سجلا رقميا متراكما لا يضم ما شاركه المستخدم صراحة، بل أيضا الأنماط والاستنتاجات التي كونها النظام عنه مع مرور الوقت. وهو ما يطرح تساؤلات عما إذا كان ينبغي النظر إلى طبيعة هذه الذاكرة باعتبارها جزءا من الهوية الرقمية للفرد، أم أنها تظل أصلا تقنيا مملوكا للشركة التي طورت النظام.
وتقول إن حذف سجل المحادثات مع الإبقاء على الملف الشخصي والاستنتاجات التي أنشأها النظام “ليس سوى مظهر شكلي للخصوصية، وليس خصوصية حقيقية”. فالمستخدم، بحسب رأيها، لا ينبغي أن يملك فقط حق حذف البيانات التي قدمها، بل يجب أن يتمكن أيضا من معرفة الصورة التي يحتفظ بها النظام عنه، والطعن في الاستنتاجات الخاطئة أو غير المرغوب فيها، والمطالبة بإزالتها.
وتضيف أن القواعد الحالية، ومنها اللائحة العامة لحماية البيانات الأوروبية (GDPR)، تلمح إلى بعض هذه الحقوق، لكنها وضعت أساسا للتعامل مع بيانات محددة يمكن الوصول إليها أو حذفها، وليس مع أنظمة تتعلم باستمرار وتعيد بناء صورة متغيرة عن المستخدم.
لذلك تدعو إلى منح الأفراد سيطرة أكبر على ما تسميه “الذات المستنتجة”، بحيث تصبح الذاكرة قابلة للفحص والنقل والإدارة من قبل أصحابها، في حين يكون دور الشركات أقرب إلى الأمناء عليها لا مالكيها.
وتلخص واتسون هذا التحول في مبدأ ترى أنه سيكون حاسما في مستقبل مساعدات الذكاء الاصطناعي، وتقول “ينبغي أن تكون الذاكرة محفوظة من أجل المستخدم، ومفهومة بالنسبة إليه، لا مجرد ذاكرة عنه”.
ومن جانبها، ترى زينوتدينوفا أن القضية تتجاوز في النهاية حدود تصميم المساعدات إلى تحول أوسع في علاقة الإنسان بالخوارزميات، وهو ما يسميه بعض الباحثين “الألغوريسين” (Algoricene)، حيث أصبحت البيانات والخوارزميات والذكاء الاصطناعي قوى مؤثرة في تشكيل المجتمعات وتوزيع النفوذ.
وفي ظل ذلك، ترى أن وضع حدود لنفوذ شركات التكنولوجيا الكبرى لم يعد ترفا تنظيميا، بل ضرورة لحماية الإنسان من أن تتحول البيانات التي تنتج عنه إلى سلطة تعرفه وتقرر عنه.
لكن ربما تكمن المعضلة الأكبر في سؤال يتجاوز الخصوصية والحوكمة. فإذا أصبحت الاستنتاجات التي تبنيها الخوارزميات عنا جزءا من هويتنا الرقمية، فماذا يبقى من حق الإنسان في أن يكون أكثر من مجموع بياناته؟
فالإنسان لا يتشكل مرة واحدة، بل يتغير مع تجاربه وبيئته وعلاقاته وأخطائه، وبالقرارات التي لم يتخذها بعد. فهل نسمح للنسخة التي تبنيها الآلة عنا من ماضينا بأن تسبقنا إلى المستقبل، وتختزل إنسانا متغيرا باستمرار في ملف من الاستنتاجات؟
