رسالة
تحدثنا في المقال السابق "هلوسة الذكاء الاصطناعي" عن أخطار الذكاء الاصطناعي على البشرية، والذي أشار إلى خطورة تحيُّز الآلة بشكل مُمنهج، فتنتج مُخرجات مُضلِّلة أو مُتحيِّزة تُهدر قِيَم العدالة وفُرص المُساواة، وهو ما يُعرف بانحياز الذَّكاء الاصطناعي.
وتحيُّز الآلة نوعان: أحدهما يُزيِّف الواقع بتفضيل عِرق أو ديموغرافيَّة أو جنس، ويتم من خلال تدريب الخوارزميَّات على بيانات مُضللة فتنحرف النتائج وتحيد عن الأهداف. والثَّاني تفتقر فيه بيانات التَّدريب إلى التمثيل العادل، نتيجة وجود أحكام مُسبقة أو تفاوتات هيكلية في المُجتمع، فتتخذ الآلة قرارات جائرة لصالح فئة ضد أخرى، مما يُعزز الانفصال الاجتماعي ويُمثل انعكاسًا لعُنصرية المُجتمع.
اعتماد أنظمة الذكاء الاصطناعي في تدريبها على منصات الإعلام الرقمي ووسائل التواصُل الاجتماعي على وجهات نظر فردية زاخرة بالتعميمات النمطية والتحيُّزات التاريخية والاجتماعية، وبيانات مثالية لا تعكس العالم الحقيقي الذي نعيشه، يُعرض فئات كالأقليات لمزيد من التحيز السَّلبي.
تحيز الآلة ليس وليد اليوم؛ فقد كشفت عنه لجنة المُساواة البريطانية عام 1988 في برنامج كمبيوتر يُستخدم لقبول المُتقدمين بالتحيز ضد الأسماء غير الأوروبية، لكن جديد اليوم هو التطبيق المتزايد لأتمتة المهام ومُشاركة الآلة في القيادة وصُنع القرار، في ظل افتقار أنظمة الذكاء الاصطناعي الحالية إلى التمييز بين الفروق الدقيقة.
تجربة "أمازون" عام 2018 ضد المتقدمات من النساء للوظائف التقنية، إحدى صور التحيُّز السلبى، إذ كان النظام يمنح تقييما أعلى للمتقدمين من الرجال مقارنة بنظيراتهم من النساء، وهو ما تداركته الشركة وأوقفت النظام، وهي ليست بعيدة من تجربتي مع "بوت جيمناي" وقتما كان يُدعى "بارد" التي دفعتني إلى كتابة هذا المقال، فقد قدم معلومات مغلوطة، بالبحث تبين عدم صحتها، وبمواجهته اعتذر ووعد بمحاولة تصحيح معلوماته لاحقًا!
التحدي الذي يُواجهه العالم حذرت منه مارغريت فيستاجر رئيس قطاع التكنولوجيا في الاتحاد الأوروبي، مؤكدة قُدرة الذَّكاء الاصطناعي على تضخيم التحيز والتمييز في ظل افتقار خوارزمياته إلى الشفافية، وهو ما يُعَدُّ تحديًا في فهم عمليات صُنع قرار الآلة وتصويبها.
ومع زيادة استقلالية الآلات، وخاصةً الروبوتات التي باتت تعدل خوارزميتها بشكل ذاتي يسمح لها بالتكيف بتوليد الكود الخاص بها وتوجيهه، مما قد يحولها إلى "أسلحة مستقلة" و"روبوتات قاتلة"، وهو ما حدث في "فيسبوك" عند تطوير روبوتين لُغتهما للغة غير مفهومة للبشر مما أفزع المهندسين القائمين عليهما وإيقافهما.
لم يعد من الممكن وقوفنا مكتوفي الأيدي أمام تطورات تهدد وجودنا. وجوب تمكين المستخدمين والمجتمعات من فهم كيفية الوصول إلى قرارات الآلة وتحليلها أصبح ضرورة مُلحة في ظل تقليص سيطرة البشرية عليها، وارتفاع استخدامها كما حدث أخيرًا في الصين باستبدال روبوتات بـ60 ألف عامل ومنحهم جنسية إلكترونية، ناهيك عن توليها مهام قيادية في ظل ارتفاع احتمالات اتخاذ قرارات متحيزة أو مواقف عدوانية ضد البشر.
وتُعد خوارزميات التعرُّف على الوجه من أخطر أشكال التمييز التي تستخدمها دول كبرى للتمييز بين رعاياها وغيرهم وحرمان شعوب أخرى من الوصول لبعض خدمات الذَّكاء الاصطناعي، بل بين رعاياها ورعاياها، عبر تمثيل فئة تمثيلًا ناقصًا في تدريب الأنظمة، والنتيجة قرارات متحيزة ضد ما يُعرف بالخصائص المحمية، مثل الجنس والعرق والعمر والدين.
وتعمل تقنية التعرُّف على الوجوه عبر مسح ملامح الوجه، وقياس المسافات بين العين والأنف والفم والأذن لتشكل "بصمة وجه" فريدة لكل شخص. وتُحدد هويته عبر مُضاهاة صُور وجهه مع صُوره على الإنترنت أو في قواعد البيانات.
التقنية المنوط بها خدمه البشرية تتحيز لبعضها، بحسب ما جاء في تقرير فريق "برو بابليكا دوت كوم" عام 2016 لتقييم أنظمة قضائية بالمحاكم الأميركية للتنبُّؤ بسلوك المُدانين، تنبأت للمتهمين من ذوي البشرة السوداء بارتكاب الجرائم في المستقبل بنسبة أكبر من البيض، بينما وصفت خوارزمية العدالة الجنائية المستخدمة في فلوريدا المتهمين الأميركيين من أصل أفريقي بأنهم الأكثر خطرًا على العدالة.
وفي الصين اتهمت منظمات حقوقية الحكومة بتحديد هويات الأقلية الإيغورية من خلال أنظمة التعرُّف على الوجه واحتجازهم في معسكرات سرية، وهو ما نفته بكين.
وأخيرًا، اتهمت منظمة العفو الدولية إسرائيل باستخدام أنظمة التعرُّف على الوجه في الخليل والقدس الشرقية لفرض "قيود تعسُّفية على حركة" الفلسطينيين. وبعد هجوم السابع من أكتوبر 2023 استخدم متطوعون إسرائيليون البرنامج لتحديد هويات المسلحين والضحايا.
قلق الأمريكان من التقنية دفع 25 ولاية إلى تقديم مشروعات قوانين لتقييد استخدامهاـ بل وحظرتها فرانسيسكو وغيرها على الشرطة والجهات الحكومية، والسؤال هنا إن كان المواطن الأمريكي قلقًا من استخدام حكومته للتقنية، فماذا عنَّا؟
خطورة استخدام التقنية دفع الاتحاد الأوروبي لاقتراح قواعد جديدة تقتضي خضوع أنظمة التعرُّف على الوجوه المستخدمة في المواقف عالية الأخطار، مثل مراقبة الحدود أو المدارس، للتدقيق من قبل هيئات خارجية قبل نشرها لضمان عدم التمييز مع إبلاغ الأشخاص المعنيين لدى استخدام هذه الأنظمة.
وتُعَد أبرز أضرار تلك التقنية حجب خدمات عن أشخاص من أعراق معينة أو التحيُّز ضد فئة، والأخطر تتبُّع تحركات الأشخاص ومراقبة سلوكهم أو التوصل إليهم وشن هجمات عليهم، وكذلك الرقابة على المحتوى على الإنترنت ومنع الأشخاص من النشر.
دراسة مركز الأبحاث الرقمية في الإمارات كشفت أن 37 في المئة من الشركات التي تستخدم الذَّكاء الاصطناعي لا تتخذ إجراءات تقليل التحيُّز في أنظمتها، وأوصت بتحديد البيانات المُتحيزة والأنماط التي قد تؤدي إلى نتائج مُتحيزة، ثم تصحيح التدريب باستخدام بيانات متنوعة ومتوازنة مع المراقبة الدورية لنتائج الذكاء الاصطناعي وتحديث النماذج.
قُدرة النماذج اللغوية الكبيرة على التصحيح الذاتي، عبر التعلم من ردود فعل البشر، قد يؤدي إلى تفادي إنتاج مُخرجات ضارة، حال طُلب منها بذلك، فهل سيطلبون؟