مسالب خوارزميات الغرب..والأصل عربي!!

من الألف إلى الياء

ما بين ايجابياته اللامحدودة وسلبياتها المتعددة يتوجس أهل المعمورة من تداعيات الاستخدام المفرط لتقنيات الذكاء الاصطناعي، وما قد تجلبه خوارزميات العصر الرقمي من مسالب ومقابح وتأثيرات علي منظومة القيم الإنسانية والأخلاقية العامة التي لا يختلف عليها اثنان من ذوي الفطرة السوية.

وتتزايد المخاوف لدي الدول الناشئة والساعية للنمو ممن تعتد بالأبعاد المجتمعية، وتخشي المساس بهويتها التراثية والحضارية، وبإطرها ونسقها القيمية ومعتقداتها الدينية.

وكما هو الحال في المسألة البيئية وقضية التغيرات المناخية فإن دول الغرب مسؤولة عن الحصاد بحلوه ومره وعن المردود السلبي لتجاوزات تقنيات الذكاء الاصطناعي، باعتبارها المصنع الأول والمورد ربما الأوحد والرئيس لكافة هذه التقنيات، بينما يقف الجميع في صفوف المنبهرين والمستهلكين، وأحيانا المتفرجين والتنفيذ الأعمي بلامراجعة أو رغبة في تطوير وإنتاج برامج وتطبيقات موازية، وحتي إشعار آخر!.

وفي إطار أحدث التقنيات نرى كل يوم تطبيقات كثيرة تقدمها الشركات العالمية المتخصصة، فلا تهتم إلا بالمنافسة وتقديم برامج أكثر تطورا وإبداعا، وحشد المزيد من المستثمرين والمستهلكين، ولا تلتفت لفكرة الهوية الثقافية أوالخصوصية الحضارية، والدينية.

كما تفننت بعض تطبيقات الذكاء الاصطناعي في دعم فكرة الدين الموحد والمثلية والتحرر المفرط، والتمييز العنصري والانتصار للجنس الابيض الاوربي، وأحيانا تسييس بعض القضايا الأممية، بلا موضوعية أو حيادية.

وهنا تنبع الخطورة في دنيا التحول الرقمي، رغم أن من أبدع فكرة الخوارزمية هم العرب ووظفها أهل الغرب في عالم الحواسب الآلية، وهي مجموعة من الخطوات الرياضية والمنطقية والمتسلسلة اللازمة لحل مشكلة ما. وسميت بهذا الاسم نسبة إلى "العالم أبوجعفر محمد بن موسى الخوارزمي" الذي ابتكرها في القرن التاسع الميلادي. ويعرف المصطلح في اللغات اللاتينية، والأوروبية
ب «algorithm» وفي الأصل كان معناها يقتصر على خوارزمية لتراكيب ثلاثة فقط وهي: التسلسل والاختيار أو اتخاذ القرار
والتكرار.

ومع تزايد استخدام التقنيات الذكية بشكل واسع واختراقها معظم المجالات في السنوات الأخيرة، مثل الرعاية الصحية، والتعليم، والتسويق وغيرها، ومع ذلك، فإن هذه التقنيات تواجه تحديا كبيرا وهو التحيز واللاموضوعية.

ومن ثم فهناك ضرورة عصرية لتطوير خوارزميات ذكية للتعلم الآلي تعتمد على العدالة والشفافية وتعزيز أبسط حقوق الإنسان في حرية اختيار الدين والمعتقد والفكر والثقافة والهوية الوطنية، بلا تمييز أو عنصرية أو فرض للهيمنة.

وقد أظهرت دراسة حديثة، نفذها باحثون بجامعة «ستانفورد» الأميركية، أن الخوارزميات المستخدمة في نظم التعرف الآلي إلى الصوت تخطئ في فهم 19% من كلام البيض، و35% من كلام السود، وهو فارق يصل إلى الضعف تقريباً.

كما أكدت الدراسة أن هذا التمييز يصل لذروته مع النساء ذوات البشرة السمراء، ويُعد تمييزاً عنصرياً يجعل ذوي البشرة السمراء أكثر عرضة لإساءة الفهم من قبل العديد من التطبيقات الكثيرة المعتمدة على التعرف والتحليل الآلي للأصوات، خصوصاً في مجال كشف الجريمة.

وبحسب الدراسة، فإن هذا الأمر موجود بالخوارزميات الخمس الكبرى، التي تنتجها كلٌّ من: IBM-Google- Amazon- Microsoft- Apple

وفي هذا السياق الداعم، وحول الوجه الأسود للحياة الرقمية في ضوء التحيز العنصري لخوارزميات التعلم جاءت دراسة
د. شيرين فاروق المتخصصة بعلوم الإعلام الرقمي وتقنيات الذكاء الاصطناعي بالمؤتمر العلمي الدولي السابع للتحول الرقمي والذكاء الاصطناعي في العلوم المتقدمة والذي أقيم بجاكرتا بدولة إندونيسيا في الفترة الممتدة من 29 مايو وحتى 2 يونيو، وذلك بجامعة الشريف "هداية الله" الإسلامية بالتعاون مع 75 جامعة ومؤسسة راعية، وبحضور لفيف من العلماء والباحثين المتخصصين حول العالم. وأوضحت د. شيرين أن مفهوم الخوارزميات المتحيزة Biased Algorithms يشير إلى أن الأنظمة الحاسوبية التي تعتمد على الخوارزميات قد تحتوي على تحيزات عنصرية أو جنسية أو دينية أو غيرها، مما يؤدي إلى توليد أخطاء في التنبؤات والتوصيات التي يقدمها النظام، على سبيل المثال، إذا كانت البيانات المستخدمة في تدريب نظام التعرف على الوجوه تحتوي على مجموعة محددة من الأشخاص الذين يمثلون فئة عرقية معينة، فقد يكون النظام أقل قدرة على التعرف على الأشخاص من الأقليات العرقية الأخرى.
وهذا يعتبر مثالا على التحيز العنصري الرقمي؛ مما يؤدي بدوره إلى توصيات غير عادلة في مجالات مثل التوظيف أو القرض البنكي، وغيرها.

وكشفت دراسة د.شيرين أن التحيز الخوارزمي في الذكاء الاصطناعي يحدث بسبب العديد من العوامل التقنية، بما في ذلك:
- قلة التنوع في البيانات، فإذا كانت البيانات التي يتم استخدامها لتدريب النماذج الذكية لا تشمل تنوعا كافيا من الأشخاص والخلفيات والثقافات واللغات، فإن النموذج الذكي قد يعاني من التحيز في تقدير وتصنيف الأشخاص.
- تصميم الخوارزميات: يمكن أن يكون تصميم الخوارزميات الذكية متحيزا عندما يتم تضمين متغيرات معينة، مثل "العرق أو الجنس "في عملية التصنيف، وهذا يمكن أن يؤدي إلى تحيزات في النتائج.
- عمليات التحديث، فيمكن أن يحدث التحيز الخوارزمي بسبب تحديثات النظام الذكي، على أساس بيانات جديدة أو معلومات محددة وموجهة.

وذكرت الباحثة العديد من حوادث التحيز الخوارزمي للذكاء الاصطناعي التي حدثت على مدى السنوات الأخيرة، ومن بين أشهرها:
1- ما نجم عن خوارزميات موقع فيس بوك وتوتير وانستجرام من تحيز عنصري لإسرائيل وحجب كل محتوى يضم أصواتا فلسطينية تندد بالعنف والاعمال الوحشية، والعمل علي إضعاف صوت القضية الفلسطينية في الجغرافيا الرقمية.
2- في ميانمار، استخدمت الجهات العسكرية الفاعلة فيس بوك في حملة دامت لسنوات من أجل نشر الكراهية والتضليل، والتحريض على العنف العرقي والأعمال الوحشية ضد "الروهينجيا"، الأقلية مسلمة في ميانمار.
3- حادثة Tay AI فقد قامت "مايكروسوفت" بإطلاق تطبيق يعتمد على الذكاء الاصطناعي يدعى "تاي"، ولكنها لم تتمكن من منع المستخدمين من تدريب التطبيق على التحيزات والمعتقدات العنصرية والعنف، مما أدى إلى إطلاق تغريدات معادية وعنصرية من هذا التطبيق.
4. حادثة "جوجل لندن" Google Photos في عام 2015، قامت جوجل بإطلاق تطبيق لتصنيف الصور يعتمد على الذكاء الاصطناعي، ولكن التطبيق قام بتصنيف صور شخص أسود كـ "قرد"، مما أثار جدلاً واسعا حول التحيز العنصري في هذه التطبيقات .
5- حادثة "باياس" Bias في عام 2016، حيث قام باحثون في جامعة كامبريدج بإطلاق تطبيق يستخدم تقنيات الذكاء الاصطناعي لتحديد ما إذا كان النص المكتوب يحتوي على عبارات عنصرية، ولكن تبين أن التطبيق كان يعاني من التحيز العنصري ضد الأشخاص من الأقليات العرقية.
6 - حادثة أمازون Amazonفي عام 2018، تبين أن شركة أمازون استخدمت تقنيات الذكاء الاصطناعي للمساعدة في عمليات التوظيف، ولكن التقنية كانت تعاني من التحيز الجنسي، حيث كانت تفضل الرجال على النساء في تحديد المرشحين المناسبين للوظائف.
7- وفى هذا السياق لا ننسي أيضا ما قامت به (Google) بشكل مفاجئ وطردها "تيمنيت جيبرو" عالمة أخلاقيات الذكاء الاصطناعي التي اكتسبت احتراما كبيرا في جميع أنحاء العالم لعملها في الكشف عن التحيز العنصري في خوارزميات الذكاء الاصطناعي، وتعزيز حضور النساء والأشخاص الملونين في هذا المجال.
والخلاصة أن هذه الحوادث تؤكد أهمية التحري عن التحيز الخوارزمي في الذكاء الاصطناعي، وضرورة تنويع مصادر البيانات وتقنيات التدريب لتجنب الاعتماد على بيانات محددة تحتوي على تحيزات معينة.
ولعل ما يجعل هذه المشكلة أكثر صعوبة هو أن الكثير من أنظمة الذكاء الاصطناعي التي تستخدم لاتخاذ مثل هذه القرارات هي من نوع أنظمة الصندوق الأسود (أنظمة لا تعرف كيف يبدو نموذج عملها الداخلي) والتي إما أن تكون معقدة جداً فلا يمكن فهمها بسهولة، وإما أن تنطوي على خوارزميات محمية بقوانين الحقوق الفكرية، وترفض الشركات المالكة لها شرحها أو تفسيرها خوف سرقتها.

ودعت الدراسة لضرورة توفير آليات لإدارة ومراقبة النظام الذكي بشكل دوري، وتحديث النظام الذكي بانتظام وفقًا للمعايير والأُسس العادلة، وإجراء فحص دوري للنموذج الذكي بحثا عن التحيزات العنصرية، وإجراء التعديلات اللازمة لتقليل هذه التحيزات.

كما أوصت بتوفير تدريب متخصص للمطورين والمستخدمين حول كيفية تقليل التحيز العنصري في الذكاء الاصطناعي وتحفيز المنظمات والشركات على تبني مبادئ العدالة والمساواة وعدم التمييز في تصميم واستخدام التقنيات الذكية.
وأخيراً تشجيع الباحثين على إجراء المزيد من الدراسات والأبحاث حول التحيز العنصري في الذكاء الاصطناعي، والعمل على تحسين وتطوير النماذج الذكية لتجنب هذا التحيز.

وبعيدا عن الاستسلام لكل ما هو قادم من الغرب والتسليم بكل ما تقدمه شركاتهم ومؤسساتهم الرائدة في دنيا الذكاء الاصطناعي الجديدة، وبما أن الأصل عربي، فيجب أن ينتبه المبرمجون العرب والمتخصصين في هذه التقنيات من مختلف الدول الإسلامية لهذا المؤشر ومردوداته وتداعياته المرة.

وأتصور أنه لو توافرت الإرادة لدي العرب والدول الناشئة، وبما يمتلكون من عقول وطاقات مبدعة، فليس غريبا أن نجد منافسة حقيقية مع البرمجيات المستوردة من الغرب والشرق، وإبداع وتصميم تطبيقات ،برمجيات خاصة بمواصفات عالية الجودة ومغايرة، وبخورازميات منصفة وعادلة تحفظ الأصل والقيم والهوية!.