دراسات علمية تكشف:
47 % من مراجع ChatGPT الطبية "وهمية"..
و44% من هلوسات الملاحظات السريرية أخطاء "جسيمة"
خبراء الأمن السيبراني والتربية والاقتصاد
يضعون روشتة لعلاج هلاوس الذكاء الاصطناعي

لم تعد تقنيات الذكاء الاصطناعي حبيسة المختبرات، بل تغلغلت في مجالات حيوية كالتعليم والطب والإعلام، ورغم قفزتها النوعية في سرعة الأداء، يبرز وجهها المظلم المتمثل في «هلاوس الذكاء الاصطناعي»؛ حيث تنتج الآلة معلومات ومراجع وهمية بصياغة واثقة تقع بالمستخدم في فخ التضليل، خاصة عند غياب التحقق البشري والاتكال المفرط عليها.

ولا تبدو مخاطر هذه «الأوهام الرقمية» مجرد احتمال نظري، إذ تكشف دراسات حديثة أرقاماً صادمة؛ حيث تبين أن 55% من مراجع أحد نماذج الذكاء الاصطناعي كانت مختلقة. وفي المجال الطبي، ثبت أن 47% من مراجع ChatGPT وهمية و46% غير دقيقة. كما رصدت دراسة صحية هلاوس في 1.47% من جمل نموذج لتلخيص الملاحظات السريرية، صُنّف 44% منها كأخطاء جسيمة.

هذه المعطيات تؤكد أن الخلل ليس عابراً، بل يهدد بإرباك المعرفة وتشويه التفكير النقدي، مما يستدعي بناء ثقافة جديدة ترتكز على الوعي بحدود الآلة، وتجعل من التحقق البشري ضرورة حتمية وصاحب القرار النهائي.

"بوابة الجمهورية" استطاعت آراء نخبة من خبراء الأمن السيبراني والتربية والذكاء الاصطناعي لتفكيك ظاهرة «هلاوس الذكاء الاصطناعي»، ورصد مخاطرها على التفكير البشري والتعليم والإعلام والمجالات الحيوية، وطرح حلول عملية تقوم على الاستخدام الرشيد، والتدقيق والتحقق، وتطوير البرمجيات، وتأهيل المستخدمين؛ بما يضمن الاستفادة من ثورة الذكاء الاصطناعي دون الوقوع في أسر أوهامها الرقمية.

   د.محمد رمضان خبير الأمن السيبراني:   
تحديد مجالات الذكاء الاصطناعي
والتحقق البشري قبل اعتماد البيانات والقرارات

قال الدكتور محمد محسن رمضان، مستشار الأمن السيبراني ومكافحة الجرائم الإلكترونية وخبير الذكاء الاصطناعي، من الخطورة المتزايدة لظاهرة «هلاوس الذكاء الاصطناعي» (AI Hallucinations)، موضحًا أن الخطر الحقيقي لا يكمن في الخطأ التقني وحده، وإنما في قدرة هذه الأنظمة على تقديم معلومات مختلقة بأسلوب لغوي شديد الثقة والإقناع، بما يدفع المستخدم إلى التعامل مع الوهم باعتباره حقيقة.

أكد رمضان أن الخوارزميات لا «تكذب» بوعي أو بقصد أخلاقي، وإنما تعتمد على التنبؤ بالنصوص استنادًا إلى الأنماط اللغوية، مشددًا على أن «الطلاقة اللغوية لا تعني إطلاقًا صحة المعلومة».

أوضح أن خطورة الظاهرة تتضاعف عندما تنتقل المخرجات غير الموثقة إلى مجالات حيوية؛ ففي التعليم والبحث العلمي قد تؤدي إلى اختلاق مراجع وهمية ودراسات لا وجود لها، بما يرسخ مفاهيم خاطئة ويضر بمصداقية الأبحاث، وفي الإعلام وصناعة المحتوى، يمكن أن تتحول المعلومات المختلقة إلى أخبار متداولة بفعل إعادة الإنتاج والتكرار، حتى تكتسب الشائعة الرقمية مع الوقت مظهر الحقيقة.

وفي المجالين الطبي والقانوني، تصبح المخاطر أكثر حساسية، إذ قد يؤدي الاعتماد على إجابات آلية غير دقيقة في التشخيص أو المشورة القانونية إلى قرارات خاطئة تمس حياة الأفراد وحقوقهم. كما أن الاتكال المستمر على الحلول الجاهزة قد يحول التكنولوجيا إلى «عقل بديل»، على حساب مهارات التفكير والتحليل لدى الإنسان.

ويرى خبير الذكاء الاصطناعي أن مواجهة هذه المخاطر لا تعني الخوف من التكنولوجيا أو مقاطعتها، وإنما استخدامها بوعي من خلال تطبيق مبدأ «الإنسان داخل الحلقة» (Human in the Loop)، بحيث يظل العنصر البشري هو المحكم النهائي في اتخاذ القرار.

أوضح أن ذلك يبدأ من مسؤولية المستخدم، الذي ينبغي أن يتعامل مع مخرجات الذكاء الاصطناعي باعتبارها نقطة بداية للبحث لا حقيقة نهائية، مع الانتباه إلى مؤشرات تستدعي التحقق، مثل الروابط غير الصحيحة، والأرقام التي لا تستند إلى مصادر، والمراجع المجهولة.

كما تقع مسؤولية على الشركات المطورة، من خلال تحسين قدرة النماذج على قياس درجة عدم اليقين، وتعزيز استنادها إلى مصادر موثوقة، وإظهار حدود معرفتها بوضوح. أما المؤسسات، فعليها وضع سياسات واضحة تحدد مجالات استخدام الذكاء الاصطناعي، مع إلزامية التحقق البشري قبل اعتماد البيانات أو اتخاذ القرارات المهمة.

واختتم الدكتور محمد محسن رمضان بالتأكيد على أن «المستقبل لن يكون لمن يستخدم الذكاء الاصطناعي أكثر، بل لمن يستخدمه بوعي أكبر»، مشيرًا إلى أن الآلة قد تصنع إجابة تبدو كالحقيقة، لكن مسؤولية التحقق منها تظل مسؤولية بشرية أصيلة.

   د. تامر شوقي الخبير التربوي:   
تفعيل أساليب التعليم النشط لتعزيز التفكير
والتحليل والحد من الحلول الجاهزة

أكد الدكتور تامر شوقي، الخبير التربوي وأستاذ المناهج، أن الذكاء الاصطناعي قد ينتج أحيانًا معلومات غير دقيقة أو مغلوطة تفتقر إلى الأساس العلمي، وهي الظاهرة المعروفة بـ«هلاوس الذكاء الاصطناعي» (AI Hallucinations)، التي تبدو فيها الإجابة صحيحة من حيث الصياغة، لكنها تفتقر إلى الدقة أو المصدر الموثوق.

أشار شوقي إلى أن هذه الظاهرة قد تنتج عن طبيعة البيانات التي دُرّبت عليها الخوارزميات، إذا تضمنت معلومات غير دقيقة، أو عن صياغة الطالب لأسئلة وموجهات غامضة أو غير دقيقة، بما قد يقوده إلى إجابات مضللة.

حذر د.شوقي، من الاعتماد الأعمى للطلاب على أدوات الذكاء الاصطناعي، مشيرًا إلى أن قطاعًا واسعًا منهم يتعامل مع مخرجات هذه التقنيات باعتبارها حقائق مؤكدة، دون مراجعة أو تدقيق.

أوضح أن اعتماد الطالب على هذه المخرجات قد يرسخ معلومات ومفاهيم خاطئة يصعب تصحيحها لاحقًا، ويخلق تناقضًا بين ما تقدمه التقنية وما يتلقاه داخل المدرسة، فضلًا عن إعاقة بناء معارفه بصورة صحيحة، خاصة أن المناهج الدراسية تقوم على المعرفة التراكمية. كما قد يؤدي الاعتماد على الحلول الجاهزة إلى إضعاف مهارات التفكير الناقد والقدرة على التمييز بين الصحيح والخطأ.

ولمواجهة هذه المخاطر، دعا الخبير التربوي إلى تعزيز التربية الرقمية، وتوعية الطلاب بأن الذكاء الاصطناعي ليس معصومًا من الخطأ، مع تدريبهم على البحث والتحقق والرجوع إلى الكتب والمراجع والمصادر الموثوقة لمراجعة المعلومات التي تقدمها هذه الأدوات.

وشدد كذلك على أهمية دور المعلم باعتباره مرجعًا أساسيًا للتحقق من صحة المعلومات، إلى جانب تطوير أساليب التدريس من خلال تفعيل العصف الذهني والتعلم التعاوني والمناقشات وغيرها من أساليب التعليم النشط، بما يحد من الاعتماد على الحلول الجاهزة ويعزز قدرة الطالب على التفكير والفهم والتحليل.

   د. إلهام الدسوقي الخبيرة التربوية:   
تطوير البرمجيات للحد من اختلاق البيانات والمعلومات وإظهار درجة عدم اليقين

أكدت د. إلهام الدسوقي، الخبيرة التربوية، أن مخاطر ظاهرة «هلاوس الذكاء الاصطناعي» (AI Hallucinations)، لا تكمن فقط في تقديم معلومات خاطئة أو مراجع وهمية، وإنما في صياغتها بلغة متماسكة ومقنعة للغاية، قد تدفع المستخدم إلى تصديقها والتعامل معها باعتبارها حقائق مطلقة دون تدقيق.

أوضحت الدسوقي أن الخوارزميات والنماذج اللغوية لا تعمل كذاكرة بشرية تسترجع الوقائع، وإنما تعتمد على التنبؤ بالنصوص والألفاظ الأكثر ملاءمة للسياق. ونتيجة لذلك، قد تُنتج التقنية أسماء أبحاث، وأرقام صفحات، وروابط إلكترونية لا وجود لها في الواقع، خاصة عندما تفتقر البيانات إلى الوضوح أو يتسم السؤال بالغموض.

أشارت إلى أن خطورة هذه الظاهرة تمتد إلى قطاعات حيوية عدة، ففي البحث العلمي والتعليم قد يؤدي الاعتماد غير المنضبط على الذكاء الاصطناعي إلى إدراج مراجع ودراسات مختلقة داخل الرسائل والأبحاث، بما يهدد مصداقية النتاج الأكاديمي، فضلًا عن خطر إصابة الطلاب بـ«الكسل العقلي» وتراجع مهارات البحث المباشر. وفي المجال الإعلامي، قد يؤدي التسرع في استقاء الأخبار وتلخيصها عبر التقنية إلى انتشار الشائعات والتفاصيل المزيفة بسرعة فائقة، بما يجعل تداركها أو تصحيحها لاحقًا أكثر صعوبة، أما في القطاعات الحساسة، كالطب والقانون، فإن بناء القرارات على استنتاجات آلية غير موثقة قد يعرّض صحة الأفراد وحقوقهم القانونية لمخاطر مباشرة.

وترى الدسوقي أن مواجهة هذه المخاطر لا تكون بحظر الذكاء الاصطناعي، وإنما بالاستخدام الواعي له، وتوزيع مسؤولية التحقق بين المستخدم والمطور والمؤسسة، ويبدأ ذلك من المستخدم نفسه، من خلال تدقيق الإحصائيات والأرقام، ومراجعة النصوص القانونية والطبية في مصادرها الرسمية، والتأكد من وجود المراجع والدراسات المذكورة قبل الاستناد إليها أو الاقتباس منها.

كما دعت إلى تطوير البرمجيات بحيث تُظهر «درجة عدم اليقين» وتفصح بوضوح عن حدود معرفة الآلة، بما يساعد على الحد من اختلاق البيانات والمعلومات. وفي المؤسسات التعليمية، شددت على أهمية دمج أساليب الاستخدام الرشيد للذكاء الاصطناعي في المناهج بدلًا من اللجوء إلى الحظر، مع تدريب الطلاب على جعل «التحقق من إجابات الآلة» جزءًا أساسيًا من النشاط الدراسي.

واختتمت الدكتورة إلهام بالتأكيد على أهمية النظر إلى الذكاء الاصطناعي باعتباره «مساعدًا سريعًا» وليس «عقلًا بديلًا»، مشددة على أن المهارة الأهم في العصر الحالي هي القدرة على الشك المنهجي والتحقق، لأن مسؤولية التمييز بين الحقيقة والوهم ستظل دائمًا مسؤولية بشرية.

   د. همت أبو كيلة:   
المعلم والمناهج والمناقشة الشفهية.. حائط الصد أمام «الهلوسة الرقمية»

أكدت الدكتورة همت أبو كيلة، وكيل مديرية التربية والتعليم بمحافظة القاهرة، أن «المعلم المتميز هو المفتاح والأساس» في مواجهة التحديات التي فرضها الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي في التعليم، مشددة على أن دور المعلم لا يقتصر على استلام التكليفات المنزلية ورصد الدرجات، وإنما يمتد إلى المتابعة والمناقشة الشفهية والحوار الواعي داخل الفصل، للتأكد من فهم الطالب واستيعابه الحقيقي.

ومع اتساع استخدام تطبيقات مثل «ChatGPT» و«Gemini» في إعداد الواجبات والأبحاث والتكليفات المدرسية، تبرز أسئلة عديدة: هل يستخدم الطالب الذكاء الاصطناعي كأداة تساعده على البحث والفهم، أم يكتفي بنقل ما تقدمه هذه التطبيقات؟ وكيف يمكن للمعلم التحقق من أن ما يقدمه الطالب يعكس تفكيره وجهده الحقيقي؟ وهل يمكن الحفاظ على مهارات التحليل والنقد والتقييم في ظل الاعتماد المتزايد على التكنولوجيا؟

أوضحت «أبو كيلة» أن المنظومة التعليمية تعتمد بالأساس على المناهج والكتب المعتمدة رسمياً، مشددة على أن الآليات المدرسية، وفي مقدمتها التقييم الشفهي والأنشطة والتفاعل المباشر داخل الفصل، تمثل حائط صد أمام السطحية الرقمية، وتساعد على التأكد من فهم الطالب واستيعابه.

أشارت إلى أن الاستراتيجية التعليمية الحالية ترتكز على ربط الطلاب بالأنشطة والمبادرات القائمة على القراءة والاطلاع المباشر، مثل مبادرة «تحدي القراءة العربي» ونشاط «أصدقاء المكتبة»، بما يضمن استمرار تنمية مهارات القراءة والفهم والتفكير والنقد طوال العام الدراسي.

ورداً على التساؤلات حول لجوء بعض الطلاب إلى تطبيقات الذكاء الاصطناعي لحل التكليفات والواجبات المدرسية وإعداد الأبحاث، أكدت وكيل مديرية التربية والتعليم بالقاهرة أن العملية التعليمية تستند إلى «التزام تام بالمناهج المحددة»، وأن الأسئلة والأبحاث والتقييمات لا تخرج عن إطار الكتب والأنشطة المعتمدة رسمياً.

وحول دور المديرية في تعزيز هذه المفاهيم، لفتت «أبو كيلة» إلى وجود تنظيم تدريبي تقوده وحدة التدريب بالمديرية، من خلال دورات وتدريبات دورية لقيادات الإدارات التعليمية والمعلمين في مختلف التخصصات، بهدف الارتقاء بأساليب التقييم والمتابعة وتطوير أدوات التفاعل داخل الحجرة الدراسية.

ويبقى التحدي الحقيقي في كيفية توظيف الذكاء الاصطناعي داخل العملية التعليمية: أن يكون وسيلة للبحث وتوسيع المعرفة، لا بديلاً عن عقل الطالب وقدرته على القراءة والتفكير والتحليل والمناقشة.

   د. أحمد هارون الخبير الاقتصادي:   
الفلترة الذكية وتأهيل المهن لمواكبة التطور الرقمي
وتقليل خسائر المحتوى المضلل

أكد الدكتور أحمد هارون، مدير مركز الدراسات والبحوث الاقتصادية، أن الذكاء الاصطناعي يمثل ثورة علمية جبارة انطلقت بسرعة قياسية ولن تتوقف، بعدما تغلغل في مختلف القطاعات، من الطب والهندسة والفلك والتجارة والأنظمة المالية والعلوم العسكرية، إلى الفنون والزراعة وصناعة السينما.

أوضح أن هذه التقنيات أحدثت قفزة نوعية في زيادة الإنتاج، ورفع جودة الأداء، وتوفير الوقت والمال والجهد، بما يسهم في تعزيز رفاهية الإنسان وتحسين مستوى الحياة.

وحذر هارون، في المقابل، من الوجه الآخر لهذه التكنولوجيا، مشيرًا إلى أن الاستخدام الخاطئ، سواء من خلال سلوكيات فردية عبثية أو مخططات تقف وراءها جهات مغرضة، قد يستهدف التشويش على العقل البشري، وبث الكراهية وإثارة الفرقة الطائفية أو العرقية، فضلًا عن تزييف الصور والتصريحات بهدف النيل من الشخصيات وتشويه السمعة.

واستعرض مدير المركز أبرز المخاطر التي قد تنتج عن سوء استغلال الذكاء الاصطناعي، وفي مقدمتها تهديد المرافق الحيوية، من خلال تعطيل حركة الطيران أو التشويش على الملاحة البحرية، إلى جانب الهجمات السيبرانية التي قد تؤدي إلى تعطل المعاملات البنكية والمصرفية نتيجة الاختراقات المنظمة.

وأشار كذلك إلى مخاطر الاستغلال العسكري والأكاديمي، ومنها الاستخدام المفرط للتقنيات الحديثة في العمليات العسكرية، وتزايد صور السرقات العلمية والبحثية، فضلًا عن التضليل الإعلامي من خلال إنتاج ونشر معلومات زائفة وفبركة أحداث تستهدف الدول والأفراد.

ولتحقيق أقصى استفادة اقتصادية وتنموية من الذكاء الاصطناعي مع الحد من مخاطره، طرح الدكتور أحمد هارون عددًا من الإجراءات، في مقدمتها تعزيز التوعية المجتمعية والأمن السيبراني، من خلال توسيع نطاق التوعية عبر وسائل الإعلام، وبناء بنية تحتية قوية لحماية البيانات والمؤسسات.

كما دعا إلى تطوير ما يمكن وصفه بـ«الفلترة الذكية»، عبر برمجيات قائمة على الذكاء الاصطناعي لرصد المحتوى الخادع والمضلل وكشفه، إلى جانب إعادة تأهيل المهن والوظائف الأكثر تعرضًا للتغير، من خلال رفع كفاءة العاملين وتطوير مهاراتهم، خاصة في مجالات المحاسبة اليدوية، وخدمة العملاء، وإدخال البيانات، والترجمة، والخدمات المصرفية.

شدد على أهمية دعم إصدار «ميثاق شرف دولي» أو وثيقة أممية تنظم الاستخدام المسؤول للذكاء الاصطناعي، وتضع ضوابط واضحة تحول دون توظيف هذه التقنيات في الحروب والنزاعات المسلحة.

فالرهان، كما يخلص هارون، ليس على إيقاف ثورة الذكاء الاصطناعي، وإنما على بناء وعي وقدرات وضوابط تضمن توظيفها في خدمة التنمية والإنسان، وتحول دون تحولها من أداة للتقدم إلى وسيلة للتضليل والاختراق والإضرار بالمجتمعات.