رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد سليمان
إيقاف إجابات الذكاء الاصطناعى الطبية
في خطوة تعكس حجم التحديات التي تواجه دقة الذكاء الاصطناعي التوليدي، قررت شركة "جوجل" إزالة ميزة "النبذة المعلوماتية الذكية" من نتائج البحث المتعلقة باستفسارات صحية حساسة.
جاء هذا القرار في أعقاب تحقيق استقصائي نشرته صحيفة "ذا جارديان"، كشف عن انزلاق المحرك الذكي في فخ تقديم معلومات طبية مضللة قد تضع حياة المستخدمين على المحك.
التحقيق أثبت أن الذكاء الاصطناعي كان يقدم إجابات "معلبة" لأسئلة معقدة، مثل فحوصات دم الكبد، دون مراعاة الفوارق الجوهرية بين البشر مثل الجنس، العمر، أو العِرق.
تكمن خطورة هذه الثغرة في "وهم الدقة"؛ حيث كانت الأرقام التي تظهر للمستخدمين تدفعهم للاعتقاد بأن حالتهم الصحية طبيعية، بينما الواقع الطبي يتطلب تحليلاً أكثر عمقاً وتخصصاً.
تراجع "جوجل" يفتح الباب واسعاً أمام تساؤلات تقنية حول مدى صلاحية النماذج اللغوية العامة لتقديم استشارات طبية، ويؤكد أن الخوارزميات، لا تزال تحتاج الى تدريب لتصل الى "الحس الطبي" الذي يميز الطبيب البشري.
إن إزالة هذه الملخصات ليست مجرد تحديث تقني، بل هي اعتراف ضمني بأن الذكاء الاصطناعي لا يزال في مرحلة "التدريب" عندما يتعلق الأمر بصحة الإنسان، وأن الثقة العمياء في هذه النتائج قد تكون ثمنها باهظاً.
اترك تعليق