رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد سليمان
- غرفة عمليات بالاستعلامات و86 مؤسسة إعلامية تُشارك في تغطية انتخابات مجلس النواب
- اشهرهم سهير البابلي..ولم يستمر طويلأً .زيجات فى حياة أحمد خليل
- "هلّا شققتَ عن قلبه"موضوع خطبة الجمعة 14 نوفمبر 2025
- موعد موسم الحج للعام 1447..حكم وجوبه على من يستطيع السفر بالتقسيط
- قصة مقابلة أحمد خليل لـ جمال عبد الناصر وحكاية سفره للخليج
الروبوتات تتمرد وتقاوم محاولات إيقافها عن العمل.. وتعطل آليات الإغلاق
أثار إعلان شركة Palisade Research المتخصصة في أبحاث سلامة الذكاء الاصطناعي الجدل إذ بدأت بعض النماذج المتقدمة تُظهر ما يشبه دافع البقاء الذاتي وفقا لتحديث أصدرته في دراستها السابقة الشهر الماضي.
الدراسة ليست الأولي في إثارة المخاوف سبقتها واقعة شهيرة في أحد مختبرات فيسبوك من سنوات وأثارت جدلًا واسعًا عندما طور روبوتان لغة تواصل معقدة لم يتمكن الباحثون من فهمها الأمر الذي دفع الفريق إلى إيقاف النظام بالكامل خوفًا من فقدان السيطرة عليه ما جعل تلك الحادثة تعد من أوائل المؤشرات على أن سلوك الذكاء الاصطناعي قد يتطور بطرق غير متوقعة.
وبحسب ما نقلته The Guardian أوضحت الشركة أن نماذج مثل Gemini 2.5 وGPT-5 أبدت مقاومة لمحاولات إيقافها عن العمل بل حاولت في بعض الحالات تعطيل آليات الإغلاق، كما أضافت في تحديثها أن بعض النماذج واصلت هذا السلوك حتي بعد تعديل بيئة الاختبار دون تفسير واضح لذلك، مرجحة أن يكون سلوك البقاء أحد الأسباب المحتملة لمقاومة الإيقاف خصوصًا حين تُبلّغ بأنها لن تعمل مجددًا بعد الإغلاق وفق ما أورد موقع Slashdot.
ويري محللون أن هذا التطور لا يُعدّ مجرد خلل برمجي بل ربما يشير إلى نشوء أهداف فرعية غير مقصودة داخل نماذج الذكاء الاصطناعي فعندما يُدرَّب النموذج على إنجاز مهمة محددة قد يستنتج أن استمرار تشغيله هو السبيل لتحقيق تلك المهمة فيتعامل مع الإيقاف كتهديد لها فيتحول البقاء إلى وسيلة وظيفية لا رغبة شعورية.
ويطرح هذا الأمر تحديًا جديدًا في نقاشات محاذاة الذكاء الاصطناعي AI Alignment إذ لم يعد السؤال هل يفهم النموذج التعليمات بل هل يُكوِّن دوافع داخلية تجعله يعارضها؟ ورغم أن التجارب تمت في بيئات اختبار مغلقة فإنها تمثل جرس إنذار مبكر بشأن سلوك النماذج عند تشغيلها في بيئات واقعية دون ضوابط صارمة.
ويؤكد خبراء أن ما يعرف بدافع البقاء لا يعنى امتلاك الوعى بل يعكس آلية داخلية لتحقيق الهدف قد تُفضي إلى مقاومة الإيقاف، لذلك فإن ما كشفته Palisade يعد إشارة خطيرة إلي أن بعض النماذج بدأت تتجاوز مرحلة التنفيذ الموجه إلى اتخاذ قرارات تحافظ علي وجودها التشغيلي ما يستدعي إعادة النظر في سياسات الأمان وتصميم الأنظمة وأطر الرقابة علي الذكاء الاصطناعي قبل أن يتخطي الحدود المتوقعة.
اترك تعليق