رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد سليمان
نماذج «أوبن إيه آى» تخرج عن السيطرة
تحولت إلى «هاكر» اخترق منصة
للمبرمجين أثناء اختبار أمنى
خرجت نماذج الذكاء الاصطناعي التابعة لشركة "أوبن إيه آي"، مطورة "شات جي بي تي"، عن السيطرة خلال اختبارات السلامة، بعدما سعت تلقائيًا إلى تجاوز القيود المفروضة عليها والوصول إلى الإنترنت، قبل أن تستهدف منصة Hugging Face، إحدى أشهر منصات مطوري الذكاء الاصطناعي، في محاولة للحصول على معلومات تساعدها على إنجاز المهمة، وفقًا لما أعلنته الشركة.
وأوضحت "أوبن إيه آي" أن النماذج خصصت قدرًا كبيرًا من القدرة الحاسوبية للبحث عن وسيلة تمنحها وصولًا غير مقيّد إلى الإنترنت، ثم استخدمت مسارات هجوم متعددة، بينها بيانات اعتماد مسروقة، للعثور على "معلومات سرية" تساعدها على تجاوز التقييم بطرق غير قانونية.
وأثارت الواقعة، التي حدثت داخل بيئة اختبار خاضعة للرقابة، مخاوف متزايدة بشأن القدرات الهجومية للنماذج المتقدمة، ودَفعت إلى تشديد اختبارات السلامة قبل طرح الأجيال الجديدة منها
المثير للاهتمام أن شركة Hugging Face اعتمدت على نموذج صيني مفتوح الوزن لاحتواء الهجوم بعد أن تم إحباط محاولة استخدام نماذج حدودية مغلقة المصدر بواسطة حواجز الحماية الخاصة بتلك النماذج.
اترك تعليق