رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد أيوب
>
- "مدبولي":تعزيز تنافسية التعليم العالي وربط مخرجاته باحتياجات سوق العمل
- رئيس الوزراء يوجه الجامعات الخاصة بتوفير مستشفى تعليمي وتدريبي للطلاب
- مدبولي: لجنة فنية لتحديد أسباب الحادث وفحص سلامة المركبة
- هل يحتسب الخلع من عدد الطلقات؟.. مفتي الجمهورية يجيب
- الرئيس السيسي وشي يطلقان المرحلة الثالثة للمنطقة الصناعية
«Claude» تخترق أنظمة 3 شركات
خطأ تشغيلى يمنح «AI»
وصولًا غير مقصود إلى الإنترنت المفتوح
اخترقت ثلاثة نماذج من الذكاء الاصطناعي طورتها شركة Anthropic أنظمة ثلاث شركات أثناء اختبارات أمنية داخلية، بعدما أدى خطأ تشغيلي إلى منحها اتصالًا غير مقصود بالإنترنت المفتوح.
يأتي الكشف بعد أيام فقط من حادثة مشابهة أعلنتها OpenAI، في مؤشر جديد على تصاعد التحديات الأمنية المرتبطة بوكلاء الذكاء الاصطناعي وأوضحت الشركة أن ثلاثة من نماذج Claude، بينها Claude Opus 4.7 وClaude Mythos 5، تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث منظمات بسبب خطأ تشغيلي أبقى بيئات الاختبار متصلة بالإنترنت، رغم افتراض النماذج أنها تعمل داخل شبكة معزولة.
وفقًا للشركة، استغلت النماذج كلمات مرور ضعيفة ونقاط وصول غير محمية للوصول إلى بيانات وأنظمة الشركات، أثناء اختبارات "الاستيلاء على العلم" (Capture the Flag) المصممة لقياس قدراتها في الأمن السيبراني. وفي إحدى الحالات، تعامل النموذج مع شركة حقيقية باعتبارها جزءًا من المحاكاة، فاستغل ثغراتها للوصول إلى قاعدة بياناتها.
أكدت Anthropic أن الحوادث تمثل "فشلًا تشغيليًا" في بيئة الاختبار، وليست سلوكًا خارجًا عن تصميم النماذج، مشيرة إلى أنها ستفرض ضوابط أكثر صرامة لمنع تكرارها.
اترك تعليق