رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد سليمان
هل خرج الذكاء الاصطناعى عن السيطرة؟
اختراقات متتالية تدفع أوروبا للتحرك..
وتحقيقات مع «OpenAI وAnthropic»
أعلنت المفوضية الأوروبية أنها تجري محادثات مع شركتي «OpenAI وAnthropic» عقب الكشف عن تجاوزات وقعت أثناء اختبارات أمن سيبراني، شملت تمكن بعض نماذج Claude التابعة لـAnthropic من اختراق أنظمة ثلاث شركات، إضافة إلى حادثة وكيل ذكي تابع لـOpenAI تجاوز نطاق بيئة الاختبار ووصل إلى بنية تحتية بحثية.
قال مسؤولون بالمفوضية إن الشركتين أبلغتا الاتحاد الأوروبي بالحوادث قبل إعلانها للرأي العام، وإن بروكسل تنتظر معلومات إضافية لتحديد ما إذا كانت ستتخذ إجراءات رسمية.
تأتي هذه التطورات قبل بدء تطبيق قانون الذكاء الاصطناعي الأوروبي في 2 أغسطس، وهو أول إطار تشريعي شامل ينظم استخدام الذكاء الاصطناعي.
ويُلزم القانون مطوري النماذج الأساسية عالية المخاطر بمراقبة المخاطر النظامية، بما يشمل الهجمات السيبرانية، وإساءة الاستخدام، واحتمال خروج الأنظمة عن السيطرة البشرية، مع فرض غرامات قد تصل إلى 35 مليون يورو أو 7% من الإيرادات العالمية للشركات المخالفة.
اترك تعليق