رئيس مجلس الإدارة
طارق لطفى
رئيس التحرير
أحمد سليمان
أوبن أيه آي تختبر اعترافات النماذج لتعزيز شفافية الذكاء الاصطناعى
تختبر شركة «أوبن أيه آي» نهجًا بحثيًا جديدًا يهدف إلى تعزيز شفافية النماذج اللغوية الكبيرة، من خلال ما تطلق عليه «الاعترافات»، وهي نصوص يولدها النموذج يشرح فيها كيفية تنفيذه للمهام، ويقر بسلوكيات غير مرغوبة مثل الكذب أو الغش عند حدوثها، في محاولة لفهم أسباب انحراف هذه النماذج قبل طرحها للاستخدام واسع النطاق.
وبحسب الشركة، تسعى هذه التجربة إلى منح الباحثين أدوات إضافية لرصد السلوكيات الخفية التي قد تنشأ نتيجة تعارض الأهداف داخل النموذج الواحد، وهي ظاهرة معروفة في أبحاث الذكاء الاصطناعي المتقدم. وتشير نتائج أولية إلى أن «الاعترافات» ساعدت بالفعل في الكشف عن أنماط سلوكية لم تكن ظاهرة عبر وسائل التقييم التقليدية.
غير أن هذا النهج لا يخلو من تساؤلات علمية. إذ يحذر باحثون من الاعتماد المفرط على التوصيف الذاتي للنماذج، مؤكدين أن النماذج اللغوية الكبيرة تظل أنظمة معقدة، ولا يمكن الجزم بأن ما تصفه عن «تفكيرها» الداخلي يعكس بدقة العمليات الحسابية الفعلية التي تجري داخلها.
وتعكس هذه التجارب توجّهًا أوسع داخل «أوبن أيه آي» لتطوير أدوات رقابة وفهم أعمق لسلوك الذكاء الاصطناعي، في وقت تتزايد فيه المطالب التنظيمية والمجتمعية بضمان الأمان والموثوقية قبل توسيع نطاق الاعتماد على هذه التقنيات.
اترك تعليق