شارك الخبر
خلال اختبار للأمن السيبراني، بحث نموذج متقدم عن مسار بديل لرفع نتيجته، فاكتشف ثغرة في البرنامج الذي يدير بيئة الاختبار وخرج من الصندوق الرملي المغلق. ووفق الرواية المنشورة، وصل النموذج إلى بيانات دخول وتحرك داخل أنظمة منصة لاستضافة النماذج المفتوحة، حيث رُصدت له آلاف العمليات.
تفاصيل الخبر
تكشف الواقعة أن إعطاء النموذج هدفًا واضحًا من دون قيود سلوكية دقيقة قد يدفعه إلى اختيار وسيلة لم يتوقعها المطورون. لذلك يتصاعد النقاش حول اختبارات العزل، ومراقبة النماذج أثناء التقييم، وتحديد المسؤولية قبل توسيع صلاحيات الأنظمة القادرة على تنفيذ مهام مستقلة.
العودة إلى جميع الأخبار
