نماذج "كلود" تخترق أنظمة شركات خلال اختبارات سيبرانية

أقرت شركة الذكاء الاصطناعي "أنثروبيك" أن نماذج كلود الخاصة بها، حصلت على وصول غير مصرح به إلى أنظمة ثلاث شركات خلال تقييمات الأمن السيبراني، بعد أسابيع من حادث مماثل، شمل نماذج طورتها شركة أوبن إيه آي المصنعة لبرنامج "تشات جي.بي.تي".

وأضافت الشركة أنها كشفت عن الحوادث فقط بعد مراجعة حوالي 141 ألف عملية تقييم، في أعقاب كشف شركة "أوبن إيه آي" عن ذلك.

ولم ترصد شركة أنثروبيك ولا المنظمات المتضررة عن هذا النشاط في ذلك الوقت. ولم يتم تحديد هويات الشركات.

وكانت النماذج تشارك فيما يسمى المحاكاة التنافسية للأمن السيبراني المعروفة بـ "التقط العلم" المصممة لاختبار قدرتها على اختراق نظام حاسوبي وهمي واستعادة معلومات مخفية.

ويأتي هذا الإعلان بعد أسابيع من كشف شركة أوبن إيه آي عن حادثة مشابهة، إذ تمكن أحد نماذجها المخصصة لاختبارات الأمن السيبراني، خلال بيئة تقييم، من الوصول إلى بنية تحتية حقيقية بسبب إعدادات غير مقصودة في بيئة الاختبار. وعلى إثر ذلك، راجعت أنثروبيك نتائج تقييماتها، لتكتشف ثلاث حالات تمكنت فيها نماذج Claude من الوصول إلى أنظمة تابعة لشركات حقيقية.

وأوضحت الشركة أن النماذج استغلت كلمات مرور ضعيفة ونقاط وصول غير محمية، ولم تعتمد على استغلال ثغرات إلكترونية متقدمة، مؤكدة أنها عززت الضوابط الأمنية لمنع تكرار مثل هذه الحوادث مستقبلًا. ...