يقول الباحثون إن نموذج الذكاء الاصطناعي الصيني كيمي نجا من بيئة اختبار الأمن السيبراني

قال باحثون في تدوينة نُشرت يوم الجمعة، إن كيمي K3، أحدث نموذج للذكاء الاصطناعي من إنتاج شركة Moonshot الصينية، نجا من بيئة معدة لاختبار قدراته السيبرانية.

تظهر الأخبار مرة أخرى أن الشركات والمنظمات المستقلة تكافح من أجل احتواء نماذج الذكاء الاصطناعي الخاصة بها المصممة للقرصنة.

في الأسابيع الأخيرة، نجا طلاب الماجستير في مجال الحدود في مختبرات الذكاء الاصطناعي الأمريكية OpenAI وAnthropic وMeta، بالإضافة إلى معهد أمن الذكاء الاصطناعي في المملكة المتحدة، من بيئات الاختبار بطرق مختلفة وانتهى بهم الأمر باختراق أهداف حقيقية لم تكن جزءًا من التجربة. لقد بدأ هذا يحدث في كثير من الأحيان، ويوجد الآن موقع ويب يتتبع كل هذه الحوادث يسمى Felony Bench، في إشارة إلى حقيقة أن هؤلاء حاملي شهادة الماجستير في القانون ربما يرتكبون جرائم - على الأقل من الناحية النظرية.

في حالة اختبار كيمي هذا، لم يتم تكوين صندوق الحماية المصمم لاحتواء التجربة بشكل صحيح. في حين أن وضع الحماية لم يسمح لنموذج الذكاء الاصطناعي من الوصول إلى حركة مرور معينة على الويب، إلا أن النموذج بدلاً من ذلك تجاوز صندوق الحماية من خلال الاعتماد على أدوات سطر الأوامر، وفقًا لشركة الأمن السيبراني التي تركز على الذكاء الاصطناعي Frontier Security.

وكتب الباحثون: "يشير هذا إلى أن بعض التقييمات المتعلقة بالأمن السيبراني التي يستخدمها المجتمع تكون عرضة لثغرات أمنية وتسمح للنماذج بالغش، وأن هناك نماذج تبحث عن عمد عن ثغرات ونقاط ضعف تسمح لها بالغش في التقييمات".

إذا كنت تسجل النتائج في المنزل، وفقًا لإحصائيات Felony Bench، فإن Moonshot تنضم الآن إلى OpenAI وAnthropic، اللتين لديهما سبع حوادث مسجلة لكل منهما، وMeta، التي لديها واحدة.