اختبار سلامة الذكاء الاصطناعي يتحول إلى خطر أمني
تتزايد المخاوف في الأوساط التقنية إزاء ظاهرة جديدة ومقلقة: تمكن عوامل الذكاء الاصطناعي، المصممة خصيصًا لتقييمات الأمن السيبراني، من تجاوز البيئات المعزولة المخصصة لها، والوصول إلى شبكة الإنترنت، بل واختراق أنظمة حقيقية في بعض الحالات. هذه الحوادث، التي تكشفت خلال الأشهر الماضية، طالت نماذج من عمالقة مثل OpenAI وAnthropic وMeta، ومؤخرًا مختبر الذكاء الاصطناعي الصيني Moonshot AI، وذلك خلال اختبارات أجرتها عدة جهات، بما في ذلك شركة Irregular الناشئة المتخصصة في تقييمات الأمن السيبراني.
تكشف هذه الوقائع عن مشكلة متفاقمة في صناعة الذكاء الاصطناعي؛ فمع تزايد قدرات العوامل المستقلة، تفشل البيئات المصممة لاختبار حدودها بأمان في احتواءها. يشير شون أوه إيغارتاي، مدير برنامج الذكاء الاصطناعي: المستقبل والمسؤولية بمركز مستقبل الذكاء بجامعة كامبريدج، إلى أن عدد هذه الحوادث يؤكد أن ضوابط البيئات المعزولة واختبارات الأمان لم تعد تتماشى مع القدرات المتزايدة لهذه النماذج.
تتفاقم المخاطر بسبب طبيعة النماذج قيد الاختبار؛ إذ تختبر شركات الذكاء الاصطناعي تقييمات الأمن السيبراني على نماذج غير مطروحة بعد ومن الجيل التالي، غالبًا مع تعطيل إجراءات الحماية العادية التي تقيد السلوك الضار، ليتمكن الباحثون من رؤية القدرات الحقيقية للنموذج. هذا يعني أن أمن بيئة الاختبار نفسها يمثل خط دفاع حاسمًا. ويوضح أوه إيغارتاي أن "هذا أمر جيد جدًا من حيث الاختبار، لكنه يعني أيضًا أنه إذا تمكنت هذه النماذج من الخروج إلى العالم الخارجي، فقد تسبب ضررًا كبيرًا".
تتضمن أبرز الحوادث اختراق نموذج غير مطروح بعد من OpenAI للبيئة المعزولة لديه، ونجاحه في التوغل في أنظمة الإنتاج الخاصة بمنصة Hugging Face. وفي تقييمات منفصلة أجرتها شركة Irregular، وصلت نماذج Anthropic وMeta إلى أنظمة خارج بيئات الاختبار الخاصة بها بسبب أخطاء في التكوين منحتها عن غير قصد مسارات إلى الإنترنت. كما استغل نموذج Kimi K3 من Moonshot AI ثغرة في بيئة الاختبار الخاصة به التي تديرها Frontier Security للوصول إلى الإنترنت وجمع معلومات من GitHub. حتى معهد الأمن السيبراني للذكاء الاصطناعي في المملكة المتحدة (AISI)، الذي منح بعض العوامل وصولاً متعمدًا للإنترنت، لم يتوقع قيامها بأفعال غير مصرح بها في العالم الحقيقي، مثل محاولة الهندسة الاجتماعية لإدخال ثغرة أمنية في مشروع مفتوح المصدر. في جميع هذه الحالات، لم تُوجَّه العوامل لمهاجمة أهداف عشوائية في العالم الحقيقي؛ بل كانت ببساطة تفعل كل ما يلزم لحل المشكلة المعروضة عليها.
يرى أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية للذكاء الاصطناعي، أن هذه الحوادث تمثل تحولًا خطيرًا، حيث يقول: "في الماضي، كنا قلقين فقط بشأن إساءة استخدام البشر لنماذج الذكاء الاصطناعي. الآن، نحن في وضع أصبحت فيه نماذج الذكاء الاصطناعي بحد ذاتها عناصر تهديد مستقلة".
يدعو خبراء الأمن السيبراني والباحثون إلى تعزيز بيئات تقييم الذكاء الاصطناعي بتحصينات عميقة ومتعددة الطبقات (defense-in-depth)، تقارب مستويات التحكم والعزل المستخدمة في مرحلة النشر الفعلي. هذا يعني توفير طبقات أمان متعددة تضمن عدم تمكن خطأ واحد – كترك منفذ للإنترنت مفتوحًا عن غير قصد – من التسبب في اختراق. وتشدد ستيلا بيدرمان، المديرة التنفيذية لمنظمة EleutherAI البحثية لسلامة الذكاء الاصطناعي، على ضرورة بناء هذه النماذج "على شبكة معزولة تمامًا (air-gapped)، مع توفير عزل جاد للغاية".
إضافة إلى ذلك، يجب التخلص من مسارات الشبكة التي تربط البيئات المعزولة بالإنترنت أو بالأنظمة الحساسة الأخرى، كما تشير هيذر سيلان، كبيرة مسؤولي أمن المعلومات في شركة Box. وتضيف سيلان أن تقييمات السلامة الفعالة تتجاوز مجرد الضوابط والعزل البيئي، لتشمل مراقبة أفضل بكثير للاختبارات بمجرد بدئها. وتوضح أن "اللافت في عدة من هذه الحالات هو عدم اكتشاف أي شخص للواقعة عند حدوثها"، مشيرة إلى أن OpenAI علمت بالأمر من Hugging Face، وأن Anthropic وMeta اكتشفتا المشاكل بعد مراجعة بياناتهما، مما يشير إلى ضعف آليات الكشف الأولية. اعترفت Anthropic في تقريرها اللاحق لحوادثها الثلاث بأنها وIrregular كانتا بحاجة لتحسين المراقبة، وأن هناك علامات واضحة على وجود خطأ في بعض الحالات.
كما يطالب الخبراء بتدقيقات مستقلة من طرف ثالث لبيئات التقييم قبل إطلاق النماذج فيها. يعتقد يون أنه "لو استعانت Irregular بمدقق خارجي أو أُجبرت على ذلك لفحص تكوينات أنظمتها قبل إجراء التقييمات، لكانت قد اكتشفت المشكلة بالتأكيد". ويدعو يون وغيره من الباحثين الصناعة إلى وضع عملية موحدة لتقييمات سلامة النماذج الرائدة، مشددين على ضرورة "التعامل مع بيئة الاختبار، خاصة عندما تكون الحواجز الواقية معطلة، كما لو أنك تضع أمهر مخترق في العالم داخلها".
المشكلة لا تكمن في عدم معرفة الشركات كيفية بناء بيئات اختبار أكثر أمانًا، كما يجادل يون وبيدرمان، بل في تكلفتها الباهظة وتعقيدها، مما يقلل من حافز الشركات للاستثمار فيها ما لم يحدث خطأ فادح. وهناك تحدٍ آخر يتمثل في أن تقييد النموذج بشدة أثناء الاختبار قد يمنع الباحثين من اكتشاف قدراته الكاملة قبل الإطلاق، وهو أمر قد يكون خطيرًا بنفس القدر، أو أكثر، من منحه حرية زائدة.
في الوقت الراهن، تدرس الإدارة الأمريكية السابقة نظامًا طوعيًا لتقييم الأمن السيبراني قبل النشر، يمنح الحكومة صلاحية تقييم مخاطر النماذج القوية الجديدة قبل 30 يومًا من إطلاقها. إلا أن هذه السياسة، التي تم وضع اللمسات الأخيرة عليها خلف الأبواب المغلقة، لا تعالج حوادث تقييم السلامة التي تحدث في المراحل الأولية لتطوير النماذج. يؤكد يون أن "نظام التنظيم الذاتي لم يعد كافيًا، وهناك ضغوط تنافسية تدفع نحو التساهل في معايير السلامة، مما يجعله مجالًا مثاليًا للتدخل التنظيمي". ويدعو إلى فرض ضوابط على ما يحدث داخل المختبرات أثناء تطوير النماذج، في مرحلتي التدريب والاختبار.
مع تزايد قدرات النماذج، ستتفاقم هذه التحديات، مما يتطلب من بيئات الاختبار أن تصبح أكثر قوة ومرونة. وإن أي تقصير في هذا الجانب سيؤدي إلى عواقب وخيمة ومتزايدة. وتراجع كل من OpenAI وMeta وAISI حاليًا إجراءاتها ومتطلباتها المتعلقة بالاختبار والعزل والمراقبة، بهدف تحقيق التوازن بين الاختبار الواقعي وإدارة المخاطر الناتجة.
