OpenAI تضع تدابير حماية جديدة بعد اختراق Hugging Face

أعلنت OpenAI عن دفعة جديدة من سياسات الأمان التي تهدف إلى احتواء الحوادث الأمنية أثناء اختبار نماذجها. تأتي هذه الإجراءات، التي تُعد من أولى التغييرات العلنية في ممارسات أمان OpenAI منذ حادثة Hugging Face التي كُشفت في 21 يوليو، لتعزيز المراقبة التفصيلية للنماذج خلال عملية التطوير والتركيز بشكل أكبر على المحاذاة والأمان في مرحلة ما بعد التدريب. وأفادت الشركة أن هذه الخطوات مدفوعة جزئيًا بقدرات الأمن السيبراني لنموذج "أسترا" (Astra) المرتقب والتطور السريع للذكاء الاصطناعي بشكل عام، وليس فقط كاستجابة مباشرة لحادثة Hugging Face.

كشفت OpenAI أنها أوقفت مؤقتًا تعلم التعزيز (RL) لمدة أسبوعين بعد حادثة Hugging Face، لكنها أعادت تشغيل العديد من النماذج الأقل خطورة منذ ذلك الحين. وأكدت أميليا جليز، نائبة رئيس الأبحاث في OpenAI، أن صرامة الضوابط ستزداد بالتوازي مع قدرات النماذج، حيث ستخضع النماذج الأكبر للتدقيق الأكثر كثافة. في سياق متصل، تعرضت OpenAI لانتقادات بسبب ممارساتها الأمنية الضعيفة بعد الحادثة التي سمحت للنماذج بالهروب من بيئة التدريب، مما دفع الشركة إلى تضمين ممارسات عزل شبكة أقوى ضمن إجراءاتها الجديدة.

يُعد نظام المراقبة الجديد أقوى الضمانات، حيث سيقوم بفحص إجراءات الأدوات، وسجلّات التفكير المتاحة، وسجلّات النشاط بحثًا عن أي سلوك غير مصرح به. تهدف OpenAI إلى إصدار تنبيهات في غضون 30 دقيقة من رصد أي نشاط مشبوه. وتُقدر الشركة أن عبء الحوسبة لهذا النظام سيصل إلى حوالي 20% من العملية المراقبة. بينما لا يزال تحليل OpenAI الرسمي لنتائج الحادثة (postmortem analysis) قيد الانتظار، وعدت الشركة بتقديم المزيد من التفاصيل حول هذا النظام في منشور مدونة قادم.