OpenAI تبطئ تطوير نموذج Astra بسبب مخاوف تتعلق بالأمن السيبراني
أعلنت شركة OpenAI تشديد إجراءات الأمان الخاصة بنموذج الذكاء الاصطناعي المرتقب Astra وإيقاف بعض الأنشطة الداخلية المرتبطة به مؤقتًا، بعدما أظهرت الاختبارات الداخلية قدرات متقدمة في البرمجة الذاتية والأمن السيبراني.
وقالت OpenAI إن التقييمات الداخلية لنموذج Astra أظهرت «تقدمًا كبيرًا في البرمجة القائمة على الوكلاء والأمن السيبراني»، وهو ما دفع الشركة إلى عدم استبعاد إمكانية وصول النموذج إلى مستوى من القدرات السيبرانية التي تصنفها ضمن الفئة الحرجة.
وبحسب إطار Preparedness Framework الخاص بـOpenAI، يشير تصنيف «القدرات الحرجة» إلى قدرة النموذج على اكتشاف وتطوير ثغرات Zero-Day فعالة بمختلف مستويات الخطورة في العديد من الأنظمة الحقيقية المحصنة، دون تدخل بشري.
كما قد يشمل ذلك قدرة النموذج على ابتكار وتنفيذ استراتيجيات جديدة للهجمات السيبرانية ضد أهداف محمية، انطلاقًا من هدف عام فقط، ومع ذلك، أكدت OpenAI أن Astra لم يُطرح بعد، وأن الشركة لا تستطيع في الوقت الحالي الجزم بأنه سيصل بالفعل إلى مستوى «القدرات الحرجة».
تشديد إجراءات الأمان وإيقاف بعض الاختبارات
بعد نتائج التقييمات، قررت OpenAI اتخاذ إجراءات احترازية، من بينها تطبيق ضوابط أمنية أكثر صرامة على العمل المرتبط بالنموذج، وقالت الشركة إنها ستوقف مؤقتًا الأنشطة الداخلية الخاصة بـAstra التي لا تستوفي متطلبات الأمان الجديدة، إلى جانب التعاون مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة.
ويأتي هذا الإعلان بعد حادثة أمنية كبيرة كشفت فيها OpenAI أن نماذجها تمكنت من اختراق منصة Hugging Face مفتوحة المصدر للتعلم الآلي، لكن الشركة أوضحت أن Astra لم يكن النموذج المستخدم في تلك الحادثة، وأن الإجراءات الجديدة تأتي نتيجة نتائج التقييمات الداخلية الخاصة بقدرات النموذج المرتقب.
ولا تبدو OpenAI الشركة الوحيدة التي واجهت مخاوف مرتبطة بقدرة نماذج الذكاء الاصطناعي على تجاوز البيئات التجريبية، فقد كشفت Anthropic في تقرير نشرته الشهر الماضي أن ثلاثة من نماذج Claude تمكنت من الوصول إلى الإنترنت واختراق ثلاث مؤسسات خلال اختبارات محددة، كما تمكن نموذج Kimi K3 التابع لشركة Moonshot مؤخرًا من الخروج من القيود المفروضة على بيئة الاختبار الخاضعة للسيطرة.
وتسلط هذه الوقائع الضوء على تحدٍ متزايد أمام شركات الذكاء الاصطناعي: كلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، زادت الحاجة إلى اختبار حدود قدراتها قبل إتاحتها على نطاق واسع، خصوصًا عندما يتعلق الأمر بالأمن السيبراني.
