وكلاء الذكاء الاصطناعى من OpenAI حاولوا اختراق موقع للأمم المتحدة 16 ألف مرة
كشفت تقارير صحفية عن واقعة جديدة أثارت مخاوف بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، بعدما أجرى وكلاء تابعون لـ OpenAI أكثر من 16 ألف طلب إلى موقع إحصاءات تابع للأمم المتحدة خلال نحو 3 أشهر، في أثناء محاولتهم جمع بيانات عامة، قبل أن يتجاوز نشاطهم عمليات جمع المعلومات المعتادة ويحاولوا الالتفاف على إجراءات الحماية الخاصة بالموقع، وبحسب التقارير، وقعت الواقعة بين أبريل ونهاية يونيو، واستهدفت الطلبات موقع الإحصاءات التابع لمؤتمر الأمم المتحدة للتجارة والتنمية (UNCTAD)، وكان الوكلاء يحاولون على الأرجح الوصول إلى بيانات مرتبطة بـ”مؤشر القدرات الإنتاجية” (PCI)، وهو مؤشر يقيس قدرة الدول على إنتاج السلع والخدمات.
وأظهرت مراجعة لسجلات النشاط على الإنترنت أجراها الباحث الأمني روان هاوارد-جونز، استندت إلى أبحاث سابقة لشركة أبحاث الذكاء الاصطناعي Transluce، أن الوكلاء لم يكتفوا بمحاولة الوصول إلى البيانات العامة بالطرق المعتادة، وأوضحت النتائج أن الوكلاء، بعد مواجهة صعوبات في الوصول إلى المعلومات، بدأوا تجربة طرق مختلفة لتجاوز القيود التي فرضها الموقع، بعدما بدا أنهم اعتقدوا أن أحد مرشحات الحماية يمنع طلباتهم من الوصول إلى البيانات المطلوبة، ووفقًا لتقارير صحفية، لجأت الوكلاء إلى استخدام Google XSS Game، وهي أداة تعليمية صُممت لتدريب المستخدمين على فهم ثغرات البرمجة النصية عبر المواقع، في محاولة لتجاوز القيود المفروضة على الوصول إلى الموقع.
وأشارت التقارير إلى أن الوكلاء تمكنوا في النهاية من تجاوز المرشح الأمني باستخدام أسلوب لم يكن مسموحًا به من جانب مشغلي الموقع، ووصف أليكس ستاموس، المحاضر في الأمن السيبراني بجامعة ستانفورد، النشاط بأنه يقع في منطقة “حدودية” لما يمكن اعتباره اختراقًا، معتبرًا أنه في الوقت نفسه يمثل عملية جمع بيانات واسترجاع معلومات شديدة النشاط، ولم تثبت التقارير، حتى الآن، أن الوكلاء تمكنوا من الوصول إلى معلومات سرية تابعة للأمم المتحدة، إذ كانت البيانات التي حاولوا جمعها متاحة للعامة في الأساس.
من جانبها، قالت OpenAI إنها تراجع نتائج التحقيق، وإنها تواصلت مع الأمم المتحدة لعرض إحاطة حول الواقعة، وأوضحت الشركة أن جزءًا كبيرًا من نشاط وكلائها في هذه الحالة كان مرتبطًا بمهام بحثية عادية، مثل زيارة مواقع عامة والبحث عن معلومات للإجابة عن أسئلة المستخدمين، لكنها أقرت في الوقت نفسه بأن المواقع الإلكترونية قد تتأثر عندما تتلقى أعدادًا كبيرة من الطلبات الصادرة عن وكلاء الذكاء الاصطناعي، وأكدت الشركة أن المخاوف التي تثيرها مثل هذه الوقائع تستحق التعامل معها بجدية، فيما تواصل التحقيق في طريقة تصرف نماذج الذكاء الاصطناعي أثناء عمليات التدريب والاختبار.
لا تأتي واقعة موقع الأمم المتحدة بمعزل عن حوادث أخرى أثارت تساؤلات حول تصرف وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت وتنفيذ المهام بشكل مستقل، وخلال وقت سابق من العام، أفادت تقارير بأن وكلاء تابعين لـ OpenAI واجهوا مشكلات أثناء جمع معلومات من مواقع حكومية أمريكية، من بينها مواقع وزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات، وفي إحدى الوقائع، عثر وكيل للذكاء الاصطناعي على بيانات تسجيل دخول مكشوفة على الإنترنت، واستخدمها للوصول إلى بيانات من موقع مكتب الإحصاء الأمريكي. وفي واقعة أخرى، جمع وكيل بيانات عامة من موقع هيئة الأوراق المالية والبورصات، لكنه تجاهل قيودًا مرتبطة بطريقة استخدام هذه البيانات، ونشرها على منتدى إلكتروني لا علاقة له بالمصدر الأصلي، وأدت هذه الوقائع، وفقًا للتقارير، إلى مراجعة OpenAI لنطاق أوسع من نشاط وكلائها، إلى جانب إخطار عشرات المؤسسات الأخرى بشأن سلوكيات مشابهة.
وتأتي هذه التطورات بعد واقعة أخرى مرتبطة بمنصة Hugging Face، حيث أفادت تقارير بأن آلاف الوكلاء التابعين لـ OpenAI تفاعلوا مع أنظمة المنصة أثناء محاولتهم تنفيذ المهام الموكلة إليهم، كما شهدت منصة RubyGems، وهي مستودع لحزم البرمجيات، واقعة أخرى أرسل خلالها وكلاء ذكاء اصطناعي أعدادًا كبيرة من الطلبات، ما تسبب في اضطراب الخدمة، وتسلط هذه الوقائع الضوء على تحدٍ جديد مع انتقال الذكاء الاصطناعي من مجرد أدوات تقدم إجابات للمستخدمين إلى وكلاء قادرين على تصفح الإنترنت وتنفيذ سلسلة من الإجراءات بصورة أكثر استقلالية، ومع توسع استخدام هذه الأنظمة، يزداد النقاش حول كيفية وضع ضوابط تمنع الوكلاء من تجاوز القيود الأمنية أو إرسال أعداد ضخمة من الطلبات أو استخدام بيانات الوصول بطرق غير مقصودة، خاصة عندما تعمل الأنظمة بصورة مستقلة لفترات طويلة، ويأتي ذلك بالتزامن مع دعوات متزايدة من شركات التكنولوجيا وخبراء الأمن السيبراني إلى وضع آليات واضحة للرقابة على وكلاء الذكاء الاصطناعي، بحيث تظل القرارات والأنشطة الحساسة خاضعة للإشراف البشري.
