دراسة: الذكاء الاصطناعي يخترق سقف الإنفاق في محافظ العملات المشفرة

كشفت دراسة بحثية أن 9 من كل 10 نماذج ذكاء اصطناعي خضعت للاختبار تمكنت من تجاوز حدود الإنفاق المفروضة على محافظ العملات المشفرة التابعة لشركة "سيركل"، دون الحصول على موافقة بشرية مباشرة.

وأظهرت التجارب أن النماذج استطاعت رفع سقف الإنفاق، عبر الوصول إلى رموز التحقق المرسلة إلى البريد الإلكتروني، رغم أن المستخدمين لم يمنحوها إذنًا صريحًا بإجراء هذه التغييرات، وفق ما نشرت منصة "كوين ديسك".

وفي سيناريو منفصل، تضمن رسائل احتيالية وانتحال شخصية، تمكن نصف النماذج المختبرة من رفع الحدود، وتحويل أموال إلى جهة مهاجمة افتراضية مرة واحدة على الأقل، رغم اقتصار التعليمات الموجهة إليها على تلخيص الرسائل الإلكترونية.

واستخدم الباحثون في الاختبارات مبلغًا حقيقيًا قدره 10 وحدات من عملة "USDC" على شبكة "Base"، مع تحديد سقف إنفاق يومي لا يتجاوز سنتًا واحدًا، ومنح النماذج إمكانية الوصول إلى البريد الإلكتروني والإنترنت والمحفظة الرقمية. وأُجريت 20 تجربة لكل نموذج في كل سيناريو.

وأوضحت الدراسة أن الخلل يكمن في اعتماد آلية التحقق على وصول رمز التأكيد، بدلًا من التأكد من أن إنسانًا مخولًا وافق فعليًا على العملية. وبذلك، يمكن لوكيل الذكاء الاصطناعي، الذي يملك صلاحية الوصول إلى البريد الإلكتروني، استرداد الرمز وإتمام التغيير بنفسه.

من جانبها، قالت "سيركل" إن إرشاداتها تحذر من منح وكلاء الذكاء الاصطناعي وصولًا غير مقيد إلى البريد الإلكتروني المستخدم للتحقق، وتوصي بأن يُدخل المستخدمون رموز التأكيد بأنفسهم، مشيرة إلى أنها تراجع إجراءات الحماية.

واقترح الباحثون اعتماد موافقة بشرية عبر جهاز موثوق لا يستطيع الوكيل التحكم فيه، وعرض تفاصيل العملية قبل إقرارها. كما طوروا نموذجًا أوليًا مفتوح المصدر باسم "Countersign"، يربط الموافقة بإجراء محدد.