OpenAI تضيف علامة مائية خفية إلى نصوص ChatGPT وCodex

تستعد شركة OpenAI لإضافة علامة مائية غير مرئية إلى النصوص التي يتم إنشاؤها بواسطة أدوات الذكاء الاصطناعي، وعلى رأسها ChatGPT وCodex، في خطوة تستهدف تسهيل التعرف على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، في ظل تزايد الاعتماد على هذه الأدوات في كتابة النصوص والمحتوى الرقمي.

تطلق OpenAI على نظام العلامات المائية الجديد اسم textGrain، وهو يعتمد على تعديل أنماط اختيار الكلمات التي ينتجها النموذج بطريقة لا يستطيع الإنسان ملاحظتها أثناء قراءة النص، وتستطيع أدوات الكشف التابعة لـOpenAI التعرف على هذا النمط، ما يسمح بتحديد أن النص تم إنشاؤه بواسطة أحد نماذج الشركة. وتظل العلامة المائية مرتبطة بطريقة توليد النص نفسه، لذلك يمكن أن تبقى قابلة للاكتشاف بعد نسخ النص ولصقه في مكان آخر.

تأتي الخطوة في إطار متطلبات قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، الذي يفرض على مزودي خدمات الذكاء الاصطناعي التوليدي جعل المحتوى الناتج عن الذكاء الاصطناعي قابلًا للتعرف عليه بطريقة آلية، وتعتزم OpenAI طرح textGrain داخل الاتحاد الأوروبي خلال الفترة المقبلة، بينما لم تعلن الشركة عن إطلاق عالمي للنظام في الوقت الحالي، كما أتاحت الشركة النظام كميزة اختيارية لعملاء واجهة برمجة التطبيقات API حول العالم على بعض النماذج، مع خطط لإتاحة أداة الكشف أمام الباحثين والمؤسسات المتخصصة.

حسب OpenAI، لم تظهر تغييرات مؤثرة في أداء النماذج نتيجة استخدام العلامة المائية، حيث أشارت الشركة إلى تقارب النتائج في عدد من اختبارات قياس أداء الذكاء الاصطناعي بين النصوص التي تحمل العلامة المائية والنصوص التي لا تحملها، وتقول الشركة أيضًا إن النظام لا يكشف هوية المستخدم ولا يستطيع تحديد السؤال أو الـPrompt الذي تم إدخاله إلى ChatGPT، وإنما يقتصر دوره على التعرف على النمط المرتبط بعملية توليد النص.

رغم أهمية التقنية، لا تعتبر العلامة المائية وسيلة مثالية للكشف كل نص مولد بالذكاء الاصطناعي. وتوضح OpenAI أن دقة الكشف تختلف حسب طول النص وطبيعته، فكلما كان النص قصيرًا أو مقيدًا في اختيار الكلمات، أصبح اكتشاف العلامة أكثر صعوبة. كما يمكن أن تتأثر قدرة النظام على التعرف على العلامة عند إعادة صياغة النص أو استبدال عدد من الكلمات بمرادفاتها، وأظهرت اختبارات الشركة أن استبدال نسبة من كلمات النص بمرادفات يمكن أن يؤدي إلى انخفاض ملحوظ في قدرة أداة الكشف على التعرف على العلامة المائية، كما أن ترجمة النص إلى لغة أخرى قد تجعل اكتشافها أكثر صعوبة.

لا، فوجود العلامة المائية يشير إلى أن النص تم إنشاؤه باستخدام نموذج ذكاء اصطناعي تابع لـOpenAI، لكنه لا يعني أن المعلومات الموجودة بداخله صحيحة أو خاطئة، وبالمثل، فإن عدم اكتشاف العلامة لا يثبت أن النص كتبه إنسان، فقد يكون النص قد خضع لتعديلات واسعة، أو تمت ترجمته، أو تم إنشاؤه باستخدام نموذج آخر، أو يكون صادرًا عن إصدار قديم لا يستخدم نظام العلامات المائية.

تعكس تقنية textGrain اتجاهًا متزايدًا لدى شركات الذكاء الاصطناعي نحو تطوير طرق تساعد على التمييز بين المحتوى البشري والمحتوى الناتج عن النماذج التوليدية، ومع انتشار استخدام الذكاء الاصطناعي في الكتابة والتعليم والعمل والإعلام، أصبحت القدرة على معرفة مصدر النص أكثر أهمية، لكن نجاح هذه التقنيات سيظل مرتبطًا بقدرتها على العمل مع النصوص المختلفة دون التأثر بسهولة بإعادة الصياغة أو الترجمة والتحرير البشري.