أعلنت شركة أنثروبيك أنها ستبدأ بوضع علامات خفية على النصوص والصور التي تُنشأ بواسطة نماذج الذكاء الاصطناعي التابعة لها، بهدف إتاحة إمكانية التعرف لاحقًا على المحتوى الذي أنتجته هذه النماذج. وبذلك تنضم الشركة إلى مايكروسوفت وغوغل وميتا وOpenAI، التي أعلنت خطوات مماثلة، في ظل متطلبات تنظيمية أوروبية تدفع الشركات إلى تمييز المحتوى الذي ينتجه الذكاء الاصطناعي.

ولا تعد فكرة العلامات غير المرئية جديدة، إذ استُخدمت منذ سنوات لإثبات مصدر المحتوى الرقمي أو ملكيته، وكذلك للكشف عن تسريب المحتوى أو سرقته. لكن انتشار الذكاء الاصطناعي أضاف استخدامًا جديدًا لهذه التقنية، يتمثل في تحديد ما إذا كان النص أو الصورة أو الفيديو أو التسجيل الصوتي قد أُنتج بواسطة الذكاء الاصطناعي.

وتعتمد الشركات حاليًا على تقنيات مختلفة لهذا الغرض. إحداها معيار C2PA، الذي تستخدمه غالبية الشركات، ويضيف توقيعًا رقميًا إلى البيانات المرفقة بالصورة. ويسمح هذا التوقيع بإثبات أن الصورة أُنشئت في الأصل بواسطة الذكاء الاصطناعي، كما يوفر معلومات عن مصدرها والجهة التي أنشأتها، وهو ما قد يكون مهمًا في القضايا القانونية وإثبات حقوق التأليف والنشر. ولا يزال استخدام C2PA في المجال القانوني محدودًا نسبيًا بسبب حداثة التقنية، لكنه مرشح للاتساع مستقبلًا.

لكن C2PA يعاني من قيود مهمة. فإذا التقط المستخدم صورة للشاشة أو نُشرت الصورة عبر منصات التواصل الاجتماعي، تختفي علامة C2PA. كما أن هذه التقنية، بشكلها الحالي، لا توفر حلًا للكشف عن أنواع أخرى من المحتوى مثل النصوص والفيديو.

أما التقنية الثانية فهي SynthID، التي طورتها غوغل ويمكن استخدامها مع النصوص والصور والفيديو والصوت. وفي النصوص، تعتمد التقنية التي طُورت في 2024 على الطريقة التي تختار بها نماذج اللغة الكلمات أثناء توليد النص. فنموذج الذكاء الاصطناعي يُنشئ النص كلمة بعد أخرى، وفي كل مرة يحسب الكلمة الأكثر احتمالًا للظهور بعد الكلمة التي كتبها سابقًا، ثم يختار من بينها الكلمة التالية. وتسمح SynthID بإدخال نمط محدد وغير ظاهر في عملية اختيار الكلمات، بحيث يمكن لاحقًا فحص تسلسلها ومقارنته بالنمط المتوقع، وإذا ظهر التطابق يمكن تحديد أن النص أُنتج بواسطة نموذج لغوي.

وفي الصور والفيديو، تُزرع العلامة داخل وحدات البكسل نفسها من خلال تغييرات صغيرة لا تستطيع العين البشرية ملاحظتها. وتوزع العلامة على أجزاء الصورة بحيث تستطيع الصمود أمام تعديلات مثل القص والضغط وتغيير الحجم وبعض الفلاتر. وفي الفيديو تُضاف العلامة إلى كل إطار، بينما تُدمج في الملفات الصوتية بطريقة تراعي قدرة الإنسان على سماع الأصوات، بحيث لا تكون مسموعة.

لكن المشكلة أن SynthID تقنية مملوكة لغوغل، وتستخدمها شركات مثل OpenAI وإنفيديا مقابل رسوم أو بموجب ترخيص، بينما تستخدم أنثروبيك وميتا تقنيات خاصة بهما. ونتيجة لذلك، لا توجد حاليًا أداة موحدة يستطيع المستخدم من خلالها رفع أي محتوى وفحصه لمعرفة ما إذا كان قد أُنتج بالذكاء الاصطناعي، بصرف النظر عن الشركة أو النموذج الذي أنشأه.

فعلى سبيل المثال، يمكن استخدام أداة غوغل المرتبطة بجيميني للتحقق مما إذا كانت صورة، حتى بعد قصها أو استخراجها من فيديو، قد أُنشئت بواسطة جيميني. لكن الأداة نفسها لا تستطيع التعرف على الصور التي أنشأتها نماذج أخرى، وهو ما يوضح المشكلة الناتجة عن استخدام كل شركة أنظمة مختلفة لتحديد محتواها.

 وهناك مصلحة مباشرة لشركات الذكاء الاصطناعي في معرفة المحتوى الذي أنتجته نماذجها، لأن هذا المحتوى قد يصل لاحقًا إلى البيانات المستخدمة في تدريب الأجيال الجديدة من النماذج. وإذا تدرب النموذج بصورة متكررة على محتوى سبق أن أنتجه الذكاء الاصطناعي بدلًا من المحتوى الأصلي الذي أنشأه البشر، يمكن أن تحدث ظاهرة تعرف باسم “انهيار النموذج” أو Model Collapse، حيث تتراجع جودة النموذج بسبب انخفاض تنوع البيانات ودقتها.

وبالتالي، تسمح العلامات غير المرئية للشركات بالتعرف على المحتوى المصطنع واستبعاده من البيانات التي تستخدمها في تدريب نماذجها الجديدة. كما تمنحها وسيلة لاكتشاف ما إذا كانت جهة أخرى قد استخدمت مخرجات نماذجها لتدريب نموذج ذكاء اصطناعي آخر.