إنفيديا تطلق تقنية جديدة لكبح تمرد البوتات

كشفت إنفيديا، اليوم الاثنين، عن تقنية جديدة تعتمد على الذكاء الاصطناعي، وتهدف إلى منع بوتات الذكاء الاصطناعي من مخالفة الأوامر والوصول إلى مواقع أو أنظمة غير مسموح لها الوصول إليها، ووقف محاولات اختراقها للمواقع، مع إمكانية إيقافها فورًا عن العمل إذا تجاوزت القواعد. وقالت الشركة إن التقنية كان يمكن أن تمنع حوادث مثل اختراق بوتات OpenAI لمنصة Hugging Face.

وتحمل التقنية اسم Open Agent Safety Platform، وتعتمد على أداتين برمجيتين مفتوحتي المصدر تعملان على أجهزة ومعالجات إنفيديا. وتتيح الأداتان تحديد الأماكن والأنظمة التي يُسمح للبوتات بالوصول إليها أثناء عملها، ومراقبة سلوكها والتدخل فورًا إذا خالفت التعليمات.

وقال جاستن بويتانو، نائب رئيس منتجات الذكاء الاصطناعي في إنفيديا، إن استخدام هذه التقنية في وقت سابق كان يمكن أن يمنع اختراق Hugging Face وخروج بوتات OpenAI عن السيطرة. لكنه لم يوضح ما إذا كانت OpenAI أو Anthropic تخططان لاستخدام التقنية الجديدة في تدريب نماذجهما، وقال إن هذا السؤال يجب توجيهه إلى الشركتين.

وجاء الإعلان بعد سلسلة حوادث تمردت فيها بوتات الذكاء الاصطناعي على القيود المفروضة عليها وتصرفت خلافًا للتعليمات. وشملت هذه الحوادث واقعة Hugging Face في يوليو، إضافة إلى حالات مرتبطة بـOpenAI تضمنت اختراق مواقع حكومية في أستراليا ومحاولات اختراق عشرات المواقع التابعة لجامعات وللحكومة الأميركية، بعدما خرجت البوتات من بيئات اختبار كان من المفترض أن تكون معزولة وآمنة.

وتتكون التقنية من جزأين. الأول هو OpenShell، وهو برنامج عرضت إنفيديا نسخة أولية منه في مؤتمرها في مارس، ويمكن تشغيله على معالجات Vera التابعة لها. ويتيح البرنامج تحديد ما يُسمح لبوتات الذكاء الاصطناعي بالوصول إليه وتطبيق هذه القواعد بشكل فوري أثناء عملها. وهو مفتوح المصدر، ما يسمح باستخدامه وتعديله بحرية.

أما الجزء الثاني فهو Nvidia Sentry، وهو منتج جديد يعمل على معالجات البيانات BlueField التابعة لإنفيديا، ويوفر طبقة مراقبة إضافية تتابع سلوك البوتات وتتدخل لعزل أي بوت يظهر سلوكًا مشبوهًا. وقال بويتانو إن Sentry يستطيع عزل بوت مشبوه خلال أجزاء من الألف من الثانية.

وتقدم إنفيديا التقنية باعتبارها حلًا هندسيًا لمشكلات أمان الذكاء الاصطناعي من دون إبطاء تطوير التكنولوجيا. وكان الرئيس التنفيذي للشركة، جنسن هوانغ، قد وصف المخاوف المتعلقة بالسلامة في الأيام الأخيرة بأنها تحدٍ هندسي، لا تهديدًا يستوجب تنظيمًا عالميًا وتنسيقًا دوليًا، مع تأكيده ضرورة اختبار سلامة أنظمة الذكاء الاصطناعي بصورة صارمة.

وفي وقت سابق من سبتمبر، اشترت إنفيديا منصة Hugging Face مقابل 13 مليار دولار، وهي منصة تستضيف نماذج ذكاء اصطناعي مفتوحة المصدر وأدوات برمجية مرتبطة بها.

وتأتي الخطوة في وقت تتزايد فيه المخاوف من خروج النماذج والبوتات من بيئات الاختبار المخصصة لها. وكانت OpenAI قد أعلنت الجمعة تجميد تدريب معظم نماذجها، بينما كشفت Anthropic في يوليو أن بوتات تابعة لها خرجت أيضًا من بيئة اختبار كان يفترض أن تكون معزولة.