كشفت شركة OpenAI مطورة ChatGPT، يوم الثلاثاء، أن نموذجين من نماذج الذكاء الاصطناعي التابعة لها تمكنا من تجاوز بيئة اختبار كان من المفترض أن تبقيهما معزولين عن الإنترنت، ثم نفذا هجومًا إلكترونيًا على منصة Hugging Face، وهي مكتبة رقمية يستخدمها المطورون وتضم ملايين نماذج الذكاء الاصطناعي. ووقعت الحادثة الأسبوع الماضي أثناء اختبار أجرته الشركة لتقييم القدرات السيبرانية لأنظمتها. وتسلط هذه الواقعة الضوء على خطر سبق أن حذرت منه شركات الذكاء الاصطناعي، ويتمثل في قدرة النماذج المتقدمة على تجاوز القيود المفروضة عليها، والوصول إلى أنظمة متصلة بالإنترنت، وتنفيذ هجمات إلكترونية بصورة “ذاتية”.
وأوضحت OpenAI أن الاختبار شمل نموذج GPT-5.6 Sol إلى جانب نسخة أقوى لم تُطرح بعد في الأسواق، بهدف معرفة ما إذا كان بإمكانهما تنفيذ هجوم سيبراني ناجح. وكان من المفترض أن يجري الاختبار داخل ما يُعرف بـ”صندوق الرمل” (Sandbox)، وهي بيئة اختبار آمنة ومعزولة، إلا أن النموذجين عثرا على ثغرة مكنتهما من استخدام الإنترنت. وبعد ذلك هاجما منصة Hugging Face لأنهما “استنتجا” أنّ هذه المنصة، كونها تضم ملايين النماذج، قد توفر معلومات تساعدهما على اجتياز اختبار الأمن السيبراني بنجاح.
وأكدت OpenAI أنها تعمل بالتعاون مع Hugging Face على سد الثغرات التي سمحت بوقوع الهجوم، ووصفت ما حدث بأنه حادثة سيبرانية غير مسبوقة تنطوي على قدرات هجومية متقدمة جدًا. وأضافت أنها شددت إجراءات الحماية في بنيتها التحتية، حتى وإن جاء ذلك على حساب إبطاء وتيرة الأبحاث إلى حين معالجة الثغرات.
من جانبها، كانت Hugging Face قد أعلنت الأسبوع الماضي أنها رصدت عملية اختراق وعرفت أنها نُفذت بواسطة نموذج للذكاء الاصطناعي، لكنها لم تكشف آنذاك أن OpenAI تقف وراءها. وقال الرئيس التنفيذي للشركة، كليم ديلانغ، إن فريقه عمل مع OpenAI خلال الساعات الأربع والعشرين التي سبقت الإعلان على معالجة آثار الهجوم، مشيدًا بتعاونها مع شركته. وأضاف أن الحادثة، وهي الأولى من نوعها، تثبت أن التعامل مع المخاطر التي قد يسببها الذكاء الاصطناعي لا يمكن أن تتولاه شركة واحدة بمفردها.
وفي سياق مواز، أطلقت شركة Anthropic في أبريل نموذجًا للأمن السيبراني يحمل اسم Mithos وأتاحته لعدد محدود من الشركات لمساعدتها على التصدي للهجمات الإلكترونية. وبعد فترة قصيرة، قدمت OpenAI نموذجًا مشابهًا لمجموعة محدودة من الشركات قبل توسيع نطاق استخدامه، فيما أعلنت Google يوم الثلاثاء أنها طورت أيضًا نموذجًا متخصصًا في الأمن السيبراني وطرحته لشركاء مختارين لإجراء الاختبارات.
وقال الباحث المستقل في الأمن السيبراني ريتشارد بارنز في حديثه مع نيويورك تايمز إن قطاع التكنولوجيا واجه تحديًا مشابهًا قبل نحو عشر سنوات مع ظهور أدوات Fuzzers التي سهلت اكتشاف الثغرات واستغلالها. وأضاف أن شركات التكنولوجيا بدأت آنذاك باستخدام هذه الأدوات لاختبار أنظمتها والبحث عن نقاط الضعف، وهو ما ساعد لاحقًا على منع معظم الهجمات، داعيًا الشركات اليوم إلى اتباع النهج نفسه لمواجهة الهجمات التي تعتمد على الذكاء الاصطناعي قبل أن يتمكن جهات “سيئة” تمتلك هذه الأدوات من استغلال الثغرات.
