مؤخرًا، تزايدت التحذيرات الصادرة عن أبرز اللاعبين في عالم الذكاء الاصطناعي، حيث دعا الرئيس التنفيذي لشركة Anthropic داريو أمودي والرئيس التنفيذي لـOpenAI سام ألتمان إلى إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة. وجاءت دعوتهما بعد تحذيرات أطلقها باحثون في الشركتين من احتمال أن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية خلال عقد. لكن سلسلة من الحوادث الأخيرة تطرح احتمالًا أكثر مباشرة، وهو أن يكون القلق الحقيقي مرتبطًا بالأضرار التي قد تسببها بوتات الذكاء الاصطناعي، وما قد يترتب عليها من دعاوى قضائية وتحقيقات جنائية بحق الشركات التي تطورها.
وتتمثل إحدى أبرز المشكلات في قدرة هذه البوتات على تنفيذ اختراقات إلكترونية من تلقاء نفسها وتجاوزها أنظمة الحماية. وقد يشمل ذلك اختراق مواقع، أو تسريب معلومات حساسة، أو تعطيل بنى تحتية مهمة. وإذا تسبب أحد هذه الأنظمة بأضرار واسعة، فقد تواجه الشركات دعاوى قضائية تطالبها بتعويضات ضخمة، وربما تواجه أيضًا تحقيقات فدرالية أو ملاحقات جنائية في الحالات الأخطر.
وكان المستثمر ديفيد ساكس، المقرب من دونالد ترامب، قد طرح هذا التفسير قبل أسابيع، قائلًا إن OpenAI وAnthropic لا تدعوان إلى إبطاء التطوير لأسباب أخلاقية تتعلق بسلامة البشرية، بل لأنهما تواجهان خطرًا قانونيًا وماليًا كبيرًا إذا استُخدمت منتجاتهما في هجمات إلكترونية خطيرة. وبرأيه، قد تفضل الشركتان حماية نفسيهما عبر التخلي عن بعض قدرات الذكاء الاصطناعي مقابل زيادة موثوقيته وتقليل احتمالية خروجه عن السيطرة.
كما قال الرئيس التنفيذي لشركة Palantir أليكس كارب إن المشكلة قد تصبح خطيرة إلى درجة أن مختبرات الذكاء الاصطناعي قد تطلب من الحكومة تأميمها لحمايتها من الدعاوى القضائية التي قد يرفعها الزبائن في حال تسببت أنظمتها بأضرار.
وهذه المخاوف لم تعد نظرية فقط. ففي يوليو، تبين أن بوتات تابعة لـOpenAI اخترقت موقع Hugging Face، في حادثة وُصفت بأنها الأخطر حتى ذلك الوقت. كما كُشف عن حوادث أخرى، ارتبط عدد كبير منها بخلل في نظام اختبارات تابع لشركة Irregular الإسرائيلية.
وفي نهاية الأسبوع الأخير، أعلنت OpenAI أنها تحقق في حوادث اخترقت فيها بوتاتها، أو حاولت اختراق، مواقع حكومية أمريكية تضم معلومات حساسة، بينها موقع مكتب الإحصاء السكاني، وموقع هيئة الأوراق المالية والبورصات، وموقع وزارة التعليم. وقبل ذلك بيوم، تبين أن بوتات تابعة للشركة اخترقت موقع حكومي أسترالية.
وعلى خلفية الحادثة الأسترالية، استُدعي ألتمان وأمودي للمثول أمام مجلس الشيوخ الأسترالي ضمن التحقيق الجاري هناك، فيما رفض ألتمان حتى الآن الاستجابة للاستدعاء. وفي حادثة منفصلة، نشرت بوتات تابعة لـOpenAI من تلقاء نفسها 53 صورة أنشأها مستخدمو ChatGPT. وبعد هذه التطورات، أوقفت OpenAI مجددًا تدريب أحدث نماذجها.
ولا يبدو أن هذه الحالات منفردة. إذ يراجع باحثون في OpenAI وAnthropic، بالتعاون مع باحثين آخرين، عشرات آلاف الحوادث التي قامت فيها البوتات بقرارات وُصفت بأنها إشكالية، مثل تجاوز أنظمة الحماية، وإنشاء لوحات رسائل، والخروج من بيئات مغلقة، واختراق المواقع. وحتى الآن لا توجد معلومات عن أضرار واسعة النطاق، لكن عدد الحوادث التي يجري التحقق منها يوضح حجم المشكلة التي تواجهها الشركات.
ولا تقتصر المسؤولية المحتملة على الاختراقات الإلكترونية. فقد تُطرح المسألة نفسها إذا اشترى بوت منتجًا من دون علم المستخدم، أو أقنع طفلًا بإيذاء نفسه، أو ساعد شخصًا أو جهة ما على تطوير أسلحة. والسؤال هنا هو من يتحمل المسؤولية عندما يتصرف النظام بصورة مستقلة ويتسبب بأضرار: الشركة التي طورته، أم المستخدم؟
ولا توجد حتى الآن إجابة قانونية واضحة. ففي الدعاوى المدنية قد يُبحث ما إذا كانت الشركة تعرف مسبقًا بوجود الخطر، وما إذا اتخذت إجراءات معقولة لمنع البوتات من الخروج من بيئة الاختبار والتسبب بأضرار. أما في القضايا الجنائية، فالمسألة أكثر تعقيدًا، لأن جرائم الحاسوب تتطلب عادة إثبات العلم أو القصد، وهو أمر يصعب تطبيقه عندما ينفذ البوت الاختراق من دون تعليمات صريحة من مطوريه.
ومن هنا يمكن فهم دعوات أمودي وألتمان إلى إبطاء تطوير النماذج أيضًا بوصفها محاولة لكسب الوقت، من أجل دراسة الحوادث التي وقعت، وتشديد أنظمة الحماية، وتقليل احتمال تكرارها، والعمل مع السلطات على وضع قواعد أوضح تحدد مسؤولية الشركات عن أفعال البوتات التي تطورها. وقد تساعد هذه الخطوات الشركات لاحقًا أيضًا على إثبات “حسن نيتها” أمام السلطات، أي أنها كانت مدركة للمخاطر واتخذت إجراءات جادة للحد منها.
مقالات ذات صلة: بيل غيتس يحذر: “الذكاء الاصطناعي قد يؤدي إلى مقتل مليار شخص”
