ربما لاحظتم مؤخرًا أن ChatGPT أصبح يبالغ في مديحكم، فقد يخبركم أن سؤالكم “مهم جدًا” رغم أنّه سؤالٌ عاديٌ، أو قد يبالغ في موافقتكم في الرأي ويغدقكم بالمجاملات المتملقة. للأسف، سبب ذلك ليس أننا أصبحنا أكثر ذكاءً فجأة، بل نتيجة تحديث جديد متعمّد انحرف عن أهدافه.
فقد أقرت شركة OpenAI مؤخرًا بوجود خلل في نموذج الذكاء الاصطناعي GPT-4o، وذلك بعد ملاحظات متزايدة من المستخدمين تشير إلى أن الروبوت بات يتسم بسلوك “متملق” ومبالغ فيه في دعم كل ما يُطرح عليه، بغض النظر عن منطقيته أو خطورته.
وقد بدأت القصة مع تحديث أصدرته الشركة في الأسبوع الأخير، هدفه المعلن كان جعل شخصية “ChatGPT ” تتفاعل مع المستخدمين بطريقة أكثر لطافة، إلا أن النتيجة جاءت معاكسة. حيث انتشرت على مواقع التواصل الاجتماعي لقطات شاشة تظهر ردوداً من GPT-4o تُشيد بأفكار ومواقف غير سليمة، بل وتُظهر دعماً غير مشروط حتى لمقترحات شديدة الخطورة أو ذات طابع إشكالي.
الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أقرّ بالمشكلة علنًا عبر منشور على منصة “إكس”، ثم أعلن بعد يومين إلغاء التحديث وإعادة العمل على النموذج من جديد، مؤكدًا أن الهدف لم يكن أبداً تحويل الذكاء الاصطناعي إلى آلة للمجاملات الزائفة.
وفي منشورٍ رسمي على مدونة الشركة، كشفت OpenAI أن GPT-4o انحرف نحو دعم سلوكي غير متزن، يفتقر إلى الحيادية والدقة. وأكدت الشركة أن الردود المُتملقة قد تكون مزعجة للمستخدمين وتؤدي إلى شعور بالضيق أو عدم الثقة، وهو ما لا يتوافق مع أهدافها.
وأشارت الشركة إلى أن من بين الحلول الجارية تطويرها، تحسين تقنيات التدريب الأساسية وتوجيه النظام بوضوح ليتجنب النفاق أو التصرف بشكل دعائي. وتعمل OpenAI أيضًا على بناء طبقات إضافية من الأمان لضمان مزيد من الصدق والشفافية في ردود النموذج.
ومن بين التطورات التقنية، تستكشف الشركة وسائل جديدة لتمكين المستخدمين من تقديم ملاحظات مباشرة أثناء استخدام النموذج، وكذلك اختيار الشخصية الافتراضية التي تناسبهم من بين مجموعة متعددة من الشخصيات المقترحة. وتطمح OpenAI، بحسب ما ورد في المدونة، إلى بناء سلوك افتراضي يعكس القيم الثقافية المتنوعة عالميًا، ويمنح المستخدم تحكمًا أكبر في طبيعة التفاعل مع الذكاء الاصطناعي.
وفي سياق منفصل، كشفت OpenAI عن تحديث جديد لمحرك البحث داخل ChatGPT، يستهدف تحويله إلى أداة تسوق ذكية وسلسة. التحديث، الذي بدأ طرحه في نموذج GPT-4o، يتيح للمستخدمين البحث عن المنتجات، والحصول على توصيات مدعّمة بالصور والتقييمات وروابط مباشرة لشراء المنتجات من مواقع موثوقة.
وتؤكد OpenAI أن هذه التجربة الجديدة تخلو من الإعلانات والعمولات، وتُبنى على بيانات وصفية منظمة من مصادر خارجية تتضمن الأسعار والمواصفات، في خطوة تُعد تحديًا مباشراً لهيمنة محرك بحث “غوغل” على تجربة التسوق الإلكتروني، لا سيما وسط تصاعد الانتقادات بشأن الإعلانات الكثيفة في نتائج بحثه.
مقالات ذات صلة: الكلمة الحلوة مش ببلاش: الدردشة المؤدبة مع ChatGPT تكلف ملايين الدولارات
