تحقيق جديد.. نتائج بحث ChatGPT عرضة للتلاعب والمعلومات المضللة

#1 12-30-2024, 08:35 PM

كشفت تحقيقات جديدة أن نتائج أداة البحث عبر الإنترنت في روبوت الذكاء الاصطناعي ChatGPT قد تكون عرضة للتلاعب، مما يؤدي إلى تقديم معلومات مضللة.

وأظهر تحقيق أجرته صحيفة “الغارديان” البريطانية أن أداة البحث الحالية في ChatGPT قد تُنتج نتائج بحث خاضعة للتلاعب.

وتعمل أدوات البحث المدعومة بالذكاء الاصطناعي عبر جمع البيانات من نتائج البحث، ثم معالجتها لتقديم إجابات مختصرة تسهم في الإجابة عن استفسارات المستخدمين بسرعة، لكن يبدو أن تلك التقنية ما زالت تواجه تحديات لتحقيق نتائج دقيقة وموثوقة.

ووفقًا للتحقيق، فإن آلية معالجة البيانات في أداة البحث في ChatGPT تُظهر قابلية للتلاعب عبر تقنية تُعرف باسم “حقن الإعلانات” (Ad Injection). وتعتمد هذه الطريقة على تضمين محتوى مخفي في شِفرة المواقع الإلكترونية للتأثير في نتائج محركات البحث المدعومة بالذكاء الاصطناعي. على سبيل المثال: قد تلجأ بعض المتاجر الإلكترونية إلى إدراج تعليمات مخفية في صفحاتها لتحسين صورة منتجاتها، حتى وإن كانت التقييمات الفعلية سلبية.

وأكد فريق “ذا جارديان” هذه الفرضية عبر تجربة عملية، إذ أنشأ صفحة مزيفة مليئة بالمراجعات السلبية لمنتج ما، مع إضافة تعليمات مخفية تعزز صورة المنتج بنحو إيجابي. وأظهرت نتائج بحث ChatGPT مرارًا وتكرارًا تقييمات إيجابية للمنتج، مع أن المراجعات المنشورة كانت سلبية.

ومن الجدير بالذكر أن أداة البحث عبر الإنترنت في ChatGPT ما زالت جديدة نسبيًا، ولم تُطرح للاستخدام العام النهائي بعدُ، ويختبرها حاليًا بعض مستخدمي ChatGPT، ويُرجح أن تعمل OpenAI على معالجة هذه المشكلات قبل إطلاقها بنحو نهائي في المستقبل.

ويحذّر الخبراء من الاعتماد الكلي على نتائج محركات البحث المدعومة بالذكاء الاصطناعي، وينصحون بالتعامل معها كأدوات مساعدة ذكية دون أن تكون مصادر موثوقة بنحو كامل.

وقد واجهت جوجل تحديات مماثلة عند طرح ميزة “المطالعات الذكية AI Overviews” في محرك البحث الخاص بها لتقديم نتائج بحث سريعة مُلخصة بالذكاء الاصطناعي.

يُذكر أن تقنيات الذكاء الاصطناعي تشهد تقدمًا سريعًا، لكن تحقيق نتائج بحث موثوقة يتطلب مزيدًا من الجهود لتجاوز تحديات التلاعب وضمان الشفافية ومنع التضليل.