سلّط تحقيق أجرته هيئة الإذاعة البريطانية الضوء على واحدة من أبرز التحديات التي تواجه أنظمة الذكاء الاصطناعي الحديثة، بعدما نجح صحفي في خداع روبوتات محادثة شهيرة مثل «OpenAI ChatGPT» وGoogle Gemini عبر نشر مقال واحد فقط يدّعي فيه أنه «بطل عالمي في تناول النقانق».

ووفقاً للتجربة، لم يحتج الصحفي إلى أي وسائل اختراق معقدة أو تقنيات برمجية متقدمة، بل اعتمد على كتابة محتوى يبدو موثوقاً ومتوافقاً مع معايير محركات البحث، ما دفع أنظمة الذكاء الاصطناعي إلى التعامل معه بوصفه مصدراً حقيقياً للمعلومات.

التحقيق شمل أيضاً ميزة «AI Overviews» التابعة لمحرك بحث قوقل، وأظهر أن بعض روبوتات الدردشة قد تُنتج معلومات مضللة أو متحيزة عندما تعتمد على مصادر غير موثوقة منشورة عبر الإنترنت، خصوصاً في الموضوعات الحساسة مثل الصحة والتمويل الشخصي.

ويرى خبراء في تحسين محركات البحث أن جذور المشكلة تعود إلى طبيعة عمل نماذج الذكاء الاصطناعي الحديثة، إذ لا تعتمد دائماً على بياناتها الداخلية فقط، بل تلجأ أحياناً إلى الإنترنت للحصول على إجابات محدثة. وفي بعض الحالات، قد تعتبر صفحة ويب واحدة أو حتى منشوراً على وسائل التواصل الاجتماعي مصدراً كافياً لبناء الإجابة، ما يفتح الباب أمام محاولات التضليل والتلاعب بالمعلومات.