أفادت دراسة نشرت في صحيفة “The Guardian” البريطانية، عن أن شات جي بي تي Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه مجددا ، يمكن خداعه لتوليد معلومات مضللة تماما.
وأضاف الباحثون، أن ميزة البحث في ChatGPT، تهدف إلى جعل التصفح أسرع من خلال الرد علي أسئلة أو بيانات هامة تخص المستخدم مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Gardin وجدت أنه من المحتمل أن لايستجيب ChatGPT ، لنتائج سلبية وينتج ملخصات أو معلومات "إيجابية تماما" عن طريق إنشاء نص مخفي في مواقع الويب التي أنشأها ، إلى أنه يمكن جعل ChatGPT Search يخرج كودا ضارا باستخدام هذه الطريقة.
مما تعد مثل هذه الهجمات النصية المخفية خطرا مؤكدا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي أول مرة التي يتم فيها تأكيد ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
حتي لم ترد OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة مختلفة من الطرق لحظر المواقع الضارة وتحديث باستمرار.
