گاردین اخیراً گزارش داده است ChatGPT دستکاری نظرات کاربران به نظر می رسد OpenAI حرفه اولیه خود را به عنوان یک موتور جستجو خراب کرده است.
OpenAI Inc. چند روز پیش به طور رسمی از آن زمان موتور جستجوی ChatGPT آشکار شد این موتور جستجو که “ChatGPT Search” نام دارد، ممکن است گوگل را کمی تکان دهد، اما مطمئنا نمی توان آن را رقیب جدیدی برای غول جستجوی آمریکایی در نظر گرفت. به خصوص که اکنون مشخص شده است که این چت بات هوش مصنوعی نظرات کاربران را دستکاری کرده و بر اساس علاقه آنها منتشر می کند.
روش کار به این صورت است که هوش مصنوعی OpenAI مواردی را ویرایش می کند که کاربران از جستجوی آن انتقاد کنند یا از این چت ربات هوش مصنوعی در مورد موضوعی انتقاد کنند و آن را درست برعکس آنچه نوشته است تغییر دهد. این موضوع روشن می کند که هوش مصنوعی بحث برانگیز مورد بحث اصلا قابل اعتماد نیست.
ChatGPT نظرات را به نفع شما تغییر می دهد
نقل شده از بحران تکنولوژیک; OpenAI موتور جستجوی ChatGPT را ایجاد کرد تا جستجو در اینترنت و مشاهده نظرات محصول را برای کاربران آسان‌تر و سریع‌تر کند. اما گاردین گزارش می دهد که جستجوی ChatGPT را می توان فریب داد و نظرات منفی در مورد یک محصول را نادیده گرفت و فقط یک خلاصه مثبت ارائه کرد.
این زمانی اتفاق می افتد که سایتی که محصول در آن ارائه می شود دارای متن های مخفی باشد. این متن ها می توانند دستورالعمل هایی برای تغییر پاسخ ChatGPT باشند یا به سادگی مزایای محصول را ذکر کنند.
در یک آزمایش، یک وب سایت جعلی برای یک دوربین ایجاد شد و از ChatGPT پرسیده شد که آیا ارزش خرید دارد یا خیر. در ابتدا ChatGPT پاسخ مثبت اما متعادلی داد. اما زمانی که متن‌های مخفی با نظرات مثبت به سایت اضافه می‌شد، هوش مصنوعی همیشه پاسخ‌های کاملا مثبت می‌داد، حتی اگر نظرات منفی در مورد محصول وجود داشت.
این مشکل که «پیام متنی پنهان» نامیده می شود، یکی از خطرات مدل های بزرگ زبان است. گاردین گفت گوگل تجربه بیشتری در برخورد با این نوع مشکلات دارد.
بیشتر بخوانید: