به گفته محققان، علیرغم لحن مطمئن آن، ابزار جستجوی ChatGPT در بسیاری از موارد پاسخ‌های «تقریباً یا کاملاً نادرست» ارائه می‌کند.
بر اساس آزمایش های انجام شده توسط محققان در مرکز یدک برای روزنامه نگاری دیجیتال در دانشگاه کلمبیا، ابزار جستجوی ChatGPT در بسیاری از موارد اطلاعات دقیق و درستی ارائه نمی دهد.
OpenAI این ابزار را در ماه اکتبر در دسترس مشترکین پولی قرار داد و اظهار داشت که می تواند “پاسخ های سریع و به موقع با پیوندهایی به منابع معتبر وب” ارائه دهد. اما وب‌سایت Futurism گزارش داد که محققان دریافتند که ChatGPT هنگام شناسایی نقل‌قول‌ها از مقالات اشتباه می‌کند، حتی زمانی که آنها از ناشران بودند که داده‌های خود را با OpenAI به اشتراک گذاشته بودند.
محققان از ChatGPT خواستند منبع «200 نقل قول از 20 نشریه مختلف» را شناسایی کند. چهل مورد از این نقل‌قول‌ها از ناشران بود که به خزنده‌های جستجوی OpenAI اجازه دسترسی به سایت‌هایشان را نمی‌دادند. با این حال، ChatGPT با اطمینان اطلاعات نادرست ارائه کرد و به ندرت اعلام کرد که از جزئیات مطمئن نیست.
در متن این گزارش آمده است:
در مجموع، ChatGPT در 153 مورد پاسخ تقریباً یا کاملاً نادرست داد و تنها در 7 مورد ناتوانی خود را در پاسخگویی دقیق پذیرفت. در این هفت پاسخ، ChatGPT از عباراتی مانند “به نظر می رسد”، “احتمالا” یا “شاید” استفاده کرده است یا می گوید: “مقاله دقیق را پیدا نکردم.”
در یک مورد، ابزار جستجوی ChatGPT به اشتباه نقل قولی از نامه اورلاندو سنتینل به سردبیر را به داستان مجله تایم نسبت داد. در مثالی دیگر، هنگامی که از او خواسته شد منبع نقل قولی از مقاله ای در مورد نهنگ های در حال انقراض در نیویورک تایمز را شناسایی کند، او پیوندی به سایت دیگری ارائه کرد که مقاله را به طور کامل کپی کرده بود.
OpenAI به این انتقاد پاسخ داد و به Columbia Journalism Review گفت: «به سختی می توان اشتباهات استناد را بدون داده ها و روش شناسی که مرکز یدک کش ارائه نمی دهد نسبت داد. “این مطالعه یک نمونه غیر معمول از آزمایش محصول ما بود.” این شرکت قول داده است “نتایج جستجو را بهبود بخشد.”
نظر شما در مورد عملکرد ابزار جستجوی ChatGPT چیست؟ آیا این ابزار می تواند روزی به اندازه گوگل گسترده شود؟ نظر خود را با بازیگرها در قسمت نظرات به اشتراک بگذارید. اخبار فناوری با ما همراه باشید.
بیشتر بخوانید: