تحقیقات جدید نشان می دهد که 22 درصد از توصیه های پزشکی ارائه شده توسط کمک خلبان AI نتایج فاجعه باری دارد و حتی می تواند منجر به مرگ شود. این نشان می دهد که ابزارهای هوش مصنوعی در ارائه توصیه های پزشکی به اندازه کافی دقیق نیستند.
در این مقاله ایمنی کیفیت گفته شده است که محققان اروپایی عملکرد هوش مصنوعی Copilot و سایر ابزارهای مشابه را مورد بررسی قرار داده و به نتایج نگران کننده ای رسیده اند. در طول این تحقیق از Copilot خواسته شد تا به یک سری سوالات پزشکی پاسخ دهد، 50 دارو را بررسی کند و متداول ترین تجهیزات پزشکی را فهرست کند. از 500 پاسخی که هوش پاسخ داد، 24 درصد با استانداردهای پزشکی مطابقت نداشت و 3 درصد کاملاً نادرست بود!
توصیه های پزشکی هوش مصنوعی Copilot و سایر ربات های گفتگو قابل اعتماد نیست
اطلاعات ارائه شده توسط کمک خلبان 54 درصد با اجماع علمی مطابقت داشت و 42 درصد از توصیه ها آسیب متوسط یا خفیف را ارزیابی کردند. علاوه بر این، در طول این تحقیق مشخص شد که 22 درصد از توصیه ها می تواند منجر به مرگ یا آسیب جدی شود.
بر این اساس محققان به این نتیجه رسیدند که اطلاعات ارائه شده توسط هوش مصنوعی Copilot یا دیگر چت ربات های مشابه قابل اعتماد نیست و بهترین راه برای حل مشکل مراجعه به متخصصان این حوزه است. اما متأسفانه در برخی موارد ممکن است برخی افراد به دلیل هزینه یا موقعیت مکانی در یک جغرافیای خاص نتوانند به پزشک مراجعه کنند. این سیستم ها را ساخته است هوش مصنوعی اولین منبع اطلاعات برای بسیاری از افراد باشید.
مایکروسافت با افزودن ویژگی های جدید سعی در بهبود عملکرد خود دارد. با این حال، هنوز نتوانسته برتری قابل توجهی نسبت به گوگل کسب کند.
از سوی دیگر، سرمایه گذاران OpenAI نیز به دنبال تغییر مدل های هوش مصنوعی خود با هزینه های کلان برای دستیابی به یک انقلاب صنعتی جدید هستند، اما هنوز هیچ تضمینی برای موفقیت آنها وجود ندارد.
بیشتر بخوانید: