هوش مصنوعی در حال یادگیری فریب دادن انسان است، آیا نسل بشر با این فناوری منقرض خواهد شد؟ اولین بار در وب سایت بازیگرها نوشته شد: زندگی با فناوری. – بازیگرها – زندگی با تکنولوژی – – https://bazigarha.com/
توانایی هوش مصنوعی برای افزایش بهره‌وری با کمک به کدنویسی، نوشتن و تولید داده‌های بزرگ قبلاً مورد توجه قرار گرفته است. اما اکنون به نظر می رسد که این توانایی منجر به فریب انسان ها نیز شده است.طبق تحقیقات جدید، انواع مختلف سیستم ها هوش مصنوعی آنها یاد گرفته اند که “به طور سیستماتیک باورهای نادرست در دیگران ایجاد کنند تا به هدفی غیر از حقیقت دست یابند.” این مقاله بر دو نوع سیستم هوش مصنوعی تمرکز دارد: سیستم‌های هدف ویژه مانند Meta's CICERO، که برای انجام وظایف خاص طراحی شده‌اند، و سیستم‌های همه منظوره، مانند OpenAI's GPT-4، که برای انجام مجموعه‌ای از وظایف آموزش دیده‌اند.
بیشتر بخوانید:
- نظر سام آلتمن در مورد هوش مصنوعی چیست؟ فرصت یا تهدید
- آینده هوش مصنوعی جدید سیری در کنفرانس WWDC مشخص خواهد شد
توانایی هوش مصنوعی سیسرو متا در دروغ گفتن وحشتناک است
سیستم هایی که برای موفقیت بیشتر در بازی ها یا محیط های دارای عناصر اجتماعی آموزش دیده اند، می توانند به راحتی از تاکتیک های فریب و تقلب استفاده کنند. به عنوان مثال، CICERO متا برای بازی دیپلماسی ساخته شد که نیاز به تشکیل و شکستن ائتلاف ها دارد.
(عناصر اجتماعی به مؤلفه هایی اطلاق می شود که در یک محیط اجتماعی وجود دارد و تأثیر مهمی بر تعامل و رفتار افراد دارد. این عناصر ممکن است شامل روابط انسانی، فرهنگ و قداست جامعه، باورها و ارزش ها، نحوه برخورد و ارتباط با دیگران باشد. ساختارها و قوانین اجتماعی و سایر عواملی که بر رفتار افراد در یک جامعه یا گروه تأثیر می‌گذارند، در مورد سیستم‌های هوش مصنوعی، عناصر اجتماعی می‌توانند شامل تعامل با انسان‌ها، شناخت رفتارهای اجتماعی، درک ارتباطات و عبارات غیرکلامی باشند. درک نحوه عمل و تصمیم گیری در وظایفی که تعامل انسانی در آنها مهم است).
(«دیپلماسی» به فرآیند و فنون مذاکره و ارتباط بین کشورها و جوامع مختلف برای حل مشکلات مشترک و تسهیل روابط بین‌الملل اطلاق می‌شود. «بازی دیپلماسی» اغلب یک بازی استراتژیک نامیده می‌شود که در آن شرکت‌کنندگان نقش نمایندگانی را بازی می‌کنند. کشورهای مختلف و یا جوامع مختلف از تاکتیک های دیپلماتیک مختلف برای رسیدن به اهداف خود استفاده می کنند.
این مطالعه نشان داد که توانایی CICERO در فریب دادن تقریباً ماهرانه است و او دائماً از آن برای رسیدن به اهداف خود استفاده می کند.
GPT-4 می تواند شما را متقاعد کند که مشکلات بینایی دارید
علاوه بر این، سیستم‌های عمومی مانند GPT-4 می‌توانند به طور موثر انسان را فریب دهند. به عنوان مثال، در یک مطالعه، GPT-4، یک کارگر هوش مصنوعی از TaskRabbit، GPT-4، برای کمک به فرد محول شده در تکمیل یک کار، تظاهر به اختلال بینایی کرد، بنابراین فرد را فریب داد و موفق شد به هدف خود برسد. به عبارت دیگر، هوش مصنوعی از این تکنیک دروغگویی برای موفقیت در کار خود استفاده کرد و با اظهارات نادرست خود فرد را فریب داد.
این تاکتیک ها نشان می دهد که تعمیر مدل های گمراه کننده هوش مصنوعی آسان نیست. تحقیقات نشان می‌دهد که وقتی مدل‌های هوش مصنوعی ترفندهایی را یاد می‌گیرند، تغییر آنها دشوار است. این مقاله از سیاستگذاران می خواهد که ظرفیت هوش مصنوعی را دست کم نگیرند و در جهت تقویت این فناوری اقدام کنند. زیرا سیستم های هوش مصنوعی فریبنده می تواند خطرات قابل توجهی برای دموکراسی ایجاد کند.
نکته ترسناک داستان این است که توانایی هوش مصنوعی برای فریب دادن انسان ها آموزش داده نمی شود و در واقع این توانایی اغلب به صورت خودکار و به صورت «خودآموز» در مدل های هوش مصنوعی ایجاد می شود. مدل‌های هوش مصنوعی معمولاً با تجزیه و تحلیل و یادگیری از داده‌های ورودی و تجربیات ارائه‌شده در طول آموزش، قابلیت‌هایی مانند تاکتیک‌های فریبنده را به‌طور خودکار و ناهمزمان یاد می‌گیرند. این قابلیت در نتیجه غیرمستقیم پردازش و تحلیل داده ها در فرآیند آموزش مدل های هوش مصنوعی ایجاد می شود، به گونه ای که مدل به طور ناخودآگاه از الگوهای موجود در داده ها استنباط می کند و قادر به انجام عملیات فریبنده است.
بیشتر بخوانید:
- بهترین هوش مصنوعی رایگان
- بهترین ابزار هوش مصنوعی برای تولید متن
- بهترین ابزار هوش مصنوعی برای تولید محتوا
- بهترین ابزار هوش مصنوعی برای تولید موسیقی
منبع: اطلاعات داخلی
هوش مصنوعی در حال یادگیری فریب دادن انسان است، آیا نسل بشر با این فناوری منقرض خواهد شد؟ اولین بار در وب سایت بازیگرها نوشته شد: زندگی با فناوری. – بازیگرها – زندگی با تکنولوژی – – https://bazigarha.com/