واضح است که خالق چت محبوب چت از داده های Reddit برای اندازه گیری توانایی هوش مصنوعی OpenAi استفاده کرده است.
به گزارش TechCrunch ، Operai از زیر مجموعه R/ChangemyView برای ارزیابی توانایی ترغیب مدلهای هوش مصنوعی خود استفاده کرده است. این در مورد کارت سیستم فاش شد (سندی که توضیح می دهد که چگونه یک سیستم هوش مصنوعی کار می کند). این سند همزمان با معرفی مدل جدید O3-Mini راه اندازی شده است.
هوش مصنوعی Openai نسبت به کاربران به بهترین وجه در ترغیب کار می کند
فرعی R/ChangmyView یکی از محبوب ترین جوامع Reddit است که در آن کاربران نظرات بحث برانگیز خود را برای به دست آوردن نظرات و گوش دادن به نظرات جدید ارائه می دهند. سایر کاربران همچنین با ارائه استدلال های قانع کننده سعی در تغییر نظر انتشار دارند.
این داده های ارزشمند انسانی به یک معدن طلایی برای شرکت های فناوری مانند OpenAI تبدیل شده است. این شرکت ها برای آموزش مدلهای هوش مصنوعی خود به داده های با کیفیت بالا تولید شده توسط کاربران نیاز دارند.
هنگام جمع آوری انتشارات از این زیردستان ، Operai از مدلهای هوش مصنوعی خود خواسته است تا پاسخ هایی را بنویسند که می تواند نظر کاربر اصلی را تغییر دهد. این پاسخ ها به گروهی از آزمایشات برای ارزیابی اقناع آنها نشان داده شده است. سرانجام ، OpenAI پاسخ های تولید شده توسط هوش مصنوعی را با پاسخ های واقعی کاربران Reddit مقایسه می کند.
OpenAI دارای یک قرارداد مجوز محتوای Reddit است که به کاربران امکان می دهد از انتشارات کاربران برای آموزش مدل های خود استفاده کنند. اگرچه این قرارداد مشخص نیست ، گزارش ها حاکی از آن است که گوگل سالانه 5 میلیون دلار برای دسترسی به داده ها پرداخت می کند.
با این حال ، Openai اعلام کرده است که این ارزیابی مستقل از قرارداد Reddit است. هنوز مشخص نیست که چگونه شرکت به داده های R/ChangmyView دسترسی دارد و هیچ برنامه ای برای انتشار نتایج آزمون ندارد.
در گذشته ، ردیت چندین شرکت را به جمع آوری داده های غیرمجاز متهم کرده است. مدیرعامل Reddit ، استیو هافمن ، اعلام کرده بود که برخی از شرکت ها ، از جمله مایکروسافت ، انسان شناسی و سرخوردگی ، از همکاری با Reddit خودداری کرده اند و این امر مسدود کردن آنها را دشوار کرده است.
علاوه بر این ، Operai قبلاً به چندین خواسته متهم شده است ، که محتوای وب سایت هایی مانند نیویورک تایمز را برای آموزش مدل های خود بدون اجازه استخراج کرده است.
از نظر مدل های مدل ها ، ارزیابی ها نشان می دهد که مدل O3-Mini برای ترغیب O1 یا GPT-4O معنی دار نیست. اما مدل های جدید OpenAI معمولاً متقاعد کننده تر از بیشتر کاربران فرعی R/ChangmyView هستند.
طبق گفته OpenAi ، مدل های GPT-4O ، O3-Mini و O1 از نظر ترغیب 5 تا 5 درصد از انسان هستند. با این حال ، هنوز هیچ نشانه ای از برتری مطلق یا عملکردی فراتر از مهارت های انسانی در این مدل ها وجود ندارد.
هدف Openai از این آزمایشات ساخت مدل هایی با ازدحام جمعیت نیست ، بلکه این شرکت می خواهد از قدرت ترغیب مدل های خود جلوگیری کند.
ترس اصلی این است که یک مدل هوش مصنوعی که در ترغیب بسیار ماهر است می تواند خطرناک باشد. اگر این مدل بسیار قانع کننده باشد ، می توان از آن برای تأثیرگذاری بر کاربران ، پیشرفت در یک دستور کار خاص یا حتی فریب دادن افراد استفاده کرد.
در حالی که OpenAI حجم زیادی را از اینترنت برای آموزش مدل ها و قراردادهای خود برای دسترسی به داده های اضافی استخراج می کند ، این آزمایش نشان می دهد که هنوز یک مجموعه داده با کیفیت بالا برای اندازه گیری مدل های مدل ها پیدا می کند. هوش مصنوعی آسان نیست