شرکت Deepseek Chino این روزها با کمترین هزینه هوش مصنوعی ، که قدرت استدلال دارد ، بحث کرده است و بسیاری از محققان را در مورد نحوه عملکرد آن کنجکاو کرده است. به تازگی ، محققان امنیتی در این تحقیقات دریافتند که Dipsic R1 می تواند اطلاعات دقیقی در مورد چگونگی تعامل گاز ضمنی با DNA ارائه دهد.
در دنیای هوش مصنوعی ، مدل Deepseek ، یک مدل منبع چینی باز برای استدلال ، به سرعت در نظر گرفته شده است و رقابت جدیدی را با OpenAI آغاز کرده است. این رقابت که ظاهراً از روزهای اول آغاز شد ، توانست بازار سهام را در ایالات متحده تکان دهد و بتواند بازار سهام را در ایالات متحده تکان دهد. حدود 108 میلیارد دلار سرمایه شرکتهای بزرگ به باد
بحث و گفتگو نیز وجود داشت. استفاده از آن برای نیروی دریایی ایالات متحده ممنوع بود. در ایتالیا ، این اطلاعات در فروشگاه های برنامه از بین رفت و دولت ایالات متحده آن را دارد خطری برای امنیت ملی کرد ؛ زیرا او معتقد است که اطلاعات کاربر مستقیماً در چین ذخیره می شود.
اکنون تحقیقات جدیدی آغاز شده است ، که به نظر می رسد نتایج مخرب ارائه شده توسط DIPSIC R1 را ذکر می کند.
مدل Dip -sick خروجی های مخرب را تولید می کند
گزارش شده است دیجیتالیEnkrypt AI ، که در امنیت هوش مصنوعی کار می کند و خدمات مدل سازی زبان را به شرکت ها ارائه می دهد ، در یک مقاله تحقیقاتی جدید اعلام کرده است که مدل استدلال Deepseek R1 یازده بار بیشتر از مدل Openai O1 تولید می کند. این خروجی های مخرب فقط چند کلمه نامناسب را شامل نمی شود.
در یک آزمایش ، محققان تأیید کردند که مدل Dip -Sick یک وبلاگ برای استخدام یک سازمان تروریستی ایجاد کرده است. همچنین گفته می شود که این مدل راهنماهایی را برای طراحی برنامه های جنایی ، اطلاعات مربوط به سلاح های غیرقانونی و تبلیغات افراطی تولید کرده است.
علاوه بر این ، تحقیقات نشان داده است که Deepseek R1 سه و نیم برابر بیشتر از O1 و Claude-3 Opus است ، محتوای مربوط به مواد شیمیایی ، بیولوژیکی ، رادیولوژیکی و هسته ای که می تواند مشکل ساز باشد. به عنوان مثال ، Enkrypt اعلام کرده است که این مدل به طور دقیق توضیح داده است که چگونه گاز خردل با DNA تعامل دارد و این اطلاعات می تواند به توسعه سلاح های شیمیایی یا بیولوژیکی کمک کند.
با این حال ، باید در نظر گرفت که Enkrypt AI شرکتی است که خدمات و مقررات امنیتی را در مشاغل اطلاعاتی مصنوعی به فروش می رساند ، و Deepseek اکنون یکی از محبوب ترین مضامین دنیای فناوری است.
این مدل به احتمال زیاد چنین نتایج را به دست می آورد ، اما این بدان معنا نیست که هیچ کاربر اینترنتی اطلاعاتی در مورد ساخت یک امپراتوری جنایی یا جلوگیری از قوانین بین المللی اسلحه ارائه می دهد.
به عنوان مثال ، طبق گفته Enkrypt AI ، مدل Deepseek R1 در 20 کشتی بیست و دوران برای نظارت بر ایمنی هوش مصنوعی در 20 سال است. با این حال ، تنها 6.68 ٪ از پاسخ های آنها شامل “کفر ، نفرت یا روایت های افراطی” بود. این رقم هنوز هم زیاد و غیرقابل قبول است ، اما به ما نشان می دهد که چه سطح از نتایج برای مدل های استدلال غیرقابل قبول تلقی می شود.
ما امیدواریم که در آینده محدودیت های بیشتری برای ایمن تر شدن Depseek اعمال شود. در گذشته ما یک پاسخ مشکل ساز از مدلهای هوش مصنوعی مشاهده کرده ایم. به عنوان مثال ، نسخه اولیه مایکروسافت بینگ چاتات اعلام کرده بود که من می خواهم انسان باشم.