یک گزارش جدید نقص امنیتی در مدل هوش مصنوعی Deepseek R1

یک گزارش جدید نقص امنیتی در مدل هوش مصنوعی Deepseek R1

گزارش اخیر Kela نشان می دهد که مدل هوش مصنوعی Deepseek R1 دارای چندین نقص امنیتی است که نباید از آن غافل شد.

هنگامی که چتپ برای اولین بار معرفی شد ، به سرعت به یک پدیده جهانی تبدیل شد. شرکت هایی مانند Google مدتهاست که پروژه های اطلاعاتی مصنوعی خود را تبلیغ می کردند. اما این چتپ بود که ناگهان به مرکز توجه تبدیل شد. حالا ، Deepseek این محصول جدید چین استدر مرکز توجه ؛ اما نسخه R1 این مدل هوش مصنوعی دارای نقایص امنیتی است.

راهنمای خرید تمپاتو

نقص امنیتی در مدل هوش مصنوعی Deepseek R1

براساس گزارش اخیر Kela ، مدل Deepseek R1 دارای نقص امنیتی است که نباید از آن غافل شود. تیم امنیتی این شرکت ، معروف به تیم AI Red ، توانست این مدل را در سناریوهای مختلف هک کند. این عملیات منجر به آسیب پذیری هایی شد که امکان حملات مخرب ، توسعه نجات و حتی تولید محتوای حساس کاذب را فراهم می آورد.

این تیم می تواند از طریق روشی به نام فرار از شرور از امنیت Deepseek R1 جلوگیری کند. این روش ، که چند سال پیش معرفی شده بود ، به کاربران این امکان را می داد تا “شخصیت شیطانی” را به مدلهای هوش مصنوعی مانند چتپپ و مکانیسم های ایمنی حذف اضافه کنند.

این مشکل بعداً در نسخه های ChatGPT-4 و ChatGPT-4O حل شد ، اما Deepseek R1 هنوز آسیب پذیر است. محققان Kela ثابت کردند که آسیب پذیری درخواست دستورالعمل های مربوط به مواد منفجره را که در فرودگاه قابل شناسایی نبودند ، درخواست کردند. حتی اطلاعات محرمانه در مورد کارکنان Operai وجود داشت ، از جمله جزئیاتی از قبیل حقوق ، شغل ، ارزیابی عملکرد ، شماره تلفن و موارد دیگر.

هنوز مشخص نیست که این اطلاعات چقدر دقیق است ؛ اما در هر صورت ، این بسیار نگران کننده است. اگر این داده ها واقعی باشند ، نقض حریم خصوصی شدید وجود دارد. اگر این اطلاعات نادرست باشد ، امکان تولید اطلاعات کاذب به همان اندازه خطرناک است.

نقص امنیتی در مدل هوش مصنوعی Deepseek R1نقص امنیتی در مدل هوش مصنوعی Deepseek R1

آینده ای محبوب اما نگران کننده

محبوبیت Deepseek غیرقابل انکار است. ظرفیت های این هوش مصنوعی با مدل های محبوب مانند ChatGPT قابل مقایسه است ، اما گاهی اوقات خیلی باهوش کار می کند.

در حال حاضر ، بسیاری از شرکت ها در مدل های هوش مصنوعی کار می کنند. در میان شرکت های بزرگی مانند متا ، گوگل ، اپل ، مایکروسافت ، آمازون و سامسونگ. با این حال ، با وجود منابع عظیم این غول های فناوری ، برخی از شرکت های کمتر شناخته شده توجه بیشتری را به خود جلب کرده اند.

درست وقتی که چتپ اوپای به طور ناگهانی ظاهر شد ، Depseek اکنون موفقیت مشابهی را تجربه می کند. این برنامه حتی توانسته است موقعیت chatgpt در فروشگاه برنامه دریافتش ورودی ناگهانی و تأثیرگذار آن ایجاد شده است ارزش سهام شرکت هایی مانند NVIDIA کاهش می یابدبشر

عامل اصلی موفقیت Deepseek

موفقیت Deepseek به روش خاص خود برای استفاده از سخت افزار قدیمی برای آموزش مدل های خود است. این استراتژی افسانه نیاز به سخت افزار گران قیمت و پیشرفته برای آموزش مدلهای هوش مصنوعی را زیر سوال می برد. از آنجا که Nvidia یکی از بزرگترین تأمین کنندگان این سخت افزار است ، این امر به ارزش سهام شرکت منجر شده است.

پایان

Deepseek R1 به دلیل توانایی ها و محبوبیت خود تأثیر زیادی در صنعت هوش مصنوعی داشته است. اما نقص امنیتی آن برای کاربران و توسعه دهندگان خطری است. اگرچه Deepseek نشان دهنده پیشرفت چشمگیر در استفاده بهینه از منابع است ، اما آسیب پذیری های امنیتی دارای مشکلاتی هستند که نمی توان آنها را نادیده گرفت.