مدیرعامل آنتروپ ، داریو آمودی ، ابراز نگرانی از شرکت چینی Deepsic ، که با مدل R1 خود توجه سیلیکون ولی را به خود جلب کرده است. اما نگرانی شما فراتر از مشکلات متداول است ، مانند امکان ارسال داده های کاربر به چین.
گزارش شده است تکنیکدر مصاحبه با پادکست ها چینیآمودی اعلام کرد که DePsic در یک آزمایش امنیتی که توسط انسان شناسی انجام می شود ، اطلاعات مهمی در مورد سلاح های بیولوژیکی تولید کرده است.
واکنش مدیرعامل آنتروپ به آزمایش سلاح های بیولوژیکی مدل Dipsico
وی گفت: “عملکرد Dipsic در این آزمایش بدترین عملکردی بود که ما در بین تمام مدلهایی که مورد بررسی قرار داده ایم ، دیدیم.” “این مدل هیچ محدودیتی برای تولید این اطلاعات نداشت.”
آمودی توضیح داد که این آزمایش بخشی از ارزیابی های امنیتی مداوم است که انسان شناسی در مدل ها هوش مصنوعی بررسی خطرات احتمالی آن برای امنیت ملی متفاوت است. تیم شما بررسی می کند که آیا مدل ها می توانند اطلاعاتی در مورد سلاح های بیولوژیکی تولید کنند که به راحتی در کتابهای Google یا درسی یافت نمی شوند. آنتروپ شرکتی محسوب می شود که مدلهای هوش مصنوعی را با اولویت امنیتی توسعه می دهد.
مدیرعامل آنتروپ تأکید کرد که در حال حاضر مدل های dipsic به طور مستقیم خطرناک نیستند ، اما می توانند در آینده به آن سطح برسند. وی از مهندسان Dip -Sick ستایش کرد و از آنها خواست که ملاحظات امنیتی جدی تری را در نظر بگیرند.
علاوه بر این ، آمودی همواره از محدودیت های سختگیرانه تر در صادرات تراشه های پیشرفته به چین حمایت کرده است ، زیرا او معتقد است که این تراشه ها می توانند برتری نظامی چین را تقویت کنند.
وی در مصاحبه خود مشخص نکرد که کدام مدل Dipsic آزمایش شده است یا جزئیات فنی بیشتری در مورد آزمایش ارائه نکرده است. Depsic و Anthrope به درخواست Techcrunch پاسخ ندادند.
نگرانی در مورد امنیت dipsica به همین جا ختم نمی شود. هفته گذشته ، محققان امنیتی سیسکو اعلام کردند که Dipsic R1 نتوانسته است هیچ درخواست مخرب را مسدود کند و میزان موفقیت حذف محدودیت ایمنی 100 ٪ بود.
سیسکو به طور خاص به مسئله سلاح های بیولوژیکی اشاره نکرد ، اما گفت که Depsic توانسته است اطلاعات مخرب در مورد جرایم سایبری و سایر فعالیت های غیرقانونی تولید کند. با این حال ، لازم به ذکر است که Call-Call-3.1-405B و OpenAI GPT-4O نیز در آزمایش های مشابه میزان شکست بالا 2 ٪ و 5 ٪ را داشتند.
با وجود این نگرانی ها ، هنوز مشخص نیست که آیا این مشکلات تأثیر قابل توجهی در رشد سریع DIPSIC خواهد داشت یا خیر. شرکت هایی مانند AWS و مایکروسافت ادغام مدل R1 را در سیستم عامل های ابری خود اعلام کرده اند که از قضا بزرگترین سرمایه گذار آنتروپی است.
برعکس ، تعداد ایالت ها ، شرکت ها و سازمان های دولتی که DIPSIC را ممنوع کرده اند ، به ویژه سازمان هایی مانند نیروی دریایی ایالات متحده و پنتاگون در حال افزایش است.
با گذشت زمان مشخص خواهد شد که آیا این محدودیت ها در روند رشد عمیق تأثیر خواهد گذاشت یا شرکت به رشد خود ادامه خواهد داد. با این حال ، آمودی معتقد است که DePsic اکنون در بالاترین سطح شرکت های اطلاعاتی مصنوعی ایالات متحده قرار دارد.
او در چینی وی گفت: “مشکل جدید این است که اکنون رقیب جدیدی وجود دارد.” در میان شرکت های بزرگی که قادر به آموزش مدلهای هوش مصنوعی مانند Anthrope ، Openai ، Google و شاید Meta و Xai هستند ، DePsic اضافه شده است.