یک سند هدف سیاسی که نگرانی شرکت را در مورد مدل های هوش مصنوعی آینده نشان می دهد. ظاهراً هدف نگران توسعه تصادفی یک مدل هوش مصنوعی است که می تواند به “عواقب فاجعه بار” منجر شود. هدف هشدار داده است که هوش مصنوعی می تواند امنیت سایبری را از بین ببرد.
به گفته تاکرات 9to5macدر این سند ، برنامه های هدف برای جلوگیری از انتشار این مدل ها توصیف شده است ، اما شرکت تشخیص می دهد که این امکان وجود دارد که نتواند به طور کامل از آن جلوگیری کند.
برنامه های هدف برای متوقف کردن مدل های خطرناک هوش مصنوعی او آن را دارد. وب سایت TechCrunch سندی را که دارای چارچوب AI Frontier است ، کشف کرده است.
در این سند ، متا دو نوع سیستم هوش مصنوعی با ریسک بالا را تعریف می کند:
- سیستم های پرخطر (خطر بالا)
- سیستم های ریسک بحرانی (خطر بحرانی)
به گفته هدف ، هر دو نوع سیستم می توانند در مناطقی مانند امنیت سایبری ، حملات شیمیایی و حملات بیولوژیکی مؤثر باشند ، اما تفاوت این است که مدل های ریسک بحرانی می توانند به “نتایج فاجعه بار که در شرایط پیشنهادی کنترل نمی شوند” منجر شود. در مقابل ، مدل های پرخاشگرانه می توانند حمله را تسهیل کنند ، اما به اندازه مدل های ریسک بحرانی قابل اعتماد نخواهد بود.
نتیجه فاجعه بار مدل های هوش مصنوعی آینده از دیدگاه هدف چگونه است؟
هدف پیامدهای فاجعه بار را به شرح زیر تعریف می کند:
“نتایج که تأثیر کلی ، ویرانگر و احتمالاً برگشت ناپذیر بر بشریت دارند و می توانند مستقیماً در نتیجه دسترسی به [مدلهای هوش مصنوعی ما] تحقق یابد
نمونه ای که در این سند ذکر شده است ، دزدی خودکار و کامل یک شبکه رایانه ای با بهترین اقدامات امنیتی بدون نیاز به تداخل انسان است.
سایر خطرات احتمالی شامل موارد زیر است:
- شناسایی خودکار و بهره برداری از آسیب پذیری های روز صفر
- کلاهبرداری کاملاً خودکار که به مردم و شرکت ها آسیب می رساند
- توسعه و گسترش سلاح های بیولوژیکی با ریسک بالا
متا اعلام کرده است که در صورت شناسایی یک مدل ، توسعه بلافاصله متوقف می شود و از انتشار آن جلوگیری می کند.
هدف: مهار این مدل ها ممکن نیست
این سند همچنین تشخیص می دهد که اقدامات هدف برای جلوگیری از انتشار این مدل ها ممکن است کافی نباشد:
“دسترسی به این مدلها به تعداد محدودی از متخصصان محدود می شود و اقدامات امنیتی برای جلوگیری از دزدان دریایی یا سرقت داده ها در حد امکان و ممکن تجاری انجام می شود.”
ارسال نقد و بررسی