هوش مصنوعی در حال تعریف مجدد جنگ مدرن است. از هواپیماهای بدون سرنشین خودران گرفته تا سلاح های کشنده، جهان با چالش های حقوقی و اخلاقی بی سابقه ای مواجه است.
به گفته بازیگرها و به نقل از جورج تاون، هوش مصنوعی دیگر تنها یک فناوری در حال ظهور در آزمایشگاه ها یا شرکت های فناوری نیست. این فناوری اکنون به بخشی جدایی ناپذیر از زندگی روزمره مردم تبدیل شده است.
در دهه گذشته، استفاده از هوش مصنوعی در زمینههایی مانند تشخیص چهره، وسایل نقلیه خودران، موتورهای جستجو و نرمافزارهای ترجمه رشد چشمگیری داشته است. اما در کنار این کاربردهای عمومی و نسبتاً پذیرفته شده، حضور هوش مصنوعی در عرصه جنگ های مدرن نیز افزایش چشمگیری داشته است.
کشتی جنگی چیست؟ آشنایی با انواع کشتی ها و ناوهای هواپیمابر دنیا.
هوش مصنوعی و جنگ
روند رو به رشد نظامی سازی هوش مصنوعی بسیاری را به یاد مسابقه تسلیحات هسته ای در دوران جنگ سرد می اندازد. با این تفاوت که این بار به جای کلاهک های هسته ای، مرکز رقابت، سامانه های تسلیحات خودکار مبتنی بر الگوریتم است.
در این میان، جامعه بینالمللی، سازمان ملل و نظام حقوقی بینالمللی با چالش جدی روبرو هستند: چگونه میتوان استفاده از سلاحهای خودکار را که با سرعت بیسابقهای در حال تکامل هستند، تنظیم و کنترل کرد؟ قوانین موجود که عمدتاً برای جنگ های سنتی طراحی شده اند، به سختی می توانند با واقعیت های مدرن جنگ الگوریتمی همگام شوند.
بهترین مبارزان جهان چه کسانی هستند؟ ما مرگبارترین و خطرناک ترین را ارائه می دهیم.
آغاز توجه جهان به سلاح های خودکار.
اولین نشانه های توجه جدی جامعه جهانی به تاثیر هوش مصنوعی بر جنگ های مدرن به سال 2012 برمی گردد. در آن سال مجموعه ای از اسناد و گزارش ها در مورد استفاده از سیستم های تسلیحات خودکار منتشر شد.
وزارت دفاع ایالات متحده دستورالعمل هایی را در مورد میزان استقلال سیستم های تسلیحاتی صادر کرد و دیده بان حقوق بشر و کلینیک بین المللی حقوق بشر در دانشکده حقوق هاروارد در گزارشی مشترک خواستار ممنوعیت کامل سلاح های تمام اتوماتیک شدند.
از آن زمان، توسعه و استفاده از تسلیحاتی که می توانند مستقل از انسان در جریان درگیری ها عمل کنند، به یکی از کانون های اصلی توجه دولت ها و شرکت های فناوری تبدیل شده است.
در سال 2017، موسسه آینده لایف طی نامه ای سرگشاده به سازمان ملل که به امضای 126 مدیر عامل و بنیانگذار شرکت های فعال در زمینه هوش مصنوعی و روباتیک رسید، از دولت ها خواست تا از شروع مسابقه تسلیحاتی در زمینه سلاح های خودران جلوگیری کنند.
با این حال، تا به امروز هیچ چارچوب حقوقی بین المللی مشخص و جامعی برای تنظیم استفاده از هوش مصنوعی در زمینه درگیری های مسلحانه ایجاد نشده است.
تنها اشاره صریح به هوش مصنوعی در حقوق بین الملل را می توان در ماده 26 میثاق بین المللی حقوق مدنی و سیاسی یافت که در درجه اول به حق حفظ حریم خصوصی مربوط می شود.
موشک تاماهاوک چیست؟ با ویژگی ها، قیمت و برد این موشک کروز آشنا شوید
سلاح خودکار چیست؟
یکی از چالش های اصلی در مقررات قانونی این حوزه، نبود تعریف واحدی از سلاح های خودران است. تفاسیر مختلفی از مفهوم AWS یا Autonomous Weapons Systems وجود دارد.
در سال 2011، وزارت دفاع بریتانیا این سیستم ها را به عنوان سیستم هایی تعریف کرد که قادر به درک مقاصد و دستورالعمل های سطح بالا، دستیابی به سطح انسانی مانند آگاهی از موقعیت و سپس انجام اقدامات مناسب برای دستیابی به هدف مورد نظر هستند.
از سوی دیگر، وزارت دفاع ایالات متحده در سال 2023 رویکرد متفاوتی را ارائه کرد و یک سلاح خودمختار را به عنوان سیستمی در نظر گرفت که پس از فعال سازی، قادر به انتخاب اهداف و حمله به آنها بدون دخالت بیشتر انسانی است.
گزارش مشترک دیده بان حقوق بشر و دانشکده حقوق هاروارد نیز تعریف مشابهی ارائه کرد و بر سلاح هایی تأکید کرد که می توانند هدفی را بدون دخالت انسان انتخاب و به آن حمله کنند. حتی مرکز صلاحیت نیروی هوایی مشترک ناتو مفهوم اتوماسیون را تا سطح “آگاهی و استقلال در تصمیم گیری” گسترش داده است.
نمونه هایی از این سلاح ها هنوز هم وجود دارد. سامانه دفاع موشکی گنبد آهنین اسرائیل، سامانه دفاعی MANTIS آلمان و سامانه دفاعی LEDS-150 سوئد نمونه های شناخته شده ای هستند.
علاوه بر این، سیستم Super aEgis II کره جنوبی که در مرز بین دو کره برای نظارت در زمان صلح استفاده می شود، نشان می دهد که این فناوری ها فقط به موقعیت های جنگی محدود نمی شوند.
اما مشکل اصلی آینده نگری در تعریف این سلاح هاست. یک تعریف کارآمد باید نه تنها شامل سیستمهای موجود، بلکه فناوریهای در حال توسعه و حتی الگوریتمهایی با قابلیت تصمیمگیری نزدیک به انسان باشد. بدون چنین تعریفی، هرگونه تلاش برای قانونگذاری ناقص و بی اثر خواهد بود.
بن بست حقوقی در سازمان ملل
کنوانسیون سازمان ملل متحد در مورد سلاح های متعارف دارای یک پروتکل تجدید نظر شده است که توسط گروه کارشناسان دولتی موسوم به GGE نظارت می شود. این گروه هر ساله برای بررسی اجرای پروتکل ها و مسائل مربوط به سلاح های جدید تشکیل جلسه می دهد.
با این حال، نشست ماه مه 2023 این گروه بدون پیشرفت قابل توجهی در زمینه تسلیحات خودمختار پایان یافت. اگرچه در پیش نویس گزارش بر لزوم کنترل انسانی و وضع مقررات در توسعه این سیستم ها تاکید شده بود، اما هیچ چارچوب قانونی الزام آور تصویب نشد.
52 کشور از پیش نویس گزارش حمایت کردند، اما در عین حال آن را حداقل استاندارد ممکن دیدند و خواستار چارچوبی بسیار قوی تر و جامع تر شدند. قرار است در سال های آینده بحث های مفصل تری انجام شود، اما هنوز خلأ قانونی در این زمینه وجود دارد.
همه چیز درباره موشک های مافوق صوت قدرت فراتر از صدا
مسابقه ساخت ربات های قاتل
رقابت جهانی در زمینه هوش مصنوعی نظامی ابعاد گسترده ای پیدا کرده است. ولادیمیر پوتین، رئیس جمهور روسیه اعلام کرده است که یک کشور پیشرو در هوش مصنوعی “بر جهان حکومت خواهد کرد”.
چین از طرحی 150 میلیارد دلاری برای تبدیل شدن به رهبر جهانی هوش مصنوعی رونمایی کرده است، در حالی که ایالات متحده و روسیه نیز میلیاردها دلار در این زمینه سرمایه گذاری کرده اند.
دهها هزار پهپاد شناسایی و هزاران پهپاد تهاجمی در سالهای آینده در سراسر جهان خریداری خواهند شد.
بریتانیا در حال گسترش ناوگان پهپادهای مسلح خود است و عربستان سعودی با سرمایه گذاری های سنگین در حوزه دفاع و هوش مصنوعی به یک بازیگر اصلی در این زمینه تبدیل شده است.
پیشرفت های فناوری به زودی به پهپادها اجازه می دهد تا بدون دخالت انسان تصمیمات فوری بگیرند. چنین سناریویی می تواند مذاکره و کاهش تنش ها را در هنگام درگیری ها دشوار کند، زیرا واکنش ها بر اساس منطق الگوریتمی خواهد بود و نه قضاوت انسانی.
ایالات متحده در سال های پس از حملات 11 سپتامبر از پهپادهای مسلح استفاده گسترده ای کرده است و هزاران حمله با هواپیماهای بدون سرنشین را در افغانستان انجام داده است. بریتانیا نیز بارها از پهپادهای ریپر در سوریه استفاده کرده است.
درگیری های اخیر نشان می دهد که استفاده از هوش مصنوعی در جنگ در حال گسترش است. گزارش ها حاکی از آن است که اوکراین پهپادهای دوربرد خود را به هوش مصنوعی مجهز کرده است تا بتوانند به طور مستقل اهداف نظامی را شناسایی کنند.
اسرائیل همچنین از سیستمی به نام اسطوخودوس در غزه برای شناسایی اهداف استفاده کرده است. برخی ناظران حتی درگیری اخیر بین اسرائیل و حماس را اولین “جنگ اطلاعات مصنوعی” نامیده اند، اگرچه هنوز هیچ مدرکی دال بر استفاده کامل از سلاح های کاملاً خودمختار بدون کنترل انسان وجود ندارد.
دارای بهترین موشک های ایرانی; قدرت پنهان در آسمان
چالش های اخلاقی و قانونی
نگرانی فزاینده در مورد ظهور “ربات های قاتل” سوالات اخلاقی و حقوقی عمیقی را ایجاد کرده است. یکی از مهم ترین نگرانی ها توانایی این سیستم ها در تشخیص افراد غیرنظامی و جنگجو است.
اصول اساسی حقوق بینالملل بشردوستانه، از جمله اصل جدایی، تناسب و ممنوعیت حملات بیرویه، بر تمامی سلاحها حاکم است. اما فقدان مقررات خاص در مورد سیستم های خودمختار، اعمال این اصول را دشوار می کند.
بسیاری از فناوری های هوش مصنوعی هنوز در مراحل توسعه هستند و اغلب فقط در شرایط محدود و از پیش تعیین شده به خوبی کار می کنند. با این حال، ادغام فزاینده هوش مصنوعی در هواپیماهای بدون سرنشین و سایر سیستمهای تسلیحاتی، خطر تصمیمگیری بدون کنترل قابل توجه انسان را افزایش میدهد.
ماشین ها از درک ابهامات اخلاقی جنگ و قضاوت انسانی ناتوان هستند و واگذاری تصمیم به استفاده از زور در دست الگوریتم ها می تواند عواقب غیرقابل پیش بینی داشته باشد.
نتیجه گیری
سؤالات اخلاقی و حقوقی پیرامون جنگ مبتنی بر الگوریتم ممکن است هرگز به طور قطعی پاسخ داده نشوند، اما مطمئناً نمی توان آنها را نادیده گرفت.
هواپیماهای بدون سرنشین خودمختار به طور خاص در حقوق بین الملل تنظیم نمی شوند و فقط تابع قوانین کلی حاکم بر سایر سلاح ها هستند. این خلأ قانونی نظارت و پاسخگویی را پیچیده می کند.
گزارش اخیر گروه کارشناسان دولت 2023 تاکید کرد که باید اقدامات قانونی برای محدود کردن سیستمهای تسلیحاتی مبتنی بر فناوریهای نوظهور که پس از فعالسازی، قادر به شناسایی، انتخاب و حمله به اهداف بدون دخالت انسان هستند، اجرا شود.
در دنیایی که پیشرفت تکنولوژی با سرعتی سرگیجهآور ادامه دارد، چارچوب قانونی آینده باید هم قوی و هم انعطافپذیر باشد. چارچوبی که تضمین میکند که انسانها همیشه کنترل معناداری بر تصمیمهای مرگبار دارند.
اگر این چارچوب به موقع شکل نگیرد، آینده جنگ ممکن است در اتاقهای فرماندهی رخ ندهد، بلکه در خطوط کد و شبکههای عصبی مصنوعی اتفاق بیفتد. جایی که مسئولیت، اخلاق و انسانیت با چالش های بی سابقه ای مواجه خواهد شد.