گسترش سریع فناوریهای مبتنی بر هوش مصنوعی در سالهای اخیر، یکی از مهمترین تحولات فناورانه در عرصه جهانی به شمار میآید. این فناوری با قابلیت پردازش حجم عظیمی از دادهها، تحلیل الگوهای پیچیده و ارائه پیشبینیهای مبتنی بر الگوریتمهای یادگیری ماشین، به تدریج در حوزههای مختلف حکمرانی، اقتصاد، سلامت و امنیت وارد شده است. در این میان، کاربردهای بالقوه هوش مصنوعی در حوزههای نظامی و امنیتی نیز توجه بسیاری از دولتها و نهادهای بینالمللی را به خود جلب کرده است؛ به ویژه به جهت افزایش دقت، کاهش خطرات انسانی و بهبود سرعت عمل در جنگ. هرچند استفاده از این فناوری در برخی حوزههای نظامی بهطور محدود به تحلیل دادهها و پشتیبانی از تصمیمگیری محدود میشود، اما پیامدهای حقوقی و اخلاقی آن بهویژه در شرایط منازعات مسلحانه، موضوع بحثهای گسترده در محافل حقوق بینالملل و حقوق بشر قرار گرفته است.
از منظر حقوق بینالملل، ورود فناوریهای نوین به عرصه جنگ همواره مستلزم ارزیابی تطابق آنها با قواعد حقوق بشردوستانه بینالمللی بوده است. اصول بنیادینی همچون اصل تمایز میان اهداف نظامی و غیرنظامی، اصل تناسب در استفاده از زور و اصل ضرورت نظامی از جمله قواعدی هستند که در اسناد مهمی نظیر کنوانسیونهای ژنو و پروتکلهای الحاقی آنها مورد تأکید قرار گرفتهاند. پرسش اساسی در خصوص سامانههای مبتنی بر هوش مصنوعی این است که آیا چنین سامانههایی قادرند در شرایط پیچیده و متغیر میدان نبرد، این اصول حقوقی را بهدرستی تشخیص داده و رعایت کنند یا خیر.
در سالهای اخیر، بسیاری از نهادهای بینالمللی نسبت به پیامدهای احتمالی استفاده از سامانههای خودکار در تصمیمگیریهای نظامی هشدار دادهاند. یکی از مهمترین دغدغهها در این زمینه، مسئله حفظ کنترل انسانی بر تصمیمهای حیاتی است. در گزارشهای متعدد سازمان ملل متحد تأکید شده است که استفاده از فناوریهای هوش مصنوعی نباید به تضعیف مسئولیت انسانی در تصمیمگیریهای حیاتی منجر شود. به عنوان نمونه، دبیرکل سازمان ملل متحد در گزارش خود درباره فناوریهای نوین نظامی تصریح کرده است که «واگذاری تصمیمهای مرگبار به سامانههای خودکار بدون کنترل معنادار انسانی، از منظر اخلاقی و حقوقی با چالشهای جدی مواجه است». این دیدگاه بیانگر نگرانی فزاینده جامعه بینالمللی نسبت به توسعه سامانههایی است که ممکن است بدون نظارت انسانی اقدام به شناسایی هدف یا استفاده از نیروی مرگبار کنند.
در کنار این مباحث، مسئله حفاظت از حقوق بنیادین انسانها نیز از جمله موضوعاتی است که در چارچوب حکمرانی هوش مصنوعی مورد توجه قرار گرفته است. فناوریهای مبتنی بر تحلیل دادههای بیومتریک، شناسایی چهره و نظارت الگوریتمی میتوانند پیامدهای گستردهای برای حریم خصوصی و آزادیهای مدنی داشته باشند. در همین راستا، یونسکو در سند مهم خود Recommendation on the Ethics of Artificial Intelligence (UNESCO, 2021) تأکید میکند که توسعه و استفاده از سامانههای هوش مصنوعی باید همواره با احترام به کرامت انسانی، حقوق بشر و آزادیهای بنیادین همراه باشد. در این سند آمده است که هوش مصنوعی باید در خدمت انسان و جامعه قرار گیرد و استفاده از آن نباید منجر به تضعیف حقوق بنیادین، تبعیض یا نقض حریم خصوصی افراد شود.
یونسکو در همین چارچوب بر اصل انسانمحوری (Human-Centered AI) در طراحی و استفاده از سامانههای هوش مصنوعی تأکید میکند. این اصل بیان میکند که انسان باید در مرکز فرآیندهای تصمیمگیری باقی بماند و فناوری صرفاً نقش ابزار پشتیبان را ایفا کند. به عبارت دیگر، توسعه فناوری نباید به گونهای باشد که اختیار و مسئولیت انسانی در تصمیمگیریهای مهم از میان برود. چنین رویکردی به ویژه در حوزههای حساس مانند امنیت و دفاع اهمیت دوچندان پیدا میکند.
در سطح منطقهای نیز تلاشهایی برای تنظیم مقررات مربوط به هوش مصنوعی صورت گرفته است. یکی از مهمترین این تلاشها، تصویب قانون هوش مصنوعی اتحادیه اروپا (EU Artificial Intelligence Act) است که نخستین چارچوب جامع قانونی در جهان برای تنظیم کاربردهای هوش مصنوعی محسوب میشود. این قانون با اتخاذ رویکردی مبتنی بر ارزیابی سطح خطر، کاربردهای مختلف هوش مصنوعی را به چند دسته تقسیم میکند و برای هر یک الزامات و محدودیتهای خاصی در نظر میگیرد.
بر اساس این قانون، برخی از کاربردهای هوش مصنوعی به دلیل خطرات جدی برای حقوق بنیادین انسانها در زمره کاربردهای ممنوع قرار گرفتهاند. یکی از مهمترین این موارد، استفاده از سامانههای شناسایی بیومتریک بلادرنگ و از راه دور در فضاهای عمومی است. چنین سامانههایی میتوانند امکان شناسایی و ردیابی افراد را بدون اطلاع یا رضایت آنها فراهم کنند و در نتیجه تهدیدی جدی برای حریم خصوصی و آزادیهای مدنی به شمار میروند. به همین دلیل، قانون اتحادیه اروپا استفاده گسترده از این فناوریها را محدود کرده و تنها در شرایط بسیار خاص و تحت نظارت دقیق قانونی اجازه استفاده از آنها را میدهد.
قانون هوش مصنوعی اتحادیه اروپا همچنین بر ضرورت رعایت اصولی همچون شفافیت الگوریتمی، پاسخگویی حقوقی، ارزیابی ریسک و نظارت انسانی مؤثر تأکید میکند. بر اساس این چارچوب، توسعهدهندگان و بهرهبرداران سامانههای هوش مصنوعی موظفاند سازوکارهایی را برای اطمینان از ایمنی، قابلیت نظارت و جلوگیری از سوءاستفاده از این فناوریها ایجاد کنند. چنین الزامات قانونی نشاندهنده تلاش قانونگذاران برای ایجاد تعادل میان بهرهگیری از ظرفیتهای فناوری و حفاظت از حقوق بنیادین شهروندان است.
از منظر حقوقی، یکی از پیچیدهترین مسائل در حوزه هوش مصنوعی، موضوع مسئولیت حقوقی در صورت بروز خسارت یا نقض حقوق بشر است. در صورتی که یک سامانه هوش مصنوعی در فرآیند تحلیل داده یا شناسایی هدف دچار خطا شود و این خطا منجر به آسیب به غیرنظامیان یا نقض حقوق بنیادین شود، تعیین مسئولیت حقوقی امری دشوار خواهد بود. این مسئله پرسشهای مهمی را مطرح میکند: آیا مسئولیت بر عهده توسعهدهندگان الگوریتم است؟ آیا فرماندهان نظامی یا دولتها باید پاسخگو باشند؟ یا اینکه باید چارچوبهای حقوقی جدیدی برای این نوع فناوریها طراحی شود؟
در سالهای اخیر، بسیاری از نهادهای حقوق بشری و سازمانهای بینالمللی بر ضرورت تدوین قواعد بینالمللی الزامآور برای سامانههای تسلیحاتی خودکار تأکید کردهاند. در چارچوب گفتوگوهای سازمان ملل درباره «سامانههای تسلیحاتی خودکار مرگبار»، بسیاری از کشورها و کارشناسان بر این نکته تأکید کردهاند که هرگونه استفاده از فناوریهای خودکار در حوزه نظامی باید تحت نظارت معنادار انسانی باقی بماند. این رویکرد در واقع تلاشی برای جلوگیری از شکلگیری سامانههایی است که بدون مداخله انسانی قادر به اتخاذ تصمیمهای مرگبار باشند.
در نهایت باید توجه داشت که توسعه فناوریهای هوش مصنوعی در حوزه امنیت و دفاع واقعیتی انکارناپذیر در نظام بینالملل معاصر است. با وجود ابتکارات حقوقی، توصیهنامههای بینالمللی و تأکید مکرر بر اصل انسانمحوری و ضرورت حفاظت از حقوق بنیادین، تجربههای عملی نشان میدهد که در بسیاری از موارد دولتها در عمل از این چارچوبها فاصله میگیرند. در شرایط رقابتهای ژئوپلیتیکی و منازعات مسلحانه، برخی دولتها با توسل به توجیهات امنیتی یا تهدیدات ادعایی، از ظرفیتهای فناوری برای گسترش قدرت نظامی استفاده کرده و در مواردی ارزشهای بنیادین حقوق بشر و اصول حقوق بشردوستانه را نادیده میگیرند. از این رو، چالش اصلی آینده نه صرفاً توسعه قواعد حقوقی، بلکه ایجاد سازوکارهای مؤثر برای تضمین اجرای واقعی این قواعد و جلوگیری از سوءاستفاده دولتها از فناوریهای نوین در عرصه جنگ خواهد بود.
مرکز هوش مصنوعی و حقوق پژوهشگاه قوه قضاییه