اسما پورزنگیآبادی
قوانین حوزه هوش مصنوعی باید الزامآور و سختگیرانه باشد
هوشمصنوعی، ابزاری است با توانایی تصمیمگیری و ارائه مشاوره در مقیاسی بیسابقه، اما فاقد مرزهای انسانی احتیاط است و بابت پیامد توصیههایی که میکند، به هیچ عنوان پاسخگو نیست. خطای یک انسان، هرچند هم که بزرگ باشد، در نهایت به یک فرد پاسخگو میرسد، اما خطای یک الگوریتم، زنجیرهای از پرسشهای بیجواب را ایجاد میکند: آیا پاسخگو، برنامهنویس است یا شرکت توسعهدهنده؛ یا خودِ کاربر که اعتماد بیحدوحصر به یک ابزار غیرانسانی کرده است؟
این چالش، یکی از بزرگترین مسائل دوران ماست که با سرعتی سرسامآور در حال پیشرفت فنی هستیم، اما در وضع قوانین و اخلاقیات، عقب ماندهایم. باید قبل از آنکه فاجعهای جبرانناپذیر رخ دهد، مرزهای جدید اعتماد را با احتیاطی مضاعف ترسیم کنیم.
توهم اطلاعاتی
دکتر حمید ضیاییپرور، پژوهشگر هوشمصنوعی و عضو انجمن ملی هوشمصنوعی ایران در پاسخ به این پرسش که استفاده از هوش مصنوعی در چه زمینههایی بیشترین مزیت را دارد و در چه زمینههایی ممکن است آسیبزا باشد توضیح میدهد: ابزارهای هوشمصنوعی مولد در بسیاری از زمینهها، دادهها و اطلاعات بسیار گستردهای دارند و میتوانند به کمک ما بیایند، بنابراین صاحبان اغلب مشاغل دادهمحور و اطلاعاتمحور مانند معلمان، وکلا، روزنامهنگاران، نویسندگان، تولیدکنندگان محتوا برای شبکههای اجتماعی و فعالان فرهنگی و هنری میتوانند بهراحتی از این ابزارها استفاده کنند. البته این تکنولوژی قابلیت دارد که در تمامی مشاغل از جمله حوزههای پزشکی، حقوقی و صنعتی، شخصیسازی شود، اما نوع استفاده صحیح یا آسیبزا از این ابزارها کاملا به سطح دانش و مهارت فرد استفادهکننده بستگی دارد.
با همه این شرایط، هنگامی که یک نرمافزار هوش مصنوعی، دادهای به ما ارائه میدهد، چگونه بفهمیم درست است یا نه؟ آیا اصلا راهی برای تشخیص صحت اطلاعات وجود دارد؟
ضیاییپرور پاسخ میدهد: این موضوع کاملا بستگی به نوع «پرامپت» و دستوری دارد که شما میدهید. وقتی شما از ابزار، درخواست اطلاعات میکنید، باید همزمان از آن بخواهید که منابع مرتبط با دادهها را نیز ذکر کند. بهترین راه آن است که کاربر علاوه بر پاسخ، به منابع پیوستشده نیز مراجعه کند تا صحت و سقم اطلاعات را به دست آورد. برخی از پاسخهایی که این ابزارها تولید میکنند ممکن است دچار «توهم اطلاعاتی» باشند. این توهم ناشی از دادههای نادرستی است که ابزار با آن آموزش دیده است. باید توجه داشت که مسئولیت صحت و سقم دادهها بر عهده کاربر است، نه هوشمصنوعی.
به گفته ضیاییپرور، بیشترین نگرانی درباره گسترش استفاده از هوش مصنوعی میان کاربران ایرانی این است که اغلب ابزارهای هوشمصنوعی با «دیتاستهای غیربومی» آموزش دیدهاند و بسیاری از آنها کاربران ایرانی را تحریم کردهاند؛ یعنی «آیپی» (IP) ایران را بستهاند و کاربران مجبورند با فیلترشکن کار کنند. بنابراین پاسخهایی که هوش مصنوعی ارائه میدهد معمولا متناسب با شرایط فرهنگی و اجتماعی جوامع غربی است نه ایران. ضمن این که دیتاست فارسی بسیار کم است و ابزارها عمدتا با دادههای انگلیسی آموزش دیدهاند.
وی میافزاید: همانطور که سواد رسانهای و فضای مجازی داریم، باید سواد هوش مصنوعی را نیز تقویت کنیم؛ یعنی نحوه استفاده صحیح مردم از ابزارهای هوش مصنوعی باید در سطوح مختلف، هم در آموزش رسمی و کلاسیک و هم از طریق رسانهها و صداوسیما آموزش داده شود تا کاربران از آسیبهای احتمالی دور بمانند و بتوانند بهتر از ظرفیتهای بینظیر این ابزارها بهره ببرند.
تجربه فردی و خطای تعمیم
با وجود همه هشدارهایی که درباره مرز اعتماد به هوشمصنوعی داده میشود، تجربه بسیاری از کاربران، آنها را به این نتیجه رسانده است که استفاده از هوشمصنوعی در تصمیمهای روزمره میتواند بسیار راهگشا باشد، اما آیا بهراستی، این تجربیات برای این که به هوشمصنوعی اعتماد کنیم کافی است؟
دکتر مهدی طریقت، رئیس اندیشکده و پردیس هوشمصنوعی پاسخ میدهد: تجربه مثبت کاربران در استفاده روزمره از هوشمصنوعی، بدون تردید نقش مهمی در شکلگیری اعتماد اولیه دارد اما از نگاه علمی، این تجربهها فقط بخشی از واقعیت را نشان میدهند و برای اتکای کامل کافی نیستند.
مطالعات اخیر مرکز هوشمصنوعی انسانمحور دانشگاه استنفورد و گزارشهای تحلیلی منتشرشده در نشریه رفتار انسانی نیچر تأکید میکنند که عملکرد قابلقبول هوشمصنوعی در کارهای کمخطر مانند برنامهریزی روزانه، توصیههای سبک زندگی یاتولید متن، الزاما بهمعنای قابل اعتماد بودن آن در حوزههای پیچیدهتر نیست. به گفته طریقت، این پدیده در ادبیات علمی با عنوان مغالطه تعمیم یا خطای تعمیم شناخته میشود؛ یعنی این تصور نادرست که اگر یک سامانه در یک زمینه عملکرد خوبی دارد، در زمینههای حساستر نیز قابل اعتماد است.
به گفته وی همچنین بررسیهای مستقل مؤسسه ملی استاندارد و فناوری آمریکا و پژوهشهای میدانی سازمان همکاری و توسعه اقتصادی آمریکا نشان میدهد که کاربران معمولا خطاهای سامانههای هوشمند را کمتر از حد واقعی تشخیص میدهند و دقت بالای ظاهری در کارهای ساده باعث شکلگیری اعتماد بیش از حد میشود. این مسأله در مدلهای زبانی بزرگ که گاهی دچار «توهمزایی اطلاعات» یا تولید پاسخهای بهظاهر دقیق اما نادرست میشوند، اهمیت بیشتری دارد. در واقع، تجربه کاربر معمولا در محیطهایی شکل میگیرد که خطر پایین است، در حالی که معیارهای علمی اعتماد باید براساس آزمایشهای کنترلشده، سنجشهای آماری، ممیزیهای مستقل و پایش دائمی عملکرد در شرایط متنوع انجام شود.
رئیس اندیشکده و پردیس هوشمصنوعی تأکید میکند: اعتماد به هوشمصنوعی باید برپایه شواهد علمی و نظارت تخصصی شکل گیرد، نه صرفا برداشتهای شخصی؛ حتی اگر بسیار مثبت باشند. در سالهای اخیر، نمونههای مستند و مهمی از خطاهای هوشمصنوعی در حوزههای حساس گزارش شده که در ارزیابی علمی اعتمادپذیری این فناوری، بسیار تعیینکنندهاند. یکی از شناختهشدهترین نمونهها، خطای سامانه تشخیص پزشکی شرکت گوگل در پروژه شناسایی بیماریهای شبکیه چشم بود که نشریه علمی نیچر درسال ۲۰۲۰ گزارش کرد؛ جایی که سامانه در محیط واقعی بهدلیل کیفیت متفاوت تصاویر، نرخ خطای غیرقابلقبول نشان داد و به توقف آزمایشی در برخی کلینیکها انجامید.
در صنعت خودروهای خودران نیز اداره ملی ایمنی ترافیک بزرگراههای آمریکا در گزارش رسمی خود اعلام کرد که سامانه رانندگی نیمهخودکار تسلا در چندین حادثه مرگبار، موقعیتهای ترافیکی را نادرست تفسیر کرده است. حتی مدلهای زبانی نیز در حوزه اطلاعرسانی حساس دچار خطا شدهاند؛ چنانکه در سال ۲۰۲۳ خروجیهای نادرست یک مدل هوشمند درباره توصیههای دارویی که در نشریه فناوری MIT به چاپ رسید، سبب شد چند شرکت بزرگ، ارائه این نوع پاسخها را موقتا محدود کنند. این موارد نشان میدهد که خطاهای هوشمصنوعی، نه فرضیه، بلکه واقعیتهای ثبتشدهاند و به همین دلیل جامعه علمی و قانونگذاران بر ضرورت نظارت دائمی، ممیزی مستقل و استفاده مشروط در حوزههای حساس تأکید میکنند.
وضع قوانین سختگیرانه
برای حفاظت از کاربران در برابر تصمیمهای اشتباه یا پرخطر هوشمصنوعی، چه قوانین و سازوکارهایی باید تدوین و اجرا شود؟ رئیس اندیشکده و پردیس هوشمصنوعی میگوید: برای حفاظت مؤثر از حقوق کاربران، باید از مرحله توصیههای اخلاقی عبور کنیم و بهسمت وضع قوانین الزامآور و سختگیرانه برویم. بهاعتقاد من، معماری حقوقی موردنیاز باید بر چهار ستون اصلی استوار باشد که درحال حاضر در پیشروترین نظامهای حقوقی دنیا نیز موردتوجه قرار گرفته است.
طریقت میافزاید: در ایران ما با یک تأخر قانونی آشکار مواجهیم. نظام حقوقی کنونی ما عمدتا برپایه قانون مسئولیت مدنی (مصوب سال ۱۳۳۹) و تا حدودی قانون تجارت الکترونیک (مصوب ۱۳۸۲) استوار است. این قوانین برای عصری نوشته شدهاند که درآن رابطه بین کنشگر و زیاندیده، مستقیم و روشن بود؛ در حالی که ماهیت پیچیده و غیرشفاف هوشمصنوعی، بهسختی در قالبهای سنتی حقوق ما مانند «تسبیب» یا «مباشرت» میگنجد.
وی با تأکید بر اینکه برای بومیسازی چتر حمایتی از کاربران ایرانی، نیازمند چند اقدام قانونی فوری و مشخص هستیم میگوید: در گام نخست، اصلاح قانون مسئولیت مدنی بهسمت «مسئولیت محض» ضروری است. در حقوق کنونی ایران، معمولا زیاندیده (کاربر) باید تقصیرِ ارائهدهنده خدمت را اثبات کند که در برابر شرکتهای بزرگ فناوری و الگوریتمهای پیچیده، کاری تقریبا ناممکن است. ما نیاز داریم درحوزههای پرخطر هوشمصنوعی (مانند سلامت یا حملونقل هوشمند) اصل حقوقی را تغییر دهیم تا شرکتهای توسعهدهنده براساس قاعده فقهی و حقوقی هرکس که سود میبرد، باید زیان را هم جبران کند دارای مسئولیت بدون تقصیر باشند؛ یعنی صرفِ بروز خطا و خسارت برای جبران کافی باشد و بار اثبات فنی از دوش شهروند برداشته شود.
حفاظت از دادههای شخصی
تصویب و اجرای «لایحه صیانت و حفاظت از دادههای شخصی» یکی دیگر از اقدامات فوری و ضروری است. ایران یکی از معدود کشورهایی به شمار میآید که هنوز قانون جامع و اختصاصی برای حفاظت از دادههای شخصی ندارد. پیشنویسهایی تهیه شده است اما تا زمانی که تبدیل بهقانون لازمالاجرا نشود، کاربران در برابر سوءاستفاده هوشمصنوعی از اطلاعاتشان، بیدفاع هستند. این قانون باید صراحتا «حق فراموش شدن» و «ممنوعیت تصمیمگیری خودکار بدون اطلاع کاربر» را تضمین کند.
طریقت با بیان این که تدوین پیوست عدالت الگوریتمی یکی دیگر از ضروریات است، توضیح میدهد: نهادهای بالادستی مانند شورای عالی فضای مجازی باید قانونی وضع کنند که هرگونه استفاده از هوشمصنوعی در خدمات عمومی و دولتی (مانند رتبهبندی اعتباری بانکی، گزینشهای استخدامی یا دهکبندیهای یارانهای) ملزم بهداشتن پیوست عدالت باشد؛ یعنی قبل از اجرا باید اثبات شود که الگوریتم نسبت به اقوام، جنسیتها و طبقات مختلف جامعه ایران دچار سوگیری نیست.
وی میافزاید: قانونگذاری باید مبتنی بر ریسک باشد. ما نمیتوانیم با قانون واحد با همه انواع هوشمصنوعی برخورد کنیم؛ سامانهای که در حوزه سلامت یا قضاوت تصمیم میگیرد، باید تابع قوانین بسیار سختگیرانهتری نسبت به یک سامانه پیشنهاد فیلم یا موسیقی باشد.
طریقت در پایان اضافه میکند: مسأله دیگری که بسیار حیاتی به نظر میرسد، حق توضیحخواهی شفاف است؛ یک اصل بنیادین حقوق بشری در عصر دیجیتال. اگر یک سامانه هوشمند، درخواست وام شما را رد کرد یا تشخیص پزشکی خاصی داد، قانون باید سازنده را ملزم کند که دلیل این تصمیم را به زبان ساده و قابلفهم برای انسان توضیح دهد. دوران پذیرش تصمیمات «جعبه سیاه» یا مبهم بهپایان رسیده است و کاربر حق دارد بداند متغیرهای مؤثر در آن تصمیم چه بوده است.
شما چه نظری دارید؟