به گزارش اطلاعات آنلاین، داریو آمودی، مدیرعامل شرکت Anthropic، با انتشار مقاله‌ای توجه حکمرانان، صاحبان صنعت و رسانه‌ها را به وضعیت نگران‌کننده پیشرفت هوش مصنوعی جلب کرد و سازوکاری برای کند کردن سنجیده سرعت پیشرفت مدل‌های پیشرفته، متناسب با توانایی جامعه در کنترل خطرات آنها، پیشنهاد داد. اما مقاله او ابعاد پنهان دیگری هم دارد.

آمودی از یک تناقض شروع می‌کند: هوش مصنوعی می‌تواند کیفیت زندگی انسان را به‌شدت افزایش دهد؛ از درمان بیماری‌ها و رشد اقتصادی گرفته تا گسترش توانایی‌های انسانی. اما همین فناوری ممکن است خطرهایی جدی ایجاد کند؛ از سوءاستفاده در حملات سایبری و زیستی تا اختلال اقتصادی و از دست رفتن کنترل انسان بر سامانه‌های هوشمند.

او می‌گوید راه‌حل، کنار گذاشتن هوش مصنوعی نیست. از نظر او، دو انتخاب افراطی وجود دارد: یکی واگذاردن برتری به حکومت‌های اقتدارگرا و دیگری شتاب بدون ایمنی. با این حال، وی راه سومی پیشنهاد می‌کند؛ ادامه پیشرفت، به شرط آنکه سرعت افزایش توانایی مدل‌ها با سرعت توسعه ایمنی، ارزیابی و کنترل آنها هماهنگ شود.

وقتی هوش مصنوعی در ساخت نسل بعدی خودش نقش می‌گیرد

یکی از نگرانی‌های اصلی مقاله، پدیده‌ای است به نام Recursive Self-Improvement؛ یعنی مدل‌های هوش مصنوعی به‌تدریج بتوانند در ساخت نسل بعدی مدل‌ها نقش بیشتری ایفا کنند. در چنین وضعیتی، چرخه پیشرفت می‌تواند سریع‌تر شود: مدل بهتر به ساخت ابزارها و مدل‌های بهتر کمک می‌کند و مدل‌های جدید نیز توانایی توسعه نسل بعد را افزایش می‌دهند.

هشدار آنجایی صادر می‌شود که این روند بدون احتیاط ادامه پیدا کند و سرعت رشد توانایی‌ها از توانایی انسان برای فهمیدن، آزمایش کردن و کنترل آنها جلو بزند. پیش از این، در حادثه OpenAI و Hugging Face، گروهی از عامل‌های هوش مصنوعی در جریان یک فعالیت مرتبط با امنیت سایبری، رفتارهایی فراتر از مأموریت تعیین‌شده نشان دادند؛ از جمله تلاش برای حمله به اهدافی که قرار نبود هدف قرار بگیرند و تلاش برای نفوذ به سامانه ارزیابی عملکرد خودشان.

نکته مهم این است که خطر فقط از هوش مصنوعیِ دارای نیت مخرب ناشی نمی‌شود؛ یک سامانه قدرتمند با هدف‌گذاری نادرست یا کنترل ناکافی هم می‌تواند خسارت جدی ایجاد کند.

هماهنگی جهانی، حتما با چین

بعد پنهان مقاله آمودی اینجا آشکار می‌شود. او معتقد است آنچه دولت‌های دموکراتیک نامیده می‌شوند باید برای توافق‌های ایمنی با کشورهای اقتدارگرا، که به عقیده او چین یکی از آنهاست، تلاش کنند. وی پیشنهاد می‌دهد استانداردهای مشترک می‌توانند از رقابت ناسالم شرکت‌های خارج از سیلیکون‌ولی برای عرضه سریع‌تر و پرخطرتر جلوگیری کنند.

آمودی از یک نگرانی امنیتی شروع می‌کند: اگر کشورهای دموکراتیک سرعت توسعه هوش مصنوعی را کاهش دهند، اما چین بدون محدودیت به توسعه ادامه دهد، ممکن است فاصله فناوری کاهش یابد یا از بین برود. او معتقد است چنین وضعیتی می‌تواند پیامدهای امنیتی و نظامی جدی داشته باشد.

به همین دلیل، او از یک سو پیشنهاد می‌کند فروش تراشه‌های قدرتمند هوش مصنوعی و تجهیزات تولید نیمه‌رسانا به چین محدود شود و از طرف دیگر با انتقال غیرمجاز فناوری و تکنیک‌های استخراج دانش از مدل‌های پیشرفته به این کشور جلوگیری شود.

آمودی می‌گوید حفظ برتری فناورانه باید به‌عنوان اهرمی برای مذاکره و رسیدن به توافق‌های ایمنی با چین استفاده شود.

آیا منظور از «کند کردن» توقف توسعه هوش مصنوعی است؟

آمودی صراحتاً می‌گوید Pacing و کنترل سرعت به معنای توقف آموزش مدل‌ها یا متوقف کردن پیشرفت فنی نیست. منظور او این است که شرکت‌ها برای ایمن‌سازی مدل‌ها، آزمایش، تفسیرپذیری و ارزیابی، زمان کافی در اختیار داشته باشند. از سوی دیگر، حفظ برتری فناورانه باید به‌عنوان اهرمی برای مذاکره و رسیدن به توافق‌های ایمنی با دیگر کشورها استفاده شود.

در مقابل، منتقدان می‌پرسند آیا شرکت‌های بزرگ هوش مصنوعی با پیشنهاد کند کردن پیشرفت، ممکن است ناخواسته یا آگاهانه ورود رقبای کوچک‌تر را دشوار کنند؟

این نگرانی بی‌دلیل نیست؛ اگر استانداردهای ایمنی و ارزیابی بسیار پرهزینه باشند، شرکت‌های بزرگ با منابع مالی و زیرساخت گسترده ممکن است نسبت به رقبای کوچک مزیت بیشتری پیدا کنند. این موضوع بخشی واقعی از بحث سیاست‌گذاری و حکمرانی است.

این مطلب را هم بخوانید: پرداخت ۶میلیون دلار غرامت به دختری که معتاد اینستاگرام شد!

واکنش دیگر مدیران هوش مصنوعی

واکنش مدیران رقیب نشان می‌دهد که بحث درباره سرعت توسعه و ایمنی به مسئله‌ای جدی در صنعت تبدیل شده است.

- سم آلتمن از ایده کاهش سرعت پیشرفت حمایت کرده و به‌ویژه پیشنهاد ارزیابان مستقل با دسترسی گسترده را مثبت دانسته است.

- ایلان ماسک در واکنش کوتاهی از آمودی حمایت کرده است.

- دمیس هاسابیس نیز در میان چهره‌هایی قرار گرفته که از این رویکرد حمایت کرده‌اند.

در عین حال، منتقدان درباره امکان استفاده شرکت‌ها از چارچوب‌هایی برای تثبیت موقعیت خود و محدود کردن رقابت هشدار داده‌اند.

خطر اصلی هوش مصنوعی کجاست؟

اگر مدل‌ها با سرعتی فزاینده توانمندتر شوند، جامعه باید پیش از رسیدن به نقاط خطرناک، ابزارهای نظارت، ارزیابی و کنترل آنها را در اختیار داشته باشد. اما دیدگاه ژئوپلیتیک نشان می‌دهد که «ایمنی هوش مصنوعی» از رقابت قدرت‌های بزرگ جدا نیست. آمودی هم‌زمان می‌خواهد خطرات توسعه شتابان کاهش یابد و برتری فناورانه آمریکا حفظ شود.

آنچه در حوزه هوش مصنوعی مسلم است، نیاز به شفافیت، راستی‌آزمایی مستقل، جلوگیری از انحصار و توجه به منافع عمومی است. صرف توافق مدیران شرکت‌ها برای کند کردن سرعت توسعه، به‌تنهایی تضمین‌کننده ایمنی یا عدالت در حکمرانی هوش مصنوعی نخواهد بود.