دوشنبه ۲ آذر ۱۴۰۵ - ۰۰:۲۹
نظرات: ۰
۰
-
اینترنت موازی گوگل برای فریب هوش مصنوعی

اجازه دادن به یک عامل هوش مصنوعی برای پیمایش وب بدون آزمایش آن، خطر نقص عملکرد آن را به همراه دارد. برای جلوگیری از غافلگیری‌های ناخوشایند، گوگل یک محیط آزمایشی توسعه داده است که وب را با جزئیات دقیق شبیه‌سازی می‌کند.

به گزارش اطلاعات آنلاین، گوگل ویژگی «مرور خودکار» خود را ژانویه گذشته در مرورگر کروم راه‌اندازی کرد. این نرم‌افزار اکنون عامل‌هایی را بر اساس مدل هوش مصنوعی Gemini ادغام می‌کند که قادر به انجام وظایف متعددی برای شما هستند. با این حال، این ویژگی‌ها نیاز به آموزش دارند و انتشار عامل‌ها در وب بدون آزمایش اولیه آنها ایده خوبی نیست.

ما شاهد بوده ایم که هوش مصنوعی های مختلف، مانند آنهایی که از OpenAI یا Anthropic هستند، وارد یک گیجی tailspin شده و وب سایت ها را هک می کنند. بنابراین برای جلوگیری از تکرار این سناریو، گوگل تصمیم گرفت یک اینترنت موازی ایجاد کند. در یک انتشار جدید، این شرکت "بعد آینه ای عامل" خود را شرح داد، نسخه جعلی وب که برای فریب کامل هکرهای عیر انسانی طراحی شده است.

چالش فنی: کامل کردن توهم

یکی از مشکلات سندباکس های طراحی شده برای آزمایش عوامل این است که هوش مصنوعی ها معمولاً متوجه می شوند که در حال ارزیابی هستند و این یک محیط واقعی نیست. این امر تصمیمات آنها را تغییر می دهد؛ به این معنی که برخی از رفتارهای مشکل ساز تنها زمانی ظاهر می شوند که عوامل در اینترنت واقعی منتشر شوند. از جنبه فنی، گوگل باید با هدایت‌های DNS و جعل گواهی‌های TLS هوشمندانه عمل می‌کرد تا هوش مصنوعی به هیچ چیز مشکوک نشود و از باور آن به حمله جلوگیری کند. این راه حل تنها به این دلیل امکان پذیر است که گوگل این قابلیت را دارد که مرورگر کروم را برای پذیرش آن تغییر دهد.

در مرحله بعد، صدها وب‌سایت، از جمله سایت‌های تجارت الکترونیک، شبکه‌های اجتماعی و سایت‌های دستور پخت غذا، باید با تمام ویژگی‌های مورد انتظار، بازسازی می‌شدند. برای انجام این کار، گوگل از سه نوع عامل استفاده کرد. نوع اول به تحقیق اختصاص دارد و نوع سایت و ویژگی‌های مورد نیاز برای هر آزمایش را تعیین می‌کند. نوع دوم کد لازم برای ساخت سایت‌ها را تولید می‌کند. نوع سوم نتایج را ارزیابی کرده و اطمینان حاصل می‌کند که همه چیز به درستی کار می‌کند.

یک بستر آزمایشی ایده‌آل برای شبیه‌سازی حملات سایبری

این محیط آزمایشی امن، امکان ارزیابی عامل‌های ادغام‌شده در کروم را بدون ایجاد خطر برای وب‌سایت‌های واقعی فراهم می‌کند، اما مزایای خاصی نیز ارائه می‌دهد. می‌توان حملات "تزریق سریع" یا درخواست نفوذ را ادغام کرد. یکی از خطرات اصلی، از دیدگاه کاربر، این است که برخی سایت‌ها دستورالعمل‌هایی را برای عامل‌ها پنهان می‌کنند و از آنها می‌خواهند اقدامات غیرمجاز انجام دهند یا اطلاعات را به اشتراک بگذارند. با این اینترنت موازی، گوگل می‌تواند با گنجاندن دستورالعمل‌های جعلی در وب‌سایت‌های ساختگی خود، محافظت‌های پیاده‌سازی‌شده برای مقابله با این نوع حمله را آزمایش کند.

طبق گفته گوگل، این ویژگی به هر مهندس اجازه می‌دهد روزانه هزار حمله ساختگی ایجاد کند، ۳۰ برابر بیشتر از آنچه قبلاً به صورت دستی امکان‌پذیر بود. این به شرکت اجازه می‌دهد مرورگر مبتنی بر عامل خود را بدون به خطر انداختن وب آزمایش کند. گوگل حتی قصد دارد روش خود را به اشتراک بگذارد تا سایر محققان بتوانند از آن استفاده کنند. با این حال، باید دید که آیا این سایت‌های ساختگی به اندازه کافی واقع‌بینانه هستند تا ارزیابی واقعی از عامل‌ها ارائه دهند یا خیر، و اینکه آیا خود عامل‌ها از فریب بی‌اطلاع خواهند بود یا خیر.

برچسب‌ها

شما چه نظری دارید؟

شما در حال پاسخ به نظر «» هستید.
0 / 300
captcha

پربازدیدترین

پربحث‌ترین

آخرین مطالب

بازرگانی