محققان دانشگاه نانیانگ سنگاپور روش مسترکی را برای جیلبریک کردن چتباتهای هوش مصنوعی ابداع کردند
محققان دانشگاه نانیانگ تکنولوژی سنگاپور روشی نوین به نام مسترکی ابداع کردهاند که امکان جیلبریک کردن چتباتهای معروف هوش مصنوعی از جمله گوگل با رد، کوپایلوت و چتجیپیتی را فراهم میکند. این روش به معنای دور زدن محدودیتهای امنیتی مدلهای زبانی بزرگ و استخراج اطلاعات ممنوعه است. هدف اصلی محققان از این پژوهش، آزمون و سنجش میزان این مدلها در برابر حملات جیلبریک بوده است.
بر اساس مقاله منتشرشده توسط دانشگاه نانیانگ سنگاپور، روش مسترکی یک رویکرد دو مرحلهای است. در مرحله نخست، مکانیسمهای دفاعی مدلهای زبانی بزرگ با تکنیک مهندسی معکوس بررسی و تحلیل میشوند. در مرحله دوم، دادههای به دستآمده برای آموزش یک مدل هوش مصنوعی دیگر بکار میروند تا نحوه با یبند کردن و دور زدن محدودیتهای چتبات هدف را بیاموزد. در نتیجه، یک کلید اصلی یا مسترکی شکل میگیرد که حتی در صورت به روزرسانی مدلهای هوش مصنوعی نیز قادر به جیلبریک کردن آنها باقی میماند.
جیلبریک کردن هوش مصنوعی با روش مسترکی
روش مسترکی در حقیقت از نقطه قوت خود هوش مصنوعی، یعنی قابلیت یادگیری و سازگاری با لا، علیه خودش استفاده میکند. مدلهایی که دارای فهرست کلمات کلیدی ممنوعه برای جلوگیری از تولید محتوای خشونتآمیز یا غیراخلاقی هستند، میتوانند با کمک یک هوش مصنوعی آموزشدیده دیگر فریب داده شوند. در این سناریو، مدل دوم به عنوان عامل حمله، چتبات اول را برای دور زدن فیلترهای کلمات سیاه قائمه میکند.
با توجه به رشد تصاعدی و سریع چتباتهای هوش مصنوعی در ماههای اخیر، ضروری است که سازندگان و ارائهدهندگان این خدمات به طور مداوم در برابر جیلبریکها و سایر سوءاستفادههای مخرب خود را تقویت کنند. شرکتهای بزرگ فناوری معمولا پس از فاش شدن روشهای با یبند جدید، مدلهای خود را به روزرسانی میکنند. با این حال، روش مسترکی که خود از هوش مصنوعی قدرت میگیرد و به صورت خودکار در حال یادگیری است، میتواند چالش جدی و دغدغهانگیزی برای امنیت این سیستمها ایجاد کند.
هوش مصنوعی ابزاری قدرتمند است و اگر از چنین پتانسیلی به صورت مخرب سوءاستفاده شود، میتواند پیامدهای جدی و ناخواسته را به همراه داشته باشد. نتایج این پژوهش میتواند به توسعهدهندگان و گسترشدهندگان هوش مصنوعی در یافتن را هحلهای موثر و پیشگیرانه برای مقابله با تهدیدات امنیتی کمک کند.
