اپلیکیشن LLM Studio برای ویندوز آرم انتشار شد؛ اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون_مستطیل زرد

اپلیکیشن LM Studio، پلتفرمی محبوب برای اجرای محلیِ مدل‌های زبانی بزرگ (LLM-ها) روی کامپیوتر، برای ویندوز آرم انتشار شد؛ بدین ترتیب اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون هم ممکن می‌بشود.

به گزارش XDA-Developers، نسخه‌ی مخصوص LM Studio برای لپ‌تاپ‌های تجهیزبه تراشه‌ی اسنپدراگون ایکس الیت، درحال حاضر تنها امکان اجرای مدل‌های زبانی با منفعت گیری از سی‌پی‌یو این دستگاه‌ها را دارد و حمایتاز واحد پردازش عصبی (NPU) تراشه‌ی اسنپدراگون، در به‌روزرسانی‌های آینده به آن افزوده خواهد شد.

توانمندیهای چشم‌گیر اسنپدراگون ایکس الیت در عرصه‌ی هوش مصنوعی، امکان اجرای محلیِ مدل‌های هوش مصنوعی با حداکثر ۱۳ میلیارد پارامتر را ممکن می‌کند؛ این یعنی طیف گسترده‌ای از مدل‌های زبانی بزرگ از جمله نسخه‌هایی از Llama 3 و WizardLM را می‌توان روی لپ‌تاپ‌های تجهیزبه تراشه‌ی یاد شده اجرا کرد.

از جمله مزایا اجرای محلی مدل‌های زبانی بزرگ با منفعت‌گیری از ابزار‌هایی همانند LM Studio، مطمعن از نگه داری حریم خصوصی و هم‌این چنین از بین رفتن نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های معروفی همانند ChatGPT و جمنای از گوگل است. از طرفی، مدل‌های اجرای شده روی LM Studio، بر خلاف چت‌بات‌های تجاری یاد شده که بعضی اوقات به دلایل گوناگون از تشکیل جواب خودداری می‌کنند، قادر به تشکیل همه خروجی‌های دلخواه کاربر می باشند.

نسخه‌ی انتشار شده‌ی LM Studio برای اسنپدراگون را می‌توانید مستقیماً از صفحه‌ی وابسته در وب‌سایت LM Studio دانلود کنید؛ به‌خاطر داشته باشید که نسخه‌ی جاری نهایی نیست و امکان پذیر با باگ‌ها و دیگر مشکلات مواجه شوید.