تکنولوژی

نسخه ویندوز آرم LM منتشر شد؛ اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون امکان‌پذیر گردید

اپلیکیشن، پلتفرم محبوب برای اجرای محلی مدل‌های زبانی بزرگ روی کامپیو‌تر، اکنون برای ویندوز آرم منتشر شده است؛ بدین ترتیب اجرای مدل‌های زبانی روی لپ‌تاپ‌های مجهز به تراشه اسنپدراگون هم ممکن شده است.

به گزارش، نسخه مخصوص LM برای لپ‌تاپ‌های تجهیز شده به تراشه اسنپدراگون ایکس الیت، در حال حاضر تنها امکان اجرای مدل‌های زبانی با بهره‌گیری از سی‌پی‌یو این دستگاه‌ها را فراهم می‌کند و پشتیبانی از واحد پردازش عصبی (NPU) تراشه اسنپدراگون در به‌روزرسانی‌های آینده به آن اضافه خواهد شد.

توانایی‌های چشمگیر اسنپدراگون ایکس الیت در حوزه هوش مصنوعی، امکان اجرای محلی مدل‌های هوش مصنوعی با حداکثر ۱۳ می‌لیارد پارام‌تر را فراهم می‌کند؛ این یعنی طیف گسترده‌ای از مدل‌های زبانی بزرگ از جمله نسخه‌های 3 و را می‌توان روی لپ‌تاپ‌های مجهز به تراشه یاد شده اجرا کرد.

از جمله مزایای اجرای محلی مدل‌های زبانی بزرگ با بهره‌گیری از ابزار‌هایی همانند، اطمینان از حفظ حریم خصوصی و از بین رفتن نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های معروفی همانند ChatGPT و جمنای گوگل است. از سوی دیگر، مدل‌های اجرا شده روی، برخلاف چت‌بات‌های تجاری یاد شده که گاهی به دلایل مختلف از دادن جواب خودداری می‌کنند، قادرند تمام خروجی‌های دلخواه کاربر را تولید کنند.

نسخه منتشر شده LM برای اسنپدراگون را می‌توانید مستقیما از صفحه اختصاصی در وب‌سایت LM در آدرس https://lmstudio.ai/snapdragon دانلود کنید؛ به یاد داشته باشید که نسخه جاری نهایی نیست و امکان دارد با باگ‌ها و سایر مشکلات مواجه شوید.

نوشته های مشابه

دکمه بازگشت به بالا