AMD و انویدیا تصمیم ندارند که در رقابت بین گرافیک‌های Instinct MI300X و H100 (Hopper) بازنده باشند، اما AMD در آزمون محاسبات FP16 با منفعت گیری از مدل زبانی زیاد بزرگ vLLM، پرقدرت ظاهر شد.
به نقل از تامزهاردور، تیم قرمز تراشه‌ی هوش مصنوعی Instinct MI300X را در اغاز دسامبر (۱۶ آذر) معارفه و ادعا کرده است که تا ۱٫۶ برابر کارکرد سریع‌تری نسبت به H100 انویدیا دارد.
انویدیا با گفتن این که AMD برای سنجش H100 در مدل زبانی بزرگ TensorRT، از بهینه‌سازی‌های دقیقی منفعت گیری نکرده است، از کارکرد رقیب خود انتقاد کرد.
TensorRT-LLM مدل یادگیری عمیقی است که توسط انویدیا برای پردازش زبان طبیعی و ماموریت های مبتنی بر هوش مصنوعی روی پلتفرم TensorRT گسترش یافته تا کارکرد بالایی در پردازش‌های گرافیکی را فراهم کند.
آخرین مطالب
- انرژی تاریک ضعیفتر شده است_مستطیل زرد
- دل از کامپیوترها و لپتاپهای پرو مکس برای گسترشدهندگان هوش مصنوعی رونمایی کرد_مستطیل زرد
- اغاز پیش فروش بلیت پروازهای روزهای پایانی نوروز_مستطیل زرد
- قوتنمایی تیم سبز؛ گرافیک‌های RTX PRO 6000 انویدیا با حافظه ۹۶ گیگابایتی معارفه شدند_مستطیل زرد
- چرا سود سهام عدل برای برخی از افراد کمتر از مقدار اعلامی، واریز شده است؟_مستطیل زرد
AMD نیز جواب داد که انویدیا از پردازش‌های گزینش‌شده‌ای منفعت گیری کرده و به‌جای منفعت‌گیری از vLLM که متداول‌تر است، آن‌ها را با TensorRT-LLM داخلی خود روی H100 بنچمارک کرده است.
تیم قرمز در ادامه فرمود که انویدیا از نوع داده‌ی FP16 در vLLM روی پردازنده AMD منفعت گیری کرده، در حالی که نتایج خود را با DGX-H100 قیاس کرده که از اجرای TensorRT-LLM با نوع داده‌ی FP8 به‌دست آمده است.
