تراشه‌های ما در پردازش LLM تا 79 درصد از اینتل سریع تر هستند_باماها

شرکت AMD ادعا می‌کند که تراشه‌هایش 79 درصد سریع تر از اینتل مدل‌های زبانی بزرگ (LLM) را پردازش می‌کنند. در چند زمان تازه، با پررنگ‌ترشدن ابزارهای هوش مصنوعی مولد، شرکت‌های تراشه‌سازی رقابت سنگینی را با یکدیگر در پیش گرفته‌اند. اکنون AMD مدعی شده است که در این عرصه، عملکردی بهتر از اینتل اراعه می‌دهد.

بر پایه اظهار سایت AMD، پردازنده‌های رایزن سری 7040 Phoenix و Mobile 8040 این شرکت در مدل‌های گوناگون زبانی بزرگ تا 79 درصد بهتر از پردازنده‌های Core Ultra Meteor Lake اینتل عمل می‌کنند. AMD از بنچمارک‌های مختلفی برای قیاس پردازنده Core Ultra 7 155H اینتل با Ryzen 7 8740U منفعت گیری کرده است. هر دو تراشه دارای واحدهای پردازش عصبی مبتنی بر سخت‌افزار (NPU) می باشند.

قیاس تراشه‌های AMD و اینتل در پردازش LLM

AMD برای بازدید کارکرد تراشه‌هایش از مدل‌های زبانی بزرگ مختلفی همانند Llama v2 متا و Mistral Instruct 7B منفعت گیری کرده است. در پردازش Llama v2 تراشه AMD نزدیک به 79 درصد سریع تر از تراشه اینتل است. AMD برای قیاس کارکرد تراشه خود با تراشه اینتل دو لپ‌تاپ بهینه‌شده برای هوش مصنوعی با قیمت‌های شبیه را نیز در نظر گرفته است که باتوجه به بازدید‌ها، لپ‌تاپ‌ تجهیزبه پردازنده AMD کارکرد بهتری دارد.

با آنکه در بازدید بنچمارک‌ها، AMD کارکرد بهتری نسبت به رقیب خودش یعنی اینتل نشان داده، اما این بدان معنی نیست که AMD برنده این رقابت شده است. این تراشه‌ها وقتی به بهترین شکل عمل می‌کنند که شرکت‌ها و گسترش‌دهندگان خدماتی را تشکیل کرده و از این تراشه‌ها حمایتکنند. چون این تراشه‌ها با نرم‌افزارهای تخصصی بهتر می‌توانند با دیگر سخت‌افزارها تعامل داشته باشد و LLM‌ها را بهتر پردازش کنند. به‌گفتن مثال، هنگامی مایکروسافت خبرداد که DirectML فقط از NPU تراشه‌های اینتل حمایتمی‌کند، به این معنی می بود که گسترش‌دهندگان می‌توانند بهتر با NPUهای اینتل تعامل داشته باشند، درحالی که AMD در این رقابت عقب ماند.