NPU شتاب‌دهنده‌ای برای برخی محاسبات شبکه عصبی است؛ GPU نیز پردازشگر موازی با کاربردهای گسترده‌تر است. وجود NPU روی دستگاه به معنی اجرای هر مدل با هر برنامه نیست. پشتیبانی ابزار، عملگرها، قالب مدل و ظرفیت قابل استفاده را باید جدا بررسی کرد.
از مدل و ابزار شروع کنید
ابتدا مشخص کنید برنامه انتخابی کدام بخش کار را روی NPU اجرا می‌کند. ممکن است فقط بعضی وظایف، اندازه‌ها یا قالب‌ها پشتیبانی شوند. عبارت‌هایی مانند «مناسب AI» در معرفی دستگاه، جای فهرست رسمی سازگاری را نمی‌گیرند. اگر بخشی از کار به CPU برگردد، کل زمان را اندازه بگیرید؛ عدد توان نظری شتاب‌دهنده نتیجه نهایی برنامه نیست.
یک مقایسه کاربردی طراحی کنید
ورودی، خروجی و معیار کیفیت را ثابت نگه دارید. زمان آماده‌سازی مدل برای شتاب‌دهنده را از اجرای روزمره جدا بنویسید. مصرف باتری یا انرژی را فقط با روش اندازه‌گیری مشخص گزارش کنید. اگر ابزار فعلی از NPU استفاده نمی‌کند، ارتقای دستگاه الزاماً آن برنامه را سریع‌تر نمی‌کند. نخست نمونه قابل پشتیبانی را روی همان محیط آزمایش کنید.
نمونه عملی
کاربری می‌خواهد مدل زبانی محلی اجرا کند و دستگاهی با NPU دارد. در نمونه آموزشی، نخست در مستندات موتور بررسی می‌کند آیا آن مدل و قالب روی NPU پشتیبانی می‌شوند. سپس خروجی را با حالت CPU در ورودی برابر مقایسه می‌کند. اگر فقط بخشی از مسیر شتاب می‌گیرد، گزارش باید همین محدوده را نشان دهد. از اجرای یک نمونه تصویری نمی‌توان درباره همه مدل‌های زبانی نتیجه گرفت.
| مورد بررسی | کار یا شاهد لازم | نتیجه مورد انتظار |
|---|---|---|
| پشتیبانی | مدل و قالب دقیق در ابزار کنترل شوند | سازگاری واقعی |
| دامنه | بخش اجراشده روی شتاب‌دهنده معلوم شود | بازگشت به CPU دیده شود |
| زمان | آماده‌سازی و اجرای روزانه جدا شوند | عدد قابل استفاده |
| کیفیت | خروجی برابر با معیار یکسان سنجیده شود | سرعت کافی نباشد |
کاربرگ قابل استفاده
ردیف‌های جدول در فایل CSV این راهنما قرار دارند. ستون نتیجه واقعی، مسئول و تاریخ را پس از بررسی خودتان تکمیل کنید. مثال‌های این نوشته آموزشی‌اند و گزارش آزمون یک محصول یا مشتری نیستند.
محدودیت و قدم بعد
هیچ ادعای برتری NPU یا GPU خاصی در این متن نیست. قابلیت‌های پشتیبانی‌شده تغییر می‌کنند؛ سند همان نسخه و نتیجه آزمایش را مبنا قرار دهید.
اگر مسئله اصلی شما پاسخ‌گویی به مشتری است، پیش از هزینه برای زیرساخت، یک گفت‌وگوی واقعی و معیار پذیرش آن را مشخص کنید. برای آشنایی با مسیر محصول، راهنمای چت سایت اپرا و دموی اپرا را ببینید. این راهنما به معنی ارائه خدمات خرید یا اجرای GPU محلی از طرف اپرا نیست.