NPU یا «واحد پردازش عصبی» بخشی از تراشه است که برای اجرای مدلهای هوش مصنوعی بهینه شده. محاسبات این مدل‌ها بیشتر ضرب و جمع ماتریسی بسیار تکراری است. پردازنده‌ی عمومی می‌تواند آن‌ها را انجام دهد، اما با مصرف زیاد و سرعت کمتر. NPU فقط همین کار را خوب انجام می‌دهد.
چه کارهایی را سریع میکند#
- حذف نویز و پس‌زمینه در تماس تصویری
- بهبود عکس در دوربین گوشی
- تشخیص گفتار و ترجمه‌ی روی دستگاه
- اجرای مدلهای کوچک زبانی بدون اینترنت
مثال#
برای باز کردن پیچ، می‌توانید با انبردست هم کار کنید، ولی آچار مخصوص راحت‌تر و سریع‌تر است. NPU آچار مخصوص هوش مصنوعی است.
تفاوت با GPU#
کارت گرافیک هم برای هوش مصنوعی خوب است ولی قدرتمند و پرمصرف است. NPU کممصرف و مناسب دستگاه‌های باتری‌دار است، اما معمولاً برای مدلهای بسیار بزرگ کافی نیست.
کجا با آن روبه‌رو می‌شوید#
در مشخصات گوشی‌های جدید و لپ‌تاپ‌هایی که با عنوان «کامپیوتر هوش مصنوعی» عرضه میشوند. هنگام خرید بپرسید کدام قابلیتهای واقعی از آن بهره می‌برند، نه فقط عدد توان آن.
اشتباه رایج#
داشتن NPU یعنی هر نرم‌افزار هوش مصنوعی خودکار سریع می‌شود. نه؛ برنامه باید برای استفاده از آن نوشته شده باشد. در غیر این صورت کار به پردازنده یا گرافیک می‌رسد.