為了因應即將到來的AI時代,
各家CPU廠開始在CPU裡面加入NPU, 即神經網路處理器
這邊已有一篇評測
https://www.youtube.com/watch?v=cN_bm3jT5VI以這個評測為例, 讓我有點霧裡看花, 不是很能明白:
Intel Ultra 7 155H
CPU分數 67
GPU分數 413
NPU分數 282
嗯....這NPU看起來沒比較厲害?
所以我的疑問就是:
1. NPU 表現還不如 GPU, 這也許可以理解為最佳化還沒到位,
不過即使未來能小贏, 為什麼不拿去做GPU就算了, 還可以增加3D性能。
2. NPU 能執行通用計算嗎? 如果可以, NPU 只是神經網路運算特化
的 GPU?
3. 如何調用 NPU? 是視為 OpenCL / DirectML 裝置?
還是又整出新的方法跟API了?
又或只是在GPU下的子集? (調用核顯運算時指示調用NPU?)
有沒有正在行內的說說看吧...
-----
未來五年可能漸漸開始沒人要比x86性能, 改比NPU性能了...
--
→ smallreader1樓類似說桌上型處理器可以直接用CPU算 12/27 16:53
→ smallreader2樓但行動裝置會太耗電所以設計專用電路 12/27 16:53
→ friedpig3樓asic拼的就能耗比 除非規模堆到超大 不 12/27 16:58
→ friedpig4樓然輸GPU 也還好吧 12/27 16:58
確實
要等NPU的每瓦性能出來才知道
不過類神經網路也是百百種
應該不會是ASIC這麼沒彈性的做法吧
→ friedpig5樓相容性87%靠one api去處理吧 牙膏養一 12/27 17:00
→ friedpig6樓堆人做one api不是養假的 12/27 17:00
→ friedpig7樓牙膏的npu 居然是有支援fp16的 本來以為 12/27 17:06
→ friedpig8樓只有到int8的 ASIC 12/27 17:06
→ 本人9樓fp16一定要的吧 int8跑AI應該很BI 12/27 17:09
SHR458710樓看起來問題會是桌上型真的需要這東西嗎 12/27 17:17
→ SHR458711樓目前看起來煮戰場會是筆電跟平板，看微軟 12/27 17:18
→ SHR458712樓之後的動向了 12/27 17:18
→ 本人13樓如果AI服務成為標配,那桌上型肯定也要啊 12/27 17:19
→ 本人14樓尤其是沒獨顯的系統 12/27 17:21
aegis4321015樓因為微軟想推廣copilot，所以一定要有 12/27 17:28
→ aegis4321016樓NPU 12/27 17:28
kimula0117樓以後說不定玩lol可以離線全AI隊友了 12/27 17:33
→ kimula0118樓全隨機中路 本地電腦運算AI控制隊友 12/27 17:34
aegis4321019樓實際上MTL上面的應該叫VPU，並不是專 12/27 17:34
→ aegis4321020樓門拿來加速LLM的推論，所以只是堪用程 12/27 17:34
→ aegis4321021樓度，真正的NPU要等ARL 12/27 17:34
→ kimula0122樓星海爭霸3搞不好也不用微操 每個都AI算 12/27 17:35
rgo23樓炒股用的話術 1-2個月就消風啦 12/27 17:44
→ rgo24樓但能把 宏碁 華碩這些帶到突破幾十年的新高也 12/27 17:46
→ rgo25樓是很利害 12/27 17:46
→ lazioliz26樓你先會用再來說吧 12/27 17:55
hidalgo2297627樓應該是軟體要優化吧，等於arm64又 12/27 17:56
→ hidalgo2297628樓多了類神經 12/27 17:56
→ hidalgo2297629樓這華碩年前就在手機做過了 12/27 17:57
→ hidalgo2297630樓現在還不成熟，之後再看吧 12/27 17:58