[心得] GPU vs ASIC

股票

75601

蘇媽在最近一次採訪給了ASIC跟GPU大戰的註解
https://www.theregister.com/2025/02/05/amd_q4_fy2024/

她註解
Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs any
time soon.

"My belief is, given how much change there is still going on in AI
algorithms, that ASICs will still be the smaller part of that TAM
(旁註解: AI算法變化快 所以這意味者ASIC會很難適應算法迭代 除此之外
個人體驗 在LLM起來前 其他許多領域 也是一個需要大算力市場 比方render 電影studio
等影音大廠要花大筆錢打造render farm使用NV晶片 又或者臉書的廣告推送預測等服務
所以通運算力有一定基本需求)

順便附上三星自己做了一個HBM使用的數量估計
https://i.imgur.com/NzuspuW.jpeg



我2025自己投資就是照上面HBM使用數量大概去分配買 (加個註解好了@@)
你如果覺得NV有未來 你最好的加碼點就是這波關稅大戰 因為關稅跟基本面相關性小
我個人預測是DeepSeek 會加速其他國家和中小型玩家入場機會 比方
https://reurl.cc/V0vzWy
而HBM上面也支撐我重注萬潤策略 (@@ 強烈不建議跟單 因為這部分韭菜率很高)

然後我之前刪文 但裡面有一個重點 就是inference端的速度(token/second)
和能滿足多少用戶請求(queries) 支援 是AI落地場景衡量指標 再玩deepseek之後
你可以嘗試去把這些考慮帶入 這樣幫助你對算力需求之後的發展預測 (註1)

當然ASIC還是給華爾街許多想像空間
(參照 圖解科技巨頭如何在AI領域增加「重注」 一文)

總結 2025 個人投資方向就是找下方圖表的金錢流動位置 @@/
https://reurl.cc/ZZ5elW


--
註1
一般來說 大部分落地場景最最最低速度要求大約是25~30 token/second 再玩on-device端
可以體驗壹下這速度感

註2
為對沖關稅影響 部分錢買入黃金 希望有買黃金的多多拋出想法能幫韭菜我校正 @@/

註解:多少分配avgo/nvda看個人 @@ 有一說華爾街2025會想炒avgo
可以搭配HBM發展趨勢 作為算力第二建倉分散用途打算
https://finance.sina.com.cn/jjxw/2024-12-17/doc-inczttzt5006945.shtml


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.21.72.78 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1739050885.A.0C8.html
xupmc1樓亞馬遜很認真在投入AI AWS感覺功能不是DS可以比的 02/09 05:50
RichardLee882樓推 優質分析 感謝L大 02/09 05:52
onekoni3樓專業推 02/09 06:02
y8001221554樓為什麼你是照用量去買? 而不是照成長力高低去配比? 02/09 06:05
guanting8865樓用在ASIC上就是我想把某段服務的成本打下來 不會少 02/09 06:18
guanting8866樓 02/09 06:18
guanting8867樓這就很適合在AWS上 而且不限於你現在看到的LLM 02/09 06:20
guanting8868樓不可能只會有LLM要發展 就光周圍的人機介面都還是 02/09 06:23
guanting8869樓要處理 02/09 06:23
guanting88610樓聽 (你需要speech recognition) 02/09 06:29
guanting88611樓看/讀 (你需要 computer vision) 02/09 06:29
guanting88612樓說 (你需要 tts = text-to-speech ) 02/09 06:30
guanting88613樓想 (就你目前看到的模型 但這個可能未來還會有更厲 02/09 06:30
guanting88614樓害的人或團隊將目前的設計改良突破 02/09 06:30
sonnyc15樓救救蘇媽媽 02/09 06:33
ksjr16樓不曉得UAE會不會也被川川禁? 02/09 06:39
HenryLin12317樓AVGO算變化量應該大於NVDA 02/09 07:10
Mingleez18樓萬潤跟hbm什麼關係 02/09 07:25
imlucky19樓世芯ky最近好猛 爭奪股王位置 02/09 07:26
pisciss20樓死媽的花能聽,股價不會剩100初頭 02/09 08:02
pc007ya21樓GUC HBM buy and forget 02/09 08:10
spike121522樓嗚啊,我美光還套在102 02/09 08:17
fgkor12323樓NPU勒? 02/09 08:33
ymlin033124樓alchip緊抱亞麻大腿XD 02/09 08:43
ymlin033125樓asic的需求直接來自CSP大廠,怎麼輸? 02/09 08:43
B1031405826樓99AMD 02/09 08:47
MacD8927樓買台積電是不是就不用管asic還是gpu會勝出了? 02/09 08:57
y80012215528樓沒看到那個表 GPU ASIC的需求量動不動就是翻兩倍三 02/09 09:02
y80012215529樓倍? GG的成長率大概20%上下 不在乎績效被屌打 只想 02/09 09:02
y80012215530樓穩賺略贏大盤報酬的話可以不管 02/09 09:02