[新聞] 別小看Gaudi 3,其採取低成本和慢慢蠶食

工作

970

別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場

原文網址:
https://bit.ly/3xOU5as

原文:
為了加強與輝達在AI訓練和推理應用晶片市場的競爭,英特爾推出了人工智慧加速器晶片
Gaudi 3。該公司聲稱它比Nvidia的H100 GPU更快、更有效率,並且與Nvidia最近推出的
Blackwell級GPU相比「極具競爭力」。

英特爾聲稱,Gaudi 3在訓練大語言模型方面比H100快1.7倍。在推理方面,Gaudi 3的推
理應用速度比H100快1.5倍,也比H200快1.3倍。英特爾還表示,Gaudi 3在運行LLM時的能
效比H100高出2.3倍。最重要的是,Gaudi 3的成本預算僅僅是輝達H100的一小部分。

由於這些因素,使得Naver(韓國網路公司)、博世、IBM、Ola等成為英特爾Gaudi 3的客
戶和合作夥伴。而2024年第二季度,英特爾將向戴爾、惠普以及超微型電腦(Super
Micro Computer)、和聯想等OEM廠商首批供貨。正式上市時程卻是在第三季。

基本上,Gaudi 3 AI加速器可描述為具有「異質電腦架構」。它擁有64顆Tensor處理器核
心(第五代)、8個矩陣數學引擎、128 GB HBM容量(3.7 TB/s)、96 MB SRAM(12.8
TB/s)、24個200 GbE RoCE乙太網路連接埠和PCIe 5。

雖然Gaudi 3比起H100更好,但是卻不足以對抗輝達Blackwell平台。英特爾構思的策略是
,隨著企業面臨AI成本不斷上升的問題,任何能夠保持效能但價格更實惠的產品都將是非
常具吸引力的解決方案。從平台特性和功能來說,輝達Blackwell平台絕對沒有一家公司
能夠與之抗衡,但是價格標籤是Blackwell的一個嚴重阻礙,更何況輝達宣稱,B100晶片
初期將供不應求。

這就給英特爾一個戰略的切入點,畢竟,想要省錢但卻在可接受替代方案上,Gaudi 3產
品的確是最佳選擇。

如果當初英特爾直接研發出超越B100的AI晶片,可能會面臨在硬體技術領先,但整體生態
追不上,且成本過高的窘境。反而沒有其他公司願意嘗試Gaudi 3。如今在成本優勢下,
Gaudi 3在性能上超越H100,就足以讓其他公司願意嘗試採用,畢竟,英特爾並未擁有
CUDA的軟體。

換句話說,想要其他企業採用Gaudi 3,英特爾必須在軟體上齊頭並進。有了低成本的硬
體,企業才有嘗試UXL開源軟體平台的勇氣。

英特爾知道輝達成功的關鍵之一是CUDA,甚至說是軟硬體結合的生態體系,所以初期策略
絕對不要硬碰硬,而且慢慢蠶食輝達的市場佔有率。先讓一小部分企業願意嘗試Gaudi 3
和其開源軟體平台,再透過口耳相傳以及企業反饋,來搶奪市場大餅。

如今仍難以知道英特爾這些戰略會不會奏效,還是要等產品上市才能揭曉。但從戰略角度
上,的確是具有威脅力的嘗試啊!

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1713311560.A.60B.html
goodfuture1樓喔…(挖鼻孔) 04/17 08:27
mmonkeyboyy2樓....先修lib好嗎 04/17 11:12
puffycat3樓樓上內行 04/17 11:15
la8day4樓股價… 04/17 11:24
lnew10015樓翻譯:撿別人吃剩的 04/17 12:32
johnjohnlin6樓方向是對啦...... 04/17 16:58
onewaylun7樓AI 市佔不到1%也那麼大聲 04/17 17:06
btpeter8樓然後重點是可以無限的延伸GPU節點沒有任何限制…. 04/17 18:09
btpeter9樓OneAPI也是可以用於CUDA的資源… 04/17 18:15
cathychg10樓What a wonderful day~~~~(^_^)v 04/21 12:40
更多新聞
[新聞] 三星發豪語「超越輝達」!日媒看衰:輸
[新聞] 為何台積電半導體超強?準經長郭智輝爆2
[新聞]台積電員工台灣各地炒房,網友:NVIDIA 在
[新聞] 台版ChatGPT來了 引爆話題
[新聞] 應對銷售下滑 特斯拉將全球裁員超過10%
[新聞] 老公進台積電變了「擺姿態亂發脾氣」
[新聞] 英特爾裁員延燒亞太區 法人:鋪路分割晶
[新聞] 37歲工程師想結婚!體重121公斤要求另