別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場
原文網址:
https://bit.ly/3xOU5as
原文:
為了加強與輝達在AI訓練和推理應用晶片市場的競爭,英特爾推出了人工智慧加速器晶片
Gaudi 3。該公司聲稱它比Nvidia的H100 GPU更快、更有效率,並且與Nvidia最近推出的
Blackwell級GPU相比「極具競爭力」。
英特爾聲稱,Gaudi 3在訓練大語言模型方面比H100快1.7倍。在推理方面,Gaudi 3的推
理應用速度比H100快1.5倍,也比H200快1.3倍。英特爾還表示,Gaudi 3在運行LLM時的能
效比H100高出2.3倍。最重要的是,Gaudi 3的成本預算僅僅是輝達H100的一小部分。
由於這些因素,使得Naver(韓國網路公司)、博世、IBM、Ola等成為英特爾Gaudi 3的客
戶和合作夥伴。而2024年第二季度,英特爾將向戴爾、惠普以及超微型電腦(Super
Micro Computer)、和聯想等OEM廠商首批供貨。正式上市時程卻是在第三季。
基本上,Gaudi 3 AI加速器可描述為具有「異質電腦架構」。它擁有64顆Tensor處理器核
心(第五代)、8個矩陣數學引擎、128 GB HBM容量(3.7 TB/s)、96 MB SRAM(12.8
TB/s)、24個200 GbE RoCE乙太網路連接埠和PCIe 5。
雖然Gaudi 3比起H100更好,但是卻不足以對抗輝達Blackwell平台。英特爾構思的策略是
,隨著企業面臨AI成本不斷上升的問題,任何能夠保持效能但價格更實惠的產品都將是非
常具吸引力的解決方案。從平台特性和功能來說,輝達Blackwell平台絕對沒有一家公司
能夠與之抗衡,但是價格標籤是Blackwell的一個嚴重阻礙,更何況輝達宣稱,B100晶片
初期將供不應求。
這就給英特爾一個戰略的切入點,畢竟,想要省錢但卻在可接受替代方案上,Gaudi 3產
品的確是最佳選擇。
如果當初英特爾直接研發出超越B100的AI晶片,可能會面臨在硬體技術領先,但整體生態
追不上,且成本過高的窘境。反而沒有其他公司願意嘗試Gaudi 3。如今在成本優勢下,
Gaudi 3在性能上超越H100,就足以讓其他公司願意嘗試採用,畢竟,英特爾並未擁有
CUDA的軟體。
換句話說,想要其他企業採用Gaudi 3,英特爾必須在軟體上齊頭並進。有了低成本的硬
體,企業才有嘗試UXL開源軟體平台的勇氣。
英特爾知道輝達成功的關鍵之一是CUDA,甚至說是軟硬體結合的生態體系,所以初期策略
絕對不要硬碰硬,而且慢慢蠶食輝達的市場佔有率。先讓一小部分企業願意嘗試Gaudi 3
和其開源軟體平台,再透過口耳相傳以及企業反饋,來搶奪市場大餅。
如今仍難以知道英特爾這些戰略會不會奏效,還是要等產品上市才能揭曉。但從戰略角度
上,的確是具有威脅力的嘗試啊!
--