原文標題:
【科技人帶路】正面迎擊NVIDIA!AMD全新生成式AI晶片問世
原文連結:https://bit.ly/43XD09b
發布時間:2023年6月14日 下午13:21
記者署名:侯冠州
原文內容:
「AMD資料中心與人工智慧技術發表會」於台北時間14日凌晨一點正式登場,會中除了展示AMD全方位AI解決方案之外,更闡述AMD在資料中心、AI、自行調適以及高效能運算解決方案的成長策略。AMD董事長暨執行長蘇姿丰更是在會中強調:「如今,AMD在資料中心戰略上又邁出重要的一步。」
自ChatGPT問世後,AI短短幾個月便成為炙手可熱的搜尋關鍵字,也讓CPU、GPU、伺服器及資料中心等商機水漲船高;隨著AI已進入大眾的視野與生活,更多創新應用將應運而生,而處理器大廠AMD將憑藉哪些運算方案搶食AI大餅,並與聲勢浩大的NVIDIA一較高下?《Yahoo奇摩財經》刊出【科技人帶路】系列,透過科技人的視角,一起來探討科技產業的經營策略及細緻內涵。
第四代EPYC系列亮相強化資料中心處理效能
先前代號為「Bergamo」的第4代AMD EPYC 97X4處理器,可說是本次發表會的重頭戲之一,同時也是AMD在資料中心市場開疆拓土的一大利器。那麼,這款處理器究竟有何特點?
AMD指出,憑藉每插槽128個Zen 4c核心,AMD EPYC 97X4能提供最大的vCPU運算密度,可謂關鍵雲端工作負載增加3.7倍的吞吐量,且還能維持好的能源效率。
而核心數大幅增加對於資料中心企業而言有什麼好處?過往企業資料中心為了提升運算效力,在處理器核心數有限時,通常是採用增加伺服器數量的方式來強化算力;但這麼一來,不僅會衍生耗能、散熱等問題,也會產生空間不足的情況。
而隨著處理器核心數不斷增加,不僅意味著運算效能提升,能執行更多應用,對於企業而言,也可以有效節省伺服器數量,有利於資料中心空間運用,同時也簡化了伺服器的機台管理複雜度。
「相較於AMD現有EPYC處理器,搭載第4代EPYC處理器的產品最多能提升2.7倍的能源效率,並擴增伺服器空間,讓單一伺服器能容納多達3倍的容器,以最大規模運行各種雲端原生運算。」蘇姿丰表示。
Instinct MI300X加速器問世反攻NVIDA版圖
本場發表會另一個亮點,莫過於是人工智慧晶片Instinct MI300X加速器,此一晶片被市場認為是瞄準競爭對手NVIDIA旗下產品H100而來。
據AMD資料顯示,MI 300X採用新一代AMD CDNA 3加速器架構,支援高達192GB的HBM3記憶體,且整個晶片總計封裝了1,530 億個電晶體,並具有12個5奈米製程的小晶片。
「這是全球最先進的生成式AI加速器。」蘇姿丰於會中強調,並表示該加速器可以提供大型語言模型推導、生成式AI工作負載所需的運算力與記憶體效率。
憑藉大容量記憶體的優勢,僅需使用一個MI300X GPU加速器就能因應400億個以上參數的模型,讓業者得以處理Falcon-40B等大型語言模型。MI 300X 將從第3季開始向各大客戶送樣。
值得一提的是,MI 300X提供的HBM記憶體是NVIDIA H100的2.4倍,且HBM 頻寬是H100的1.6倍,這也意味著和H100相比,MI 300X可以運行更龐大的模型。
「隨著模型規模越來越大,就需要更多GPU運行最新的大型語言模型,而MI300X目的在於減少GPU數量,為企業降低總成本。」蘇姿丰這麼說。
不僅如此,AMD還推出 AMD Infinity 架構平台,將8個MI 300X加速器整合,打造極致的生成式AI推論與訓練環境。同時,AMD也發表AMD Instinct MI 300A,是針對高效能運算(HPC)與AI工作負載所開發的首款APU加速器,目前已開始向客戶送樣。
AMD強攻AI、資料中心商機
當然,除了上述所提的AMD EPYC 97X4處理器及MI 300X加速器外,發表會中AMD還推出各式雲端、資料中心及AI解決方案。像是用於資料中心加速器的 ROCm軟體生態系統、網路產品組合如AMD Pensando DPU、AMD超低延遲 NIC 和AMD自適應NIC等。
總之,本次發表會顯現了AMD不讓NVIDA專美於前,積極搶攻AI市場的決心。蘇姿丰透露,AI晶片的潛在市場,會從2023年的300億美元,成長至2027年的1500億美元。
蘇姿丰指出,AI是形塑下一世代運算的決定性技術,展望未來發展,蘇姿丰表示AMD將著重三大關鍵領域,包括高效能GPU組合、易於布建AI硬體的軟體平台,以及能深化與業界的合作,加速生態系發展的AI解決方案。
「AI是塑造新一代運算的決定性技術,也是AMD最大的策略性成長機會。」蘇姿丰這麼認為。
心得/評論:
究竟蘇媽是否能帶領AMD左踢輝達,右踹英特爾呢?讓我們繼續看下去.......總之概念股...現在好像也不太能買了
-----
Sent from JPTT on my Samsung SM-G9910.
--