[新聞] 採台積電 5 奈米製程,Meta 下一代自研 A

股票

42310


原文標題:
採台積電 5 奈米製程,Meta 下一代自研 AI 晶片性能提升 3 倍

原文連結:
https://tinyurl.com/3czfhkta

發布時間:
2024 年 04 月 11 日 11:46

記者署名:
作者 陳 冠榮


Meta 去年公開首款自研晶片 MTIA(Meta Training and Inference Accelerator)成果
,第一代 MTIA(MTIA v1)即採台積電 7 奈米製程,下一代 MTIA 同樣委由台積電生產


在英特爾、Google 發表最新 AI 晶片之後,Meta 10 日也公開自研晶片開發成果。MTIA
v1 後繼產品官方稱為下一代 MTIA(Next Gen MTIA),它執行的模型用於處理與 AI 推
薦系統相關的工作。與台積電 7 奈米製程建構的 MTIA v1 相比,下一代 MTIA 採用 5
奈米製程。

下一代 MTIA 配備更多處理核心,擁有更多 on-chip memory(256MB 對比 MTIA v1
128MB)和 off-chip LPDDR5(128GB 對比 MTIA v1 64GB),並以更高的平均時脈速度運
行,從 800MHz 上升到 1.35GHz,同時功耗增加(90W 對比 MTIA v1 25W)。

Meta 指出,下一代 MTIA 目前已投入 16 個資料中心區域使用。Meta 評估的四個關鍵模
型中,下一代 MTIA 性能比 MTIA v1 提升 3 倍,「由於我們控制整個堆疊,所以與商
用 GPU 相比,可以達成更高的運算效率」,Meta 部落格文章寫道。

Meta 也透露,目前還沒有使用下一代 MTIA 訓練生成式 AI,儘管該公司聲稱有多項專案
正在進行。此外,Meta 承認下一代 MTIA 不會取代目前用於訓練模型的 GPU,而是補充
運算資源。

英特爾最新發表 Gaudi 3,聲稱能源效率比 NVIDIA H100 晶片高 40%,推論速度快 50%
。Google 正向 Google Cloud 客戶推出用於訓練 AI 模型的 TPU v5p,並發表首款為資
料中心設計的 Arm 架構 Axion CPU。亞馬遜擁有多款自研 AI 晶片,微軟去年也已 AI
晶片 Azure Maia 100 和雲端運算處理器 Azure Cobalt 100 參戰。

Meta 近年不遺餘力加強 AI 技術開發,自行研發客製化晶片以滿足運算需求。該公司一
直是 NVIDIA H100 GPU 的大客戶,今年底前 Meta 運算基礎設施預計採購達到 35 萬顆
H100。同時 MTIA 系列晶片開發也將加速進行,希望在 AI 軍備競賽趕上競爭對手。

心得/評論:
又是老黃包圍網?
怎麼一夕之間
人人都是晶片專家
紛紛自幹晶片?
原來晶片根本沒什麼技術?
隨便組個團隊湊一湊就超輝趕微?
但不管是誰做的
通通都是要找台積電代工
而且還是訓練跟推理通吃耶
什麼時候台積電市值要超越輝達?


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.25.109 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1712830262.A.8C5.html
horseorange1樓大科技的人才都互相跳來跳去的有啥好意外 04/11 18:12
CIEenergy2樓需求不變,搶先供應,有賣鴨!! 04/11 18:20
brian102073樓台積電打台積電嗎? 04/11 18:20
AFM4樓裝在哪? 04/11 18:21
saisai345樓美積電 日積電 台積電互打 @@ 04/11 18:24
jerrylin6樓FB的AI能分辨詐騙集團嗎 04/11 18:27
iceyeman7樓我以為租客伯去三星勒 04/11 18:28
lawyer948樓出貨文 04/11 18:30
dolaenom9樓AI雙贏=GG贏兩次 04/11 18:38
gamesame771110樓又贏債蛙 04/11 18:41
zhong3311樓全部晶片都找台積做 台積要不要自己開發? 04/11 18:47
panjanhon12樓GG才是AI的鏟子吧 04/11 18:48
panjanhon13樓這樣1000還是便宜吧 各家都要用GG的 04/11 18:48
a1106abc14樓他之前不是找3星? 04/11 18:48
kamitengo15樓我只能說你各位台面上看的到的玩家每個都在自己做 04/11 18:49
kamitengo16樓你們就再繼續cuda不可逾越之墻吧 04/11 18:49
Shepherd198717樓AI server 吃電太兇, 沒有第二選擇 04/11 18:50
joe093418樓還都靠我2330 04/11 18:54
knives19樓設計跟做不做得出來,還有良率是另外一回事 04/11 18:54
b77778720樓找哪一個asic 04/11 18:55
motan21樓打仗就是軍火商最賺 04/11 18:56
Heedictator22樓神仙打架 04/11 19:00
accoh23樓反正贏家就是台積電 04/11 19:12
g00724樓3奈米要賣給誰?蘋果今年也不太樂觀 04/11 19:13
payneblue25樓賣給誰不會自己Google嗎 媒體比你還清楚 04/11 19:17
y80012215526樓GG只賺代工薄利而已 有本事漲10倍把NV獲利搶光嗎? 04/11 19:18
gamesame771127樓GG幾年前有討論要不要自有品牌 後來沒下文 04/11 19:21
allen008028樓先公布訓練跟推理的效率還有耗能,才能對標輝達產品 04/11 19:23
allen008029樓吧? 不然都只是一張嘴嘴在講。 04/11 19:23
doranako30樓他這不是gpu,應該是特定目的的cpu 04/11 19:24
更多新聞
[新聞] 長榮股東提告張國華等人涉違法 證交所將
[新聞] 台股ETF股民人數叩關800萬 72%都選高股
[新聞] 大立光第1季每股賺45.79元 「老實樹」林
[新聞] 銅飆升走勢未減,花旗:本世紀第二波牛-
[新聞] 習近平釋出善意似有意鬆綁兩岸交流 觀光
[新聞] 台積發威 高雄房市Q1漲幅達20%~30%
[新聞] 台塑四寶迎春燕首季全都賺 純益80億元
[新聞] 14年來最慘 製造業投資衰退23%