[新聞] AI晶片競爭開跑,谷歌公布第四代TPU,宣

股票

48305

原文標題:

AI晶片競爭開跑,谷歌公布第四代TPU,宣稱比輝達A100晶片更快更節能

原文連結:

https://bit.ly/3meYAG8

發布時間:

2023.4.6

記者署名:

茋郁

原文內容:

谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節,稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片,但谷歌設計自己客製化晶片Tensor Processing Unit(TPU)期望能夠推動其在AI研究。

谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片,當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入,幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力,可是歷經幾年之後,谷歌將TPU延伸至更多領域,可見得其開發方面取得了長足的進步。

如今谷歌90%以上的AI訓練工作都使用這些晶片,即通過模型提供數據的過程,使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。

谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於,谷歌使用AI來設計其TPU晶片。谷歌聲稱,與人類花費數月時間設計晶片相比,使用AI設計晶片僅需要6小時即可完成設計過程。

一旦採用AI設計晶片,產品迭代都在迅速發生,這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展,將造成大型語言模型的規模呈現爆炸式成長,這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦,以幫助連接各個機器。此外,微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。

谷歌指出,PaLM模型——其迄今為止最大的公開披露的語言模型——通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是,其超級電腦可以輕鬆地動態重新配置晶片之間的連接,有助於避免出現問題並進行調整以提高性能。

谷歌除了自己使用TPU之外,一家新創公司Midjourney使用該系統訓練其模型,該模型在輸入幾句文字後即可生成新影像。

可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU,它將與輝達H100展開競爭。

總之,隨著生成式AI的崛起,AI晶片的開發腳步將成為下一個廠商積極介入的領域,以搶奪未來商機。

心得/評論:

Google公布第四代TPU,並宣稱比NVIDIA A100更快更節能,其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.40.35 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680831887.A.ACB.html
EKman1樓你有停下來等馬斯克嗎 04/07 09:49
zeristso2樓AI自己設計晶片給自己用嗎? 04/07 09:51
ferrisw3樓馬投顧:等等我,剛把小鳥變狗頭 04/07 09:51
fujioqq4樓魔鬼終結者現正熱映中 04/07 09:52
xephon5樓 04/07 09:53
denal6樓可是Tensor得到垃圾級的評價 04/07 09:56
lc853017樓晚了,我們不要了 04/07 09:58
Riyar8樓馬斯克還在玩鳥跟狗 可憐啊 04/07 09:59
kanx9樓google TPU 又不拿出來賣 發表有啥鳥用 04/07 09:59
a00000000010樓人類還剩幾集可以桃 04/07 10:01
appledick11樓google是不是怕了,一直發這種新聞出來,很明顯就是 04/07 10:08
appledick12樓被海放了 04/07 10:08
HinaGikuYanG13樓google是在追,被海放到不見的是蘋果 04/07 10:13
thbygn9814樓天網會用誰家的晶片 04/07 10:14
aegis4321015樓天網當然是用X86 04/07 10:17
aegis4321016樓X86陣營一直在研發更適合的特殊指令集,TPU如果只能 04/07 10:20
aegis4321017樓訓練小模型,那很快就會被超越 04/07 10:20
ck32618樓可是天蛇很會熱耶,這顆真的可以涼嗎??? 04/07 10:21
kis2851919樓蘋果繼續廢,賈伯斯還在該有多好 04/07 10:23
aegis4321020樓超級電腦可以用浸沒式散熱,甚至把主機放到深海之中 04/07 10:24
aegis4321021樓,倒不是什麼問題 04/07 10:24
qaz19wsx9622樓連設計晶片都Ai 未來人類真的需要工作嗎 04/07 10:25
turtle6623樓a100不是上一代 不跟h100比? 04/07 10:30
neowfish24樓整天投片三星 是要怎麼贏 笑死人的GOOGLE 04/07 10:33
Mimmature25樓你要不要看看你的自然語言定價多貴? 04/07 10:34
Mimmature26樓同樣的價格 openai 可以跑3000萬筆 04/07 10:34
Mimmature27樓Google 自然語言只能跑不到一萬筆 04/07 10:34
chienk28樓肯定只能做特定用途。GPU是通用 04/07 10:35
by1929樓沒用 還是直接買Nvda 04/07 10:37
hbj194130樓我信你個鬼,當nv吃素的喔 04/07 10:43
更多新聞
[新聞] 不再堅持!三星預計首季獲利暴跌 96%,
[新聞] 快訊/抗癌戰將慘了!高端股價飆13倍涉
[新聞] 愛國者飛彈控制箱「最大供應商」在台灣
[新聞] NB出貨 將擺脫連五季頹勢
[新聞] 宏達電3月營收雙增,台美合作與DeepSig簽MOU研發全新5G專網
[新聞] 危機變轉機 台灣50正2複利效果好威
[新聞] 快訊/以色列遭30枚火箭彈空襲 以軍隨即
[新聞]防疫險衝擊5產險資本嚴重不足 和泰富邦等4