原文標題:
AI晶片競爭開跑,谷歌公布第四代TPU,宣稱比輝達A100晶片更快更節能
原文連結:
https://bit.ly/3meYAG8發布時間:
2023.4.6
記者署名:
茋郁
原文內容:
谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節,稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片,但谷歌設計自己客製化晶片Tensor Processing Unit(TPU)期望能夠推動其在AI研究。
谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片,當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入,幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力,可是歷經幾年之後,谷歌將TPU延伸至更多領域,可見得其開發方面取得了長足的進步。
如今谷歌90%以上的AI訓練工作都使用這些晶片,即通過模型提供數據的過程,使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。
谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於,谷歌使用AI來設計其TPU晶片。谷歌聲稱,與人類花費數月時間設計晶片相比,使用AI設計晶片僅需要6小時即可完成設計過程。
一旦採用AI設計晶片,產品迭代都在迅速發生,這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展,將造成大型語言模型的規模呈現爆炸式成長,這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦,以幫助連接各個機器。此外,微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。
谷歌指出,PaLM模型——其迄今為止最大的公開披露的語言模型——通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是,其超級電腦可以輕鬆地動態重新配置晶片之間的連接,有助於避免出現問題並進行調整以提高性能。
谷歌除了自己使用TPU之外,一家新創公司Midjourney使用該系統訓練其模型,該模型在輸入幾句文字後即可生成新影像。
可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU,它將與輝達H100展開競爭。
總之,隨著生成式AI的崛起,AI晶片的開發腳步將成為下一個廠商積極介入的領域,以搶奪未來商機。
心得/評論:
Google公布第四代TPU,並宣稱比NVIDIA A100更快更節能,其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.40.35 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680831887.A.ACB.htmlEKman1樓你有停下來等馬斯克嗎 04/07 09:49
zeristso2樓AI自己設計晶片給自己用嗎? 04/07 09:51
ferrisw3樓馬投顧:等等我,剛把小鳥變狗頭 04/07 09:51
fujioqq4樓魔鬼終結者現正熱映中 04/07 09:52
xephon5樓 04/07 09:53 → denal6樓可是Tensor得到垃圾級的評價 04/07 09:56
lc853017樓晚了,我們不要了 04/07 09:58
→ Riyar8樓馬斯克還在玩鳥跟狗 可憐啊 04/07 09:59
kanx9樓google TPU 又不拿出來賣 發表有啥鳥用 04/07 09:59
a00000000010樓人類還剩幾集可以桃 04/07 10:01
→ appledick11樓google是不是怕了,一直發這種新聞出來,很明顯就是 04/07 10:08
→ appledick12樓被海放了 04/07 10:08
HinaGikuYanG13樓google是在追,被海放到不見的是蘋果 04/07 10:13
thbygn9814樓天網會用誰家的晶片 04/07 10:14
aegis4321015樓天網當然是用X86 04/07 10:17
aegis4321016樓X86陣營一直在研發更適合的特殊指令集,TPU如果只能 04/07 10:20
→ aegis4321017樓訓練小模型,那很快就會被超越 04/07 10:20
→ ck32618樓可是天蛇很會熱耶,這顆真的可以涼嗎??? 04/07 10:21
kis2851919樓蘋果繼續廢,賈伯斯還在該有多好 04/07 10:23
aegis4321020樓超級電腦可以用浸沒式散熱,甚至把主機放到深海之中 04/07 10:24
→ aegis4321021樓,倒不是什麼問題 04/07 10:24
qaz19wsx9622樓連設計晶片都Ai 未來人類真的需要工作嗎 04/07 10:25
turtle6623樓a100不是上一代 不跟h100比? 04/07 10:30
neowfish24樓整天投片三星 是要怎麼贏 笑死人的GOOGLE 04/07 10:33
→ Mimmature25樓你要不要看看你的自然語言定價多貴? 04/07 10:34
→ Mimmature26樓同樣的價格 openai 可以跑3000萬筆 04/07 10:34
→ Mimmature27樓Google 自然語言只能跑不到一萬筆 04/07 10:34
chienk28樓肯定只能做特定用途。GPU是通用 04/07 10:35
by1929樓沒用 還是直接買Nvda 04/07 10:37
→ hbj194130樓我信你個鬼,當nv吃素的喔 04/07 10:43