[新聞] 韓成功研發全球首項人腦模擬超低電耗AI半

股票

854616


原文標題:

韓成功研發全球首項人腦模擬超低電耗AI半導體技術

原文連結:

https://cn.yna.co.kr/view/ACK20240306003700881

發布時間:

2024年 03月 06日 16:57

記者署名:

張黎莉

原文內容:

韓聯社首爾3月6日電 韓國研究團隊全球最初研發出即可減少電耗,又可超高速處理大語
言模型(LLM)的人工智慧(AI)半導體核心技術“互補型轉換器”(
Complementary-Transformer)。

韓國科學技術資訊通訊部6日表示,韓國科學技術院(KAIST)PIM半導體研究中心和人工
智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。

所謂“互補型轉換器技術”,是指選擇性使用模仿人腦結構與功能設計而成的脈衝神經網
路(SNN)和深度神經網路(DNN),實現轉換功能的技術。轉換器(Transformer)也是
積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路,屬於ChatGPT的原創技
術。

https://i.imgur.com/Djw6x4c.jpg

脈衝神經網路和深度神經網路的互補特性 韓國科學技術資訊通訊部供圖

諸如GPT的大語言模型,其間通過大量的圖片處理器(GPU)和250瓦特的電耗才能實現驅
動,但此次研究小組成功在一個4.5毫米×4.5毫米的小型人工智慧半導體內,以400毫瓦
的超低電耗實現了超高速驅動。

該研究結果在上月19日至23日美國舊金山舉行的國際固態電路會議(ISSCC)上公開並演
示。研究小組介紹稱,將神經形態計算技術的精準度提升至與摺積神經網路(CNN)相同
的水平,並運用了可適用於諸多應用領域的互補型深度神經網路(C-DNN)。

科技部介紹稱,研究小組將互補型深度神經網路技術用於大語言模型,實際驗證了超低電
耗、高性能的端側人工智慧(On-device AI)能夠存在,全球首次以人工智慧半導體的形
式呈現出此前僅停留在理論階段的研究內容。

據研究小組介紹,互補型轉換器使用的電力僅為NVIDIA A100圖片處理器625分之1的水平
,利用GPT-2模型生成語言時僅需0.4秒,利用T5翻譯語言只需0.2秒。研究小組計畫今後
擴大研究範圍,將神經形態計算技術從語言模型拓展至更多應用領域。(完)

https://i.imgur.com/qrjfoXx.jpg

AI半導體發展方向 韓國科學技術資訊通訊部供圖

心得/評論:

之前版上有文章討論AI PC和AI手機的未來

這研究證實了高性能且超低電耗On-device AI的可行性

原本250W才能實現驅動 這個只用400mW就能高速驅動

電力消耗更只有NVIDIA A100的625分之1

而且這還只用三星28nm 之後改用先進製程功耗能更低

GPT2生成語言0.4秒 T5翻譯語言0.2秒

我看接下來就是On-device AI的天下了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.44.242.74 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709798091.A.1DF.html
calmerrorans1樓低耗電 03/07 15:55
mnhyuiop2樓韓國.....哦...............................然後咧 03/07 15:55
harry4580313樓低耗電.... 我們的電費不用漲拉 03/07 15:56
apolloapollo4樓先唬爛再說 笑死 03/07 15:56
jeff22aa225樓用超導體做的嗎 03/07 15:56
AndyMAX6樓AI PC噴 03/07 15:56
inoce7樓 03/07 15:57
harry4580318樓解決了功率問題這樣擴散到末端 (pc 手機)更快了 03/07 15:57
kenet1239樓韓國....勿忘超導... 03/07 15:57
ab4daa10樓歐印 03/07 15:57
harry45803111樓明天伺服器休息 AI PC族群接力 03/07 15:57
laechan12樓超導體? 03/07 15:58
fbtm13樓超導2.0接力 03/07 15:58
pisu14樓『騙』 03/07 15:58
Trainn15樓常溫超導屍骨未寒 03/07 15:58
Jeff198916樓常溫超導體: 03/07 15:59
wei989817樓這研究好像聽起來好像什麼都有...??? 03/07 15:59
Like5566Like18樓韓國就算了吧 03/07 15:59
rbull19樓先吹再說 03/07 16:00
kausan20樓鬼故事+1 03/07 16:00
pili083021樓Nvidia先噴一根 03/07 16:00
kevinsosa22樓就是超導害我買到40的大亞 03/07 16:00
wei989823樓意思是不用台積電先進製程也可以搞AI? 03/07 16:01
saisai3424樓常溫超導體表示: 0.0 03/07 16:01
mnhyuiop25樓明天散熱有跌停我再相信你韓國人 03/07 16:01
flipflap26樓夢裡什麼都有 03/07 16:02
Minihil27樓韓國人又來了 03/07 16:03
YesNoter28樓抄導體呢 03/07 16:04
kobi091029樓勿忘LK-99 03/07 16:05
Notevenclos330樓LK99 03/07 16:05
更多新聞
[新聞] 建準(2421)112年全年EPS 5.16元
[新聞] 〈ESG狂潮〉大立光首度跨足綠能產業 出資4.5億元投鋰電池負
[新聞] 台積電還能漲? 外資目標價競賽起跑2
[新聞] 三星拚逆轉勝! 傳3奈米更名為2奈米
[新聞] 台灣藥局破萬間好賺嗎? 大樹藥局獲利年
[新聞] NVIDIA股價創高 2名董事聯手賣股套現57億
[新聞] 台股創高只靠2大哥 中小型股其實全臉綠
[新聞] 徐秀蘭展望 環球晶春天到