[菜單] 45K LLM模型微調伺服器升級

PC購物

2070

已買/未買/已付訂金(元):未買

預算/用途:原有的單張3090 24GB顯卡微調較大的語言模型已經不太夠用,需要再加一張30
90。家用平台PCIE頻寬似乎最多只支援到兩組PCIE 4.0 x8,希望直接升級到EPYC平台較不
會有頻寬瓶頸的問題,不過電源、機殼不太知道如何選擇,再麻煩大家推薦一下了,謝謝!

CPU (中央處理器):AMD EPYC 7302 $4387 (淘寶拆機)
MB (主機板):技嘉 MZ32-AR0 E-ATX $6983 (淘寶拆機)
RAM (記憶體):美光16G 2RX8 PC4-3200AA ECC REG *8 $6258 (淘寶拆機,QVL支援)
VGA (顯示卡):EVGA 3090 FTW3 沿用EVGA 3090 FTW3 $20000 (二手)
Cooler (散熱器):待填
SSD (固態硬碟):沿用
HDD (硬碟):無
PSU (電源供應器):待填
CHASSIS (機殼):待填
MONITOR (螢幕):沿用
Mouse/KB (鼠鍵):沿用
OS (作業系統):Ubuntu

其它 (自填):無
總價 (未稅/含稅):37628+待填

-----
Sent from JPTT on my OnePlus IN2015.

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.138.135.117 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1702883204.A.7F4.html
bhmagic1樓感覺CPU跟記憶體都省過頭了 12/18 15:22
bhmagic2樓怎麼說你ram比Vram小那麼多 那裡出瓶頸 12/18 15:28
bhmagic3樓都不奇怪 而且Epyc的核心常常需要做一些 12/18 15:29
bhmagic4樓打雜的IO 還是多一點比較好 12/18 15:30
mrme9455樓他的RAM應該是16G*8吧 12/18 15:30
bhmagic6樓err..應該是 12/18 15:34
mrme9457樓電源機殼你可以考慮兩顆1000W加條雙電源 12/18 15:38
mrme9458樓啟動線配雙電源倉的機殼,或是直接買有連 12/18 15:38
mrme9459樓動啟動功能的雙電源(Antec OC-link之類的 12/18 15:38
mrme94510樓) 12/18 15:38
E7lijah11樓有ATX3.0的1600W應該夠 12/18 15:46
mrme94512樓兩顆1000W非ATX3.0應該比一顆1600W ATX3. 12/18 15:50
mrme94513樓0便宜啦 12/18 15:50
本人14樓那1U機殼配伺服器電源不知道會不會更划 12/18 15:51
本人15樓 12/18 15:51
本人16樓但原有那張顯卡不是鼓風扇可能會有風道 12/18 15:53
本人17樓的問題? 12/18 15:53
mrme94518樓有1U機殼放得下兩張3090的? 12/18 15:53
E7lijah19樓1U高度才4.4公分 怎麼可能裝得下 12/18 15:55
mrme94520樓如果你有機櫃的話,往伺服器機殼找是沒問 12/18 15:55
mrme94521樓題啊,不過新品都很貴,大概就還是要去用 12/18 15:55
mrme94522樓淘的吧 12/18 15:55
mrme94523樓應該要找4U或5U才有機會啦 12/18 15:55
E7lijah24樓散熱找貓頭鷹NH-U9 TR4-SP3應該就能壓16 12/18 16:07
E7lijah25樓核了 12/18 16:07
E7lijah26樓如果你機殼買到5U高度 散熱器可以看U12S 12/18 16:09
E7lijah27樓或U14S,4U高度我記得會差一點裝不下 12/18 16:09
E7lijah28樓不然就是一樣找對岸拆機塔散 但server塔 12/18 16:10
E7lijah29樓散轉速通常較高 很吵 12/18 16:10
mrme94530樓不過我看了一下預算,你電源加上去就差不 12/18 16:13
更多菜單
[菜單] 自組ITX 請益
[菜單] 4k擷取用小主機請教
[菜單] 25k 程式遊戲機
[菜單] 30-50K 看盤用主機 請益
[菜單]50-60K 影音遊戲機
[菜單] 文書處理和觀看影音菜單 40K-45K
[菜單] 100K 3D建模與3A大作遊戲用機
[菜單] 新手50k-55k文書遊戲機