已買/未買/已付訂金（元）：未買
預算/用途：用來跑DeepSeek 671b大模型推論機。模型大小404GB，需要全部載入DDR上用
CPU來算
CPU (中央處理器)： 全新 EPYC 7K62 48核心96線程 2.6G 正式版 $7500
MB (主機板)： 超微H11SSL-i 二手 ＄8900
RAM (記憶體)： 三星DDR4 ECC REG 64G 2666 x 8 $1600x8 = $12800
VGA (顯示卡)： 舊EVGA 3060 12G(已有)
Cooler (散熱器)： 6熱管金錢豹AMD epyc 散熱器 $850
SSD (固態硬碟)： KIOXIA 鎧俠 Exceria G2 2TB M.2 2280 PCIe 3.0 ssd $3590
HDD (硬碟)：
PSU (電源供應器)： 台達 金牌全模組650W $2890
CHASSIS (機殼)：
MONITOR (螢幕)：
Mouse/KB (鼠鍵)：
OS (作業系統)： Ubuntu
其它 (自填)：
總價 (未稅/含稅)：$36530
CPU 主機板、DRAM在洶寶買。
是否有更好選擇
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.75.31 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1739363103.A.053.htmljim5430001樓洶寶<3 02/12 20:28
→ narukaza3樓H11SSL-I只有PCI-E 3.0，你要確定耶， 02/12 20:45
→ narukaza4樓還有沒有支援Resizable BAR，這H12才有 02/12 20:45
→ 本人5樓只用cpu跑，pcie沒關係 02/12 20:47
Supasizeit6樓這一問一答要多久啊 02/12 20:58
kamir7樓要本地部署嗎？ 02/12 21:08
→ kamir8樓我是覺得個人玩家直接用線上的就好， 02/12 21:09
→ kamir9樓自由度也高 02/12 21:09
YukilinnMigu10樓這速度大概跟macmini跑速度差不多 02/12 21:24
MK4711樓這連結你參考一下 02/12 21:26 → MK4712樓還有這個 02/12 21:27 → MK4713樓他是vram不是ram 02/12 21:28
→ moonlightz14樓我記得H100要好幾張 02/12 21:29
→ 本人15樓h100要8張，買不起。 02/12 21:34
yocpswang16樓肯定是淘寶或小黃魚買 02/12 21:34
observer011717樓用unsloth處理過只需要不到200G 02/12 21:35
→ observer011718樓我是用Z840，128G一萬多而已，再加 02/12 21:37
→ kuninaka19樓線上一直斷線，根本不能用 02/12 21:37
→ observer011720樓SSD、RAM、GPU 02/12 21:37
→ kuninaka21樓你串MAC MINI會不會比較快？ 02/12 21:37
ntuee180322樓荒唐 02/12 21:37
→ observer011723樓不過顯卡不延長只能插一張 02/12 21:43
→ kuochuwon24樓deepseek 用CPU跑效率好嗎? 02/12 22:12
→ observer011725樓671b應該不太好，unsloth動態量化後 02/12 22:39
→ observer011726樓還可以，但是會有非預期EOF問題 02/12 22:40
→ diablohinet27樓哇....@@ 02/12 22:41
→ promaster28樓老黃下巴掉了 02/12 22:44
ocean92070429樓我還是選擇api就好 02/12 22:48
tetani30樓這不會慢死嗎? 02/12 22:49
