我去微博查了一下, 原來這已經是兩個禮拜前的事?
原文好像刪了, 我查到別人回應備份下來的, 原文如下, 是簡體
===
MaaS (Model as a Service)在中国短时间内可能是最差的商业模式。
阿里云/百度云/腾讯云等相互内卷低价和免费,满血版的DeepSeek
R1每百万token官方也只能收到16元。
即便H800 GPU打满并且做出一流优化,H800每百万token的成本是约
150元。
我用的数据是市面上机器的最低租赁价格+少量周边:H800 7.5万/台
/月。
并且MaaS品牌会被chatbox和cherry studio等应用前端屏蔽,也无
法影响输出内容,没有任何生态或广告的价值。
如果满血版的DeepSeek R1每日输出1000亿token,那么每月的机器成
本是4.5亿,亏损4亿!
用户越多,亏损越多。
现金流能撑住吗?除非有免费的机器,但没有长久免费的午餐。
===
他說每月的機器成本是4.5億, 以每台7.5萬算的話, 是租了6000台
我順便也查了一下, 他講的每月75000人民幣的H800, 應該是8GPU的
然後我查了一下DeepSeek團隊當初釋出的
如何對 DeepSeek V3/R1推理系統進行優化
這篇文章
他們在24小時內, 平均用226台(依離峰/尖峰為6x-278台)8GPU H800伺服器實測
總輸入是6080億tokens, 總輸出1680億tokens
其實要達到他說的每日1000億tokens, 完全不需要6000台, 1/10都不需要
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.248.31.167 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1741244352.A.13E.htmliamjojo1樓所以他就是再講理論(官方)跟實務 03/06 15:00
他應該也不是實務
我的意思是說, 我不知道他是不是真租了6000台H800
(我看他3/3的回覆, 他說是測算, 所以他也並不是真試過)
如果是的話, 我覺得他的問題應該是不該全部拿來只跑DS
或是反過來, 如果他只是為了跑DS, 那可以不要租這麼多
GOOGLEISGOD2樓看不懂 03/06 15:00
yesonline3樓機器使用率啦. 他的TA是企業客戶都是白天上班... 03/06 15:03
NEWinx4樓所以他才說實際成本跟理論天差地遠 03/06 15:05
你租了超過所需40倍的算力, 然後喊虧本
這個能叫實務?
k1k18320025樓其實就他的公司立場來做這發言也是蠻打臉的,畢竟自 03/06 15:06
→ k1k18320026樓己公司就是做類似產品的東西與服務,後續又撞上開源 03/06 15:06
→ k1k18320027樓週發布的內容,會讓人感覺更像是技術不到位,不過更關 03/06 15:06
→ k1k18320028樓鍵是放滿血版給人用這件事情主流平台甚至國家平台都 03/06 15:06
→ k1k18320029樓在提供,價格都一樣,還各種送... 03/06 15:06
iamjojo10樓當然我相信他多少是誇大啦 他是說要穩定使用要五倍 03/06 15:07
→ iamjojo11樓機器 三倍兩倍能不能用? 應該也可以但不穩定/服務品 03/06 15:07
→ iamjojo12樓質的取捨 03/06 15:07
就算是五倍 他租的算力光只看輸出就差不多40倍了
這還沒算輸入也可以收錢
NEWinx13樓我比較佩服的是他敢講實話,雖然還是被和諧了 03/06 15:08
ilw4e14樓真八卦是阿里巴巴昨天丟新模型說成本只要R1的1/10, 03/06 15:09
→ ilw4e15樓所以baba帶著港股大漲 03/06 15:09
stocktonty16樓再低廉的成本一樣有人可以擴廠做到倒 正常啦 03/06 15:10
lianli102417樓這樣他們也頂多需要300台而已租到6000是幹嘛 03/06 15:12
→ iamjojo18樓點就是你拿DS官方算法算過剩 他認為不可能 結案 03/06 15:12
問題就是他沒給詳情, 到底為什麼需要6000台H800來達到日產1000億tokens
其實以那句如果, 他應該也沒搞出日產1000億tokens的環境
補充:
我看了一下他後來的回覆, 他說自己是測算
也就是他其實自己也沒有實際跑過
→ saisai3419樓你就用他的邏輯去換算gpt 能不能賺錢 比對一下不就 03/06 15:16
→ saisai3420樓知道ds有多爛了 03/06 15:16
→ 本人21樓gpt應該是不可能賺錢 目前每年都燒20億美元 03/06 15:16
duriamon22樓就單純不會搞AI的阿貓阿狗被市場教訓而已,也只有台 03/06 15:17
→ duriamon23樓灣才會以為deep seek玩假的然後被打臉,呵呵! 03/06 15:17
→ duriamon24樓幻方可是連CEO梁文峰都是技術咖,Deep seek能崛起事 03/06 15:20
→ duriamon25樓實上依靠的是強大的技術人才,你阿貓阿狗只想複製鏟 03/06 15:20
→ duriamon26樓子來賺錢卻不會使用鏟子,那一般人直接用Deep seek 03/06 15:20
→ duriamon27樓這把原廠鏟子服務不就好了?這咖根本是智障,呵呵! 03/06 15:20
→ Lhmstu28樓台灣真有趣,一直希望deepseek是假貨爛東西XD 03/06 15:21
→ Lhmstu29樓這樣投資真的沒問題嗎w 03/06 15:21
→ JieCheng120230樓訓練成本比國外低 被扭曲成營運成本也要低 呵呵呵 03/06 15:27
理想營運成本是DeepSeek不久前丟出來的, 不算是扭曲
DeepSeek團隊宣稱在模型優化下, 可以達到545%的獲利