https://reurl.cc/WNmR8D
SEMIANALYSIS.COM
Datacenter Anatomy Part 1: Electrical Systems
Meta Datacenter Scrapped, Vertiv, Schneider Electric, Eaton, Datacenter Bill Of Materials By Component, Transformers, Switchgear, Redundancy, UPS, ATS, OCP Busbar, Generator Sets, Substation
問阿祖啊 這是網路上在傳的
底下有個衛星空照圖
https://ibb.co/y4Ww9s6
2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把
蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力
現在就是裁員裁員裁員 瘋狂蓋AI基礎建設
除了硬體外還有 軟體backend升級 你去看現在一堆開缺都是AI Infra Backend缺
裡面要求就是會寫Triton這種
https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD
這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra
重新設計 整個AI在Infra的速度會更有效率 更節省電力 這也是為啥大家都說
誒 為啥AI還不能落地賣錢 就是AI大基建需要兩年 之後才會有軟體服務
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
http://www.mfbz.cn/a/342750.html
AI基建就是新的AI數據中心 電力優化 以及軟體Backend Kernel重新設計
一堆人已經開始在學軟體上後端開發的技能包 以延續職業生涯
比方說這是蘇媽的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黃triton
https://aijishu.com/a/1060000000362271
摘錄裡面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，
其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话
转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、
听力障碍者，或者异国与会者特别有用
底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语 、姓名和其他会议背景，提高字幕的准确性。
微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”
为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------
這是史上最大一次的基礎建設升級 軟體硬體都是 以往就業技能樹沒辦法升級成以後
未來技能架構 就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/
現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/
所以怎會拿這波跟啥元宇宙比 元宇宙連基礎建設邊都沒摸到 這真的是...QQ
: 如題
: 差不多從前年底就開始發酵
: 到現在也差不多兩年了
: 目前看起來還是要再繼續創新高
: 記得從2016開始紅過的
: 光學 被動 pcb 航海王 元宇宙 有的沒的
: 持續時間了不起就是半年一年結束
: 目前為止ai好像還看不到盡頭
: 這波是最長的一次嗎
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1729447090.A.B30.htmlwaitrop1樓我每天摸GPU Kernel,也是很難找工作,準備當人肉電池 10/21 02:00
→ waitrop2樓現在只有做AI算法跟模型的人,才有身價 10/21 02:01
Chilloutt3樓肥宅的價值要浮現惹 10/21 02:02
a08089964樓LDPC大 又要數錢了\@n@/ 準備偷渡去加州找你要飯 10/21 02:03
→ 本人5樓=_= a08我要去龍山寺找你了 被套牢了..\@n@/ 10/21 02:04
sdbb6樓99nvdl GOOG meta mu avgo 10/21 02:08
cookie12167樓只能抱緊鏟子股了XD 10/21 02:08
→ sdbb8樓難找工作(X)太多挖角(O) 10/21 02:10
karta0189樓希望阿祖蓋快一點，這樣他快蓋好的時候新技術又問世 10/21 02:12
→ karta01810樓，他又要重蓋了 10/21 02:12
→ sdbb11樓看捷安特轉型成能源股 10/21 02:12
crossworld12樓笑死 看起來跟哏圖迷因一樣 10/21 02:18
→ budaixi13樓
10/21 02:23 meRscliche14樓wow 10/21 02:24
qweaaazzz15樓推 10/21 02:30
qwe7897116樓大基建兩年太樂觀 10/21 03:02
bd53585317樓請問一般的網頁後端現在學什麼活得下去QAQ 10/21 03:03
→ galoopboy18樓樓上：AI 10/21 04:12
four519樓兩年後的老黃：大基建現在才剛剛開始 10/21 04:13
beagle200120樓再睡兩年就要準備賣了 10/21 04:33
ejnfu21樓ML infra / distributed storage or processing 應該活的 10/21 05:21
→ ejnfu22樓下去 10/21 05:21
lyh030523樓推 10/21 06:29
brovet24樓每天寫前端加api的感到難受 10/21 06:32
donkilu25樓推L大 10/21 07:17
ppuuppu26樓沒有參與到蘋果時代的我，這次絕對要參與輝達時代G 10/21 07:48
→ ppuuppu27樓OGO老黃 10/21 07:48
metallolly28樓完了 現在要學什麼 ？我怕連電池都沒辦法當 10/21 07:53
→ hugh50929樓放棄掙扎吧，學股票就贏過9成了，人類終究是當柴燒 10/21 07:55
ggsuperda30樓只會C語言484沒救惹QQ 10/21 07:58
