原文標題：生成式 AI 大爆發，NVIDIA GPU 恐供不應求
原文連結：https://technews.tw/2023/02/13/nvidia-gpu-demand-to-exceed-supply-as-green-team-bets-on-chatgpt/
發布時間：2023.02.13 11：14
記者署名：陳冠榮
原文內容：
微軟 Bing 搜尋引擎整合 ChatGPT，加上其他生成式 AI 工具的需求攀升，這些生成式 AI 相當依賴人工智慧處理能力，這正是 NVIDIA GPU 優勢所在。當科技公司正在利用 NVIDIA GPU 滿足他們不斷增長的 AI 需求，市場恐怕面臨 GPU 供貨短缺的問題，尤其先擠壓遊戲玩家的需求。
NVIDIA GPU 能夠高效運算，支援 AI 模型使用 GPU 進行運算的 CUDA（Compute Unified Device Architecture，統一計算架構），因此廣泛應用在深度學習領域。根據 FierceElectronics 網站報導，ChatGPT 初期在 10,000 個 NVIDIA GPU 上進行訓練，自從獲得大眾關注後，系統不堪負荷，無法滿足龐大用戶需求。為此 OpenAI 推出全新 ChatGPT Plus 訂閱服務，不僅能讓用戶在尖峰時段優先造訪 ChatGPT，而且回應時間更短，並能優先使用最新功能。
產業分析師估計，目前 ChatGPT 模型正在大約 25,000 個 NVIDIA GPU 上進行訓練，比初期測試使用的 10,000 個 NVIDIA GPU 高出許多。
微軟和 Google 雙雙宣布將類似 ChatGPT 的 LLM（對話式大型語言模型）整合至自家搜尋引擎中。如以 Google 為例，要將這樣的 AI 模型整合至搜尋結果中，估計需要 512,820 台 A100 HGX 伺服器以及 4,102,568 個 A100 GPU。光就伺服器和網路成本而言，資本支出預估高達 1,000 億美元（約台幣 3 兆元）左右。
生成式 AI 大爆發對 NVIDIA 來說是個利多消息，但面對消費市場，尤其對遊戲玩家而言恐怕不算好消息。NVIDIA 有可能優先供貨給提供生成式 AI 的科技公司，排擠遊戲玩家的需求。今年第一季因有農曆新年使遊戲顯卡供應受限，儘管庫存問題仍然存在，但可能為已經短缺的高階 GPU 帶來供貨問題。
高階 GPU 提供了 AI 功能，使 NVIDIA 有利可圖，可能為了滿足不斷增長的生成式 AI 而有供貨短缺的問題。NVIDIA 如何因應 AI 領域的龐大需求有待觀察，該公司預計在 2 月 22 日公布 2023 財年第四季財報，屆時有望透露更多未來營運展望。
心得/評論：
預估Google支本支出1000億鎂左右，NVDA要噴了否？
從去年底到現在已經漲了45%左右了，顯卡又要被搶光了嗎？
http://i.imgur.com/JGHnRSJ.jpg
--
