蘋果技術文件揭密：AI模型以Google客製晶片訓練
MoneyDJ新聞 2024-07-30 08:23:15 記者 郭妍希 報導
蘋果(Apple Inc.)透露，兩款支持「Apple Intelligence」的AI模型，都是以Google設計的客製化「張量處理單元」(TPU)在雲端進行訓練。CNBC報導，蘋果週一(7月29日)釋出的技術文件顯示，蘋果基礎模型(Apple Foundation Model, AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示，「該系統讓我們得
以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器)，以及規模更大的模型。」
蘋果文件中顯示，AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p是最先進的TPU，首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個切片訓練。根據Google官網，旗下最先進TPU若提前三年預定，則每使用一小時的成本不到2美元。Google是在2015年首次發布TPU、供內部作業使用，2017年才對外推出。TPU如今是最成熟
的AI客製化晶片之一。
不過，
Google仍是輝達(Nvidia Corp.)首要客戶之一，不但同時運用輝達GPU及自家TPU訓練AI系統，也在自家雲端平台販售使用輝達科技的服務。蘋果先前曾說，AI推論任務有部分會在使用蘋果自家晶片的自有資料中心執行。
根據之前的媒體報導，參與蘋果伺服器專案「Project ACDC (即Apple Chips in Data
Center、蘋果資料中心晶片)」的人士強調，自家伺服器處理器的內部元件仍可捍衛用戶
隱私。蘋果處理器的「安全隔離區」(Secure Enclave)技術，可避免資料外洩。目前蘋果
計畫以自家的資料中心執行雲端功能，但最終仍會仰賴外部設施，如同iCloud等服務。
Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節目訪問時透露，雖然業界也許對AI基礎建設投資過度，但假使進度落後，則未來10~15年將無法在這個最重要的科技市場佔有一席之地。https://pse.is/69xdjm--
→ peter981樓那就是有了 07/30 07:53
DivineSX2樓Google母公司甲骨文？ 07/30 07:55
→ zaiter3樓那蘋果就等死了 手機已經爛到不行技術都偷安卓 vis 07/30 08:03
→ zaiter4樓ion pro沒人買 只能靠信仰假環保真斂財了 07/30 08:03
→ john652405樓支持G哪來的客製化晶片 07/30 08:09
→ john652406樓Colab都還是用nv的 07/30 08:10
ReverieKai7樓Google有TPU，但它不是像NV那種通用計算卡 07/30 08:18
abyssa18樓這記者的邏輯無法理解 07/30 08:23
→ abyssa19樓我說我早餐喝咖啡 代表我沒有吃任何麵包？ 07/30 08:24
aaa4030310樓蘋果近幾年的策略有哪個是正確的 07/30 08:26
antis11樓可憐的頻果，正在加速殞落 07/30 08:37
Prado484012樓TPU至少供貨順暢？ 07/30 08:44
bluezero00013樓選邊站？ 07/30 08:48
→ tactics210014樓代表時間夠的話 不用最新的晶片 也能訓練出堪用的模 07/30 08:49
→ tactics210015樓型 變成cp值優先 07/30 08:49
blanka16樓蘋果自己可以不用CUDA 其他人不行啊 感覺不太能比較 07/30 08:50
chrischiu17樓AI終端設備能做什麼？現在頂多AI相機而已 07/30 08:51
small31418樓怕爆 07/30 08:54
ayianayian19樓你遲早要用輝達的 07/30 08:56
Max11235820樓colab也能用tpu啊 。。。 07/30 09:39
lantimes21樓支持 07/30 10:09
roccqqck22樓訓練model跟run model 其實是兩回事 07/30 10:28
roccqqck23樓這篇可能代表蘋果自己的ai晶片只能run model 07/30 10:38
→ roccqqck24樓但是開發train model還是用tpu 07/30 10:38
→ ghchen197825樓做出AI肝GG股票又要漲了 07/30 10:50
→ bnn26樓沒事啦 蘋果本來也是綁架用戶的平台商 又不靠自己 07/30 10:53
kingofage11127樓果粉的信仰還是能讓apple再賺20年的啦 07/30 11:36
mrsix28樓人家中國手機都不需要這些訓練就可以達成AI，感覺 07/30 12:36
→ mrsix29樓蘋果會是下一個NOKIA。 07/30 12:36
douge30樓要付錢給google 才能一邊聽音樂一邊看網頁的果迷 07/30 13:10