蘋果的AI是三階段的
1.本地跑3B以下的各式模型
2.跑不動的上”蘋果自己”組的雲端來跑
3.你還不滿意可以Call外援-ChatGPT
看懂了嗎,Chat GPT最大的作用就是上WWDC露面拉一下股價,他跟瀏覽器的預設引擎一樣,
你不喜歡Google就換Bing,是具備高可替代性的。現在還在AI的高速發展期,蘋果錯過了瀏
覽器時代,這一次蘋果顯然有雲端算力也要抓在自己手裡的野心。
iPhone 15和14 Pro以下的用戶會抱怨,本地跑不動的不是可以上雲端,為什麼不下放?
這就回到上面說的,大部分的功能其實都在本地跑完了,要上蘋果私有雲端跑的也是一小部
分,而4GB和6GB ram機型的用戶如果要跑新的AI功能,基本上所有功能都得交給蘋果私有雲
端運算。
而這就造成了兩個問題:
1.很多原本設定本地跑的小功能上雲端延遲變大很多,體驗變糟糕。
2.蘋果私有雲端目前算力還不行,目前的雲端是由大量M2 Ultra組成的,但顯然和其他使用
NV顯卡的大模型廠商有很大差距,現在給8GB以上大部分都能在本地跑AI的用戶算力都捉襟見
肘。
歸根結底,蘋果還是被這麼多年叩叩搜搜的Ram給反噬了(又或者蘋果樂觀其成,畢竟到15系
列的這個時間節點,蘋果不可能不知道自家AI研發的進展,蘋果也知道15系列基礎款放6GB是
一出就被淘汰的,但他還是只給6GB)
結論就是蘋果目前在硬體的發展目標,是雲端的硬體和大模型都是自己的,所以蘋果不會買
NV的計算卡,而是採用自家晶片,之後繼續迭代M4 ultra extreme…等等。
所以短期內蘋果雲端算力是個大問題,蘋果走本地+雲端雙刀流AI,本地AI能力不足的,就只
能一刀切掉不給用AI了,以免蘋果目前的雲端算力撐不住和促進消費換代,所以可以預測到
,16系列肯定是全系列8GB起步的。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.114.33.8 (澳大利亞)
※ 文章網址: https://www.ptt.cc/bbs/iOS/M.1718363330.A.BDF.htmlgreg75751樓維持手機24小時跑AI有可能嗎 06/14 19:11
→ greg75752樓相機一打開就跟AI佔的ram自相殘殺 06/14 19:11
xoy3樓現在這麼少的RAM不用AI遊戲跟相機就在自相殘殺了 06/14 19:13
→ kivan004樓期待短期內的本地端AI會聰明根本不切實際 難道買NVIDIA 06/14 19:14
→ kivan005樓的都是豬頭三 06/14 19:14
→ jsn00596樓為什麼AI要24小時跑0.0 06/14 19:15
pmes98667樓很好奇邊緣端有哪些功能是latency sensitive? 06/14 19:23
abcdefghi8樓等其他善心的公司提供更多跑雲端AI的app吧 06/14 19:43
gary84429樓用不到一年就被背刺哈哈 該慶幸的是mini7 SE4 還沒出(? 06/14 20:03
greg757510樓每次要用就要load進ram一次?想想都興奮 06/14 20:16
greg757511樓hey siri / 等我一下喔我載入 / 我問一下 chatgpt 06/14 20:19
abcdefghi12樓對AI模型的用法不熟, 不過一般OS的技巧應該都是demand 06/14 20:22
→ abcdefghi13樓paging, 也就是真的用到那一筆資料, 才會載入記憶體,平 06/14 20:23
→ abcdefghi14樓常只是佔flash空間而已 06/14 20:24
greg757515樓嘻嘻 06/14 20:24
→ gary844216樓ipad mini7差點跟著遭殃嘻嘻 06/14 20:25
→ gary844217樓Tim apple:非Pro就是給垃圾 要買自己做好背刺心理準備 06/14 20:26
jujusun18樓一般人根本就用不到AI功能 不需要為此換機 06/14 20:32
→ krousxchen19樓現在AI手機跟AI電腦都是靠本地NPU呀 06/14 20:39
→ krousxchen20樓本地化才是AI真正落地的方案,買NV顯卡自已跑的本來就 06/14 20:39
→ krousxchen21樓是少數 06/14 20:40
→ krousxchen22樓一般人已經很少在用NPU跑生成式AI了,買NV顯卡更少 06/14 20:41
xoy23樓AI需要常駐的部分就跟系統有部分一樣都不會被移出RAM,拿APP 06/14 20:53
→ xoy24樓類比是在雞同鴨講,不然要起碼8GB RAM做什麼 06/14 20:53
milkBK25樓如果只是聊天、摘要、生圖、翻譯 真的網路就好了 06/14 20:59
→ milkBK26樓蘋果這次讓人興奮就是他把AI做成助理,App之間能打通更厲 06/14 20:59
→ milkBK27樓害,以後就是Siri 主動提醒使用者要幹嘛 06/14 20:59
→ milkBK28樓一般人就算現在不用AI 以後手機AI就會主動出擊 06/14 21:01
kyle524129樓大概會給12GB封印成8GB, 剩下的剛好放模型 06/14 21:21
c1652165230樓根本樂觀其成吧 換來的只有15 pro 跟16系列之後大爆發 06/14 21:40