NPU還是很有用的,以後應用會越來越多。
我舉個遊戲應用的例子。
現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。
玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動,用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt,就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話,這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。
------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質,並不是取代人。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703803453.A.E0B.htmlsheng763141樓是這樣嗎 那一張3060比npu有用多了吧 12/29 07:05
ltytw2樓GPU要有GPU的樣子 12/29 07:07
sheng763143樓內文說的 CPU+3060都跑的好好的 不覺 12/29 07:10
→ sheng763144樓得npu有特別優勢 12/29 07:10
wind1835樓現在npu尷尬的地方在於它能做的事gpu也 12/29 07:21
→ wind1836樓做得來,gpu做的來npu做不到或是效能很 12/29 07:21
→ wind1837樓差 12/29 07:21
→ wind1838樓只能期望未來軟體能針對npu做優化然後np 12/29 07:23
→ wind1839樓u晶片規模也能上去吧,但到時功耗又是一 12/29 07:23
→ wind18310樓個問題 12/29 07:23
yenchieh110211樓推 12/29 07:35
widec12樓第一個做出內建gpt的開放世界應該會紅很久 12/29 08:25
→ justicebb13樓跑很久是真的,每次對話都要跑一次 12/29 08:28
ltytw14樓我不覺得這遊戲會紅 等對話生成要等好幾 12/29 08:30
→ ltytw15樓秒吧? 而且有時會跳針或跨服聊天? 12/29 08:30
→ ltytw16樓skip流的speedrun玩家不會喜歡 12/29 08:31
→ justicebb17樓而且頂多是用在罐頭任務之類的玩意, 12/29 08:32
→ justicebb18樓用在主框架上還要加一堆限制,會需要 12/29 08:32
→ justicebb19樓重跑N次 12/29 08:32
→ Ceferino20樓不懂一直在吹gup幹麻,跑4k時喊不夠跑 12/29 08:38
→ Ceferino21樓推論又說好好的,自助餐吃好吃滿 12/29 08:38
→ widec22樓遊戲不是把gpt弄進去就完事 12/29 08:47
→ widec23樓還要寫出適合的遊戲類型 12/29 08:48
→ widec24樓而NPU的目的不就是自己做AI演算嗎 12/29 08:48
→ widec25樓比如像模擬市民這類就很容易整合AI 12/29 08:49
littlefish126樓不否認未來有用途,但現在買soc附帶 12/29 09:01
→ littlefish127樓的npu等到應用成熟早就不堪使用了, 12/29 09:01
→ littlefish128樓還得買最新一代,消費者不要過早為 12/29 09:01
→ littlefish129樓它買單付出溢價是重點 12/29 09:01
→ 本人30樓剛開始模擬類型比較適合,如大逆轉裁判, 12/29 09:19