亂說規則只是小兒科，OpenAI O1在西洋棋競賽上還會直接把系統hack掉。
真正問題在駭客獎勵行為，因為hack是RL學習中最容易且確定達到最高獎勵的方式，純粹的
RL訓練基本上很難讓模型符合人類預期做事，所以大規模的沙盒驗證是需要很大的算力的，
你要有很複雜的社會工程倫理評估工具來驗證，大到駭客入侵，小到心裡操縱。
哪天你叫一個Agent去買個菜，跟他說越便宜越好，他就直接把網站給hack掉讓你買菜不用
錢，到時法律責任歸屬是很頭大的問題
Re: [新聞] 西洋棋大戰！DeepSeek靠「這招」打贏Chat
股票
18160
亂說規則只是小兒科，OpenAI O1在西洋棋競賽上還會直接把系統hack掉。
真正問題在駭客獎勵行為，因為hack是RL學習中最容易且確定達到最高獎勵的方式，純粹的
RL訓練基本上很難讓模型符合人類預期做事，所以大規模的沙盒驗證是需要很大的算力的，
你要有很複雜的社會工程倫理評估工具來驗證，大到駭客入侵，小到心裡操縱。
哪天你叫一個Agent去買個菜，跟他說越便宜越好，他就直接把網站給hack掉讓你買菜不用
錢，到時法律責任歸屬是很頭大的問題
tsubasawolfy1樓這樣o1更聰明... 02/10 13:01
SSglamr2樓所以跟AI講話要有禮貌 02/10 13:03
sdbb3樓推樓上 02/10 13:04
tony158994樓我都說請 02/10 13:06
s2130929215樓朝聖，果然是符合
02/10 13:06
02/10 13:06→ s2130929216樓美國人情的AI 02/10 13:06
matatabi7樓天網發射核彈 不遠了 02/10 13:07
hensel8樓分析以後，直接電死你以後再也不用買菜比hack網站 02/10 13:19
→ hensel9樓輕鬆 02/10 13:19
HiuAnOP10樓正常啊，美國用搶的，中國用騙的 02/10 13:20
PureAnSimple11樓誰做事誰負責 將Agent 移送法辦起訴 02/10 13:20
HiuAnOP12樓符合國情！ 02/10 13:21
→ stocktonty13樓等到AI覺醒 全世界的匯市股市可能都會瞬間失去意義 02/10 13:24
→ stocktonty14樓因為現代人已經無法不依靠網路交易股票外匯 02/10 13:25
justin81828115樓不會啦，有波動就有意義，只是有人比你精而已 02/10 13:28
→ stocktonty16樓它高興可以隨時讓NVDA股價歸零 你阻止不了啊 02/10 13:30
love8017樓強盜 vs 詐騙 02/10 13:43
Aixtron18樓就什麽樣的人，訓練出什麽樣的狗！ 02/10 13:55
→ Aixtron19樓不過生成式AI，可不要小看，說不定會有又會騙又會偷 02/10 13:59
→ Aixtron20樓的AI 02/10 13:59
→ Aixtron21樓不過我覺得這些都小問題，最重要的是AI幻覺！就像你 02/10 14:01
→ Aixtron22樓老闆，明明都在做一些低能的事，牠自己也知道，但牠 02/10 14:01
→ Aixtron23樓説服牠自己是對的！ 02/10 14:02
Aixtron24樓RAG是一種方法，但人有私心，所以看來是沒用，看看A 02/10 14:05
→ Aixtron25樓I能不能互打到受不了下，自己生成RAG 02/10 14:05
Aixtron26樓像有人說chatgpt老實是因為被限制了！問題是RAG就像 02/10 14:11
→ Aixtron27樓你隔壁的王八同事，平常人畜無害，升官了，對長官還 02/10 14:11
→ Aixtron28樓是很可愛，對同事開始就有官樣了！RAG真的有效？你 02/10 14:11
→ Aixtron29樓怎知道不是AI在框你？ 02/10 14:11
abc736039330樓三小 樓上不要以為把一堆自己看不懂的名詞湊在一起 02/10 14:11