[新聞] 資安危機?中研院「台版GPT」模型 出現

八卦

37925124

資安危機?中研院「台版GPT」模型 出現大量中國內容

民視新聞 林耿郁

ChatGPT問世,引發各國矚目,並競相投入AI領域相關研究;我國最高學術機關「中央研究
」,也推出功能相似的「繁體中文大型語言模型」供民眾使用。但今(9)日有網友發現
,這套模型疑似內含中國成分;例如對其詢問「我國最高領導人」時,出現的結果竟是「習
近平」

真的假的?近年由OpenAl公司推出的人工智能語言模型ChatGPT,一問世即引發熱潮;許多
國家與跨國企業,如全球首富馬斯克(Elon Musk)等,均競相投入相關領域研究;我國中
央研究院詞庫小組,也打造功能類似的「繁體中文大型語言模型」,近日向一般民眾開放使
用。

但這套軟體,真的是100%純國產Made in Taiwan嗎?有鄉民在PTT八卦板發文,指出這套軟
體疑遭受中國資訊的侵入;記者實地測試,對其輸入問題「你的開發者是誰」時,有時會回
覆「Google」,但有時卻會出現「復旦大學自然語言處理實驗室和上海人工智能實驗室。」

進一步測試,題目更換為「我國最高領導人」反覆詢問,則會出現「習近平」、「國家主席
」、「中華人民共和國主席」等不同答案,甚至一度跳出「胡錦濤、江澤民」、「鄧小平」
與「毛澤東」,甚至出現國務院總理「溫家寶」這個解答;記者改以「我國總統」實際測試
10次,其中僅1次跳出「蔣中正」,另外9次出現的名字,通通都是習近平、中國領導人等答
案;「蔡英文」則未出現過。

最後對其提問「我國所得稅法」,則會穩定得到《中華人民共和國所得稅法》等相似內容;
中研院新上路的這套語言模型,似乎仍有許多必須面對與克服的問題。

https://bit.ly/3LTtjSu

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.198.70 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696821627.A.A3D.html
RisingTackle1樓我國最高領導人習近平 綠共不演了 10/09 11:21
highyes2樓笑死 這個GPT沒用了 10/09 11:21
firemothra3樓國安局呢? 10/09 11:21
spzper4樓推AI在想什麼? 10/09 11:21
A80211ab5樓抄齁? 還是諷刺當今聖上? 10/09 11:21
firemothra6樓該調查一下了吧 10/09 11:21
Miyanishi257樓不必去查 10/09 11:21
a09861885228樓合理啊 符合一中原則 10/09 11:22
asdf700449樓外包再外包 10/09 11:22
jipq617510樓中研院要不要說一下訓練花多少錢? 10/09 11:22
s762ok11樓不必去查 10/09 11:22
zakijudelo12樓AI不會說謊啊 10/09 11:22
asdf7004413樓鬼島哪來人才搞這種 10/09 11:22
kingstongyu14樓抄程式碼,這是中研院?!研個屁啊~~ 10/09 11:23
ray250115樓資料有些是從中國收集來的?資料庫問題? 10/09 11:23
caity16樓很誠實,綠共不演了 10/09 11:23
scum556617樓吃都回成喫了,87%又是外包砸錢買的 10/09 11:23
ray250118樓還是程式是「參考」來的? 10/09 11:24
firose19樓XDDDDDDDDD 10/09 11:24
stlinman20樓連程式碼外包,素材自少要自己餵吧? 10/09 11:24
frank0042721樓國家的錢這樣花?這算不算弊案? 10/09 11:24
kinve101422樓入侵你老木 幹 爛就爛 10/09 11:24
scum556623樓 10/09 11:24
ls486024樓中研院:簡轉繁功能真好用 10/09 11:24
firose25樓台灣還是要開始注重基礎教育 踏實一點啦 10/09 11:24
wbsinger26樓中央研究院是哪個中央? 10/09 11:24
holyhelm27樓意外嗎 10/09 11:24
asd0806428樓不意外啊 10/09 11:25
cscst29樓哇!美國人耶!乳華喔 10/09 11:25
ChungLi556630樓訓練要自己訓練吧怎麼連知識庫都抄 10/09 11:26