[新聞] 白宮:輝達、IBM和Salesforce同意AI自律

股票

1860


原文標題:白宮:輝達、IBM和Salesforce同意AI自律協議

原文連結:https://reurl.cc/2ErZRa

發布時間:2023/09/12 18:50

記者署名:鉅亨網編譯張祖仁

原文內容:

美國白宮周二 (12 日) 宣布,包括輝達 (NVDA-US)、IBM (IBM-US) 和 Salesforce
(CRM-US) 在內的多家公司,將自願加入拜登政府限制人工智慧 (AI) 風險的規定。

這些承諾分為三類,包括在向公眾推出 AI 產品之前確保其安全、將安全放在首位,以及
贏得公眾對該技術的信任。

Adobe (ADBE-US)Coherent (COHR-US)Palantir (PLTR-US)Scale ai Stability
是簽署該協議的 8 家公司之一。亞馬遜 (AMZN-US)Anthropic 谷歌(GOOGL-US)In
flectionMeta (META-US)、微軟 (MSFT-US)OpenAI 自也都願加入政府的計畫。

白宮發表聲明表示:「這些承諾是政府行動的重要橋樑,也是拜登與賀錦麗政府兌現 AI
承諾和管理風險的綜合方法之一。」「政府正在制訂一項行政命令,並將繼續尋求兩黨立
法,以幫助美國在負責任的 AI 開發方面發揮引領作用。」
根據協議條款,兩家公司將允許在發表 AI 系統之前對其進行內部和外部安全測試,包括
其技術如何影響社會、生物安全和網絡安全,並承諾分享安全最佳實踐。

這些公司還表示,將投資於網絡安全和其他保障措施,以防止未發布的模型權重洩露和遭
到駭客攻擊。它們還允許第三方報告其自己系統中潛在的安全漏洞。

在公共信任方面,這些公司將確保用戶能夠經由浮水印系統等技術了解 AI 何時生成內容
。谷歌於 8 月發表其自有的浮水印技術,稱為 SynthID,該技術將標記直接嵌入到由
Imagen 文本到圖像生成器創建的圖像中。

這些科技公司進一步表示,將研究 AI 的潛在社會風險,並努力解決從氣候變化到癌症研
究等問題。
得益於 OpenAI,AI 產業迅速普及。該公司於 2022 年 11 月發布了由 AI 驅動的生成
型 ChatGPT 機器人。微軟在 OpenAI 上投資了數十億美元,並於 2 月發表其自家 Bing
聊天機器人和 Edge 瀏覽器。谷歌母公司 Alphabet 也發表了 Bard 機器人版本,並正在
開發使用生成式 AI 的搜索引擎實驗版本。

但該技術的發展和創新步伐也引發人們的擔憂,即 AI 可能被用來做各種事情,從傳播虛
假訊息到搶走各行業勞工的工作崗位。

皮尤研究中心進行的一項民意調查顯示,52% 的受訪美國人表示,他們對 AI 在日常生活
中的使用更加擔心,而不是興奮。

心得/評論:
雖然大部分科技巨頭都加入AI自律協議,但還是無法完全防堵因AI造成的道德風險
就像簽署武器禁運相關協議,一樣會有違反規範的武器流出及使用

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.243.9.168 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1694742592.A.A0D.html
Moneytaker1樓AI你跟我自律一點 09/15 09:50
Moneytaker2樓 09/15 09:50
mamorui3樓捋糷]自律 09/15 09:51
mamorui4樓股價 09/15 09:51
tmdl5樓AI是有多厲害 連手指都能畫成6根比我兒子還蠢 09/15 09:52
那你要注意生成式ai 的av女優有可能多一根
piece16樓不自律會怎樣?? 09/15 09:54
Moneytaker7樓樓上,會自律神經失調 09/15 09:55
Moneytaker8樓AI神經網絡 09/15 09:56
tomdavis9樓AI 不自律 IBM就要倒了 當然要別人自律一下 09/15 10:04
will111810樓馬投顧的xAI呢? 09/15 10:08
jimmy1233211樓希望Ai早日統治世界 09/15 10:13
strlen12樓這種我會自律乖寶寶簽名 就簽啊 形式而已喇 09/15 10:13
jimmy1233213樓好的,叫工程師在training data 裡加入”自律”兩 09/15 10:14
jimmy1233214樓個字 結案 09/15 10:14
a8521abcd15樓有點慘,都還沒做出過堪用的東西就被限制 09/15 10:17
runedcross16樓AI自律 干N啥事 09/15 10:21
DMM17樓拿武器禁運舉例怪怪的 09/15 11:19
DMM18樓武器禁運是自己用但禁止別人用 09/15 11:19
DMM19樓這個是自己限制自己小心用 09/15 11:19
其實我要表達的是核武擴散,締約國有190國,大部分都是沒有發展核武的,但是到後面 疑似擁核的國家也比當初簽署時還多,禁止核試爆,但很多國家也是偷偷做,現在應該比 較少了,都用超級電腦模擬就搞定了,所以協議或締約會不會減緩道德等其他風險的增加 也不一定可以約束
laechan20樓AI自律變BI 09/15 11:24
luting21樓天網已被封殺了 09/15 12:34
adoniskk22樓AI大逃殺 09/15 13:05
alphish23樓AI崩崩 沒得玩惹 09/15 13:11
stationary24樓股價也自律了 09/15 13:17
更多新聞
[新聞] 存股、抄底、做短線價差,誰賺得比較多?
[新聞] 藉助「醬香茅臺拿鐵」,瑞幸「小鹿」能否
[新聞] Arm正式在紐約那斯達克重新掛牌上市,預
[新聞] 【獨家】【朱國榮棄保逃亡】國寶集團總
[新聞] 國寶總裁朱國榮炒股遭重判16年 他沒按時
[新聞] 中國瘋搶華為新手機 分析:直接衝擊蘋果
[新聞] 西德州油價升破每桶90美元 去年11月以來
[新聞] 廣達看旺AI伺服器 明年大成長