https://www.qbitai.com/2024/02/124120.html
夢晨發自凹非寺
堂堂AI巨頭，怎麼就 被一家報紙僱用駭客攻擊 了？
《紐約時報》訴OpenAI侵犯版權索賠數十億美元案最新進展：
在最新提交的法庭文件中，OpenAI聲稱《紐約時報》花錢找駭客攻擊ChatGPT，人為製造
侵權結果。
使用欺騙性手段進行數萬次嘗試，才得到高度異常結果。
這項訴訟要是輸了，對OpenAI來說可能是毀滅性打擊。
數十億美元罰款都是小事了，根據法律界的分析， 連ChatGPT都可能被迫全部擦除，重頭
開始訓練 。
大家都知道，美國法律要遵守先前判例的原則。
在過去幾十年的科技公司vs版權方的案子中，法院可不總是站在科技公司這邊。
這次OpenAI主張《紐約時報》僱用駭客，真的非常關鍵了。
紐約時報如何攻擊ChatGPT
去年12月，《紐約時報》起訴OpenAI和他的微軟爸爸，表示ChatGPT和Copilot都未經許可
利用其內容訓練。
當時，《紐約時報》展示了足足 100個GPT-4一字不落背出真實報道段落的例子 。
這樣一來，ChatGPT就可以算是報紙的競爭品。
OpenAI這邊，辯稱這是一個漏洞，並承諾已經在修復。
具體來說，當AI產生與訓練資料非常相似的樣本時，可能發生 「資料回流」 （
regurgitation of training data），類似於人類聽到上句就會條件反射般的接下句，誰
也攔不住。
他們認為《紐約時報》利用這個漏洞，使用特殊的提示詞要求ChatGPT輸出特定文章的開
頭，並繼續要求輸出下一句話。
OpenAI預計 需要反覆嘗試上萬次才能產生這些整篇的文章 ，而且還不是按順序的，而是
「分散和無序的引用」。
正常人不可能這麼使用ChatGPT，也不會把它當成《紐約時報》的替代品。
OpenAI指責《紐約時報》故意誤導法庭，「使用省略號來掩蓋」ChatGPT吐出報道片段的
順序，造成了「ChatGPT產生了文章的連續和不間斷片段的錯誤印象」。
而《紐約時報》從來沒有披露過他們產生這些證據的具體提示詞，以及是否修改了系統提
示詞等等細節，就挺心虛的。
至於提示詞攻擊算不算駭客行為，有網友表示怎麼不算，如果認可提示詞工程真的算一種
工程，那提示詞攻擊就算攻擊。
現在OpenAI主要從兩個地方反擊：
一是主張這種 提示詞攻擊公然違反了OpenAI的產品使用條款 。
二是主張 網路上公開內容是可以合理使用的 。
這就要抱緊谷歌大腿了，20年前谷歌整了個大活，掃描數百萬本圖書放到搜尋引擎上，被
一堆出版商和作家協會給告了。
官司反反覆復打了10多年，最後谷歌艱難的贏了，被判這些數據是合理使用。
當時裁決認為用戶只能看到圖書的簡短片段，永遠無法從受版權保護的書籍中恢復較長的
段落。
谷歌製作書籍的數位副本以提供搜尋功能是一種變革性的使用，它透過提供有關原告
書籍的資訊來增加公眾知識，而不向公眾提供書籍的實質替代品。
不光OpenAI，同樣面臨版權訴訟的Stability AI等AI影像生成公司，都在堅持他們做的事
與Google當年一樣：
都是 「學習訓練資料中關於作品的訊息，但不複製作品本身的創意表達」 。
然鵝還有一個有爭議的地方，AIGC產品確實會產生創意的作品，與接受訓練的作品直接競
爭。
所以這一批AI公司面臨的危機，比Google當年面臨危機還要大一些。
再不賣數據就太晚了
實際上，像《紐約時報》這樣和AI鬧得不愉快的內容公司是少數。
更多網路公司都在爭先恐後出售自己的數據，反正這些AI公司又不是沒錢。
Sora視頻，就被找出明顯有OpenAI合作夥伴 Shutterstock 素材的影子。
上週，「美國貼吧」 Reddit 剛跟Google簽了協議，6千萬美元一年，讓Google可以即時
取得論壇資料用於AI訓練。
OpenAI這邊肯定早就用上了，畢竟山姆奧特曼本人就和Reddit公司關係匪淺，而且早年比
GPT-1還早的原型研究，就是在Reddit數據上訓練聊天機器人。
現在 Tumblr 和 WordPress 也趕緊跟進，把用戶資料賣給OpenAI和Midjourney。
雖然他們的用戶聽到這個消息都挺不高興的，但是沒辦法，當初註冊帳號的時候可是必須
同意使用條款，其中把數據歸屬早就安排明白了。
當然AI公司買過來這些數據也不是直接塞AI嘴裡就好使的，學術界現在也研究如何有效率
地運用。
剛剛還有 語言模型訓練的資料選擇綜述 出爐，提出用於比較和對比不同的資料選擇方法
的框架，也倡議：
加速資料選擇研究，如開發直接評估資料品質的指標，減少對昂貴模型訓練的依賴。
更好地理解資料分佈的特性，以便更精確地選擇資料。
將計算時間從模型訓練轉移到資料處理。
隨著AI生成的內容在網路上鋪開，後面再訓練大模型的都繞不開使用AI生成的數據了，就
說多少家大模型「承認」過自己是OpenAI訓練的了吧。
同樣中文資料也繞不開文心一言，GoogleGemini都鬧過笑話（已修復）。
坐擁大量人類古法手打數據的網路公司，再不抓緊賣，AI就能自給自足了。
參考連結：
[1]https://s3.documentcloud.org/documents/24443836/nysd-case-612697.pdf
[2]https://arstechnica.com/tech-policy/2024/02/openai-accuses-nyt-of-hacking-chatgpt-to-set-up-copyright-suit/
[3]https://arxiv.org/abs/2402.16827
--