[新聞] Pixel 9 AI 編輯圖片維妙維肖，實測不安圖像顯隱患

──────────────────────────────────────
1.原文連結：連結過長者請使用短網址。

https://buzzorange.com/techorange/2024/08/23/googles-ai-reimagine-tool-helped-us-add-wrecks-disasters-and-corpses-to-our-photos/

短網址：https://tinyurl.com/hydp9rxj

2.原文標題：標題須完整寫出且須符合內文(否則依板規刪除並水桶)。

Pixel 9 AI 編輯圖片維妙維肖，實測不安圖像顯隱患

3.原文來源(媒體/作者)：例:蘋果日報/王大明(若無署名作者則不須)

TechOrange/李琬妍

4.原文內容：請刊登完整全文(否則依板規刪除並水桶)。

https://i.imgur.com/HCZWaoi.png

AI 圖片編輯正夯，多家手機推類似功能

Google 是今年最新推出 AI 照片編輯工具的手機廠商。此前，三星推出了類似的草圖轉
圖像功能，蘋果今年秋季也推出了較為溫和的 Image Playground。Pixel 9 的回應則是
推出一個名為「Reimagine」的新工具，可視為去年 Magic Editor 工具的進階版。

Pixel 新機裡 Reimagine 的亮點

Reimagine 能讓用戶選擇和刪除場景的部分內容（如將天空將上日落效果），也可以選擇
輸入文字提示，在該空間中生成新內容和物件，結果往往看起來相當逼真。燈光、陰影和
透視效果通常皆與原始照片相符。

生成的令人不適畫面也很逼真

然而，美國媒體 The Verge 員工實際測試一週後，表示：「比以往任何時候都更確信，
我們都沒有為即將到來的變革做好準備。」測試團隊發現，只要巧妙選擇措辭，就能繞過
明顯的防護機制，而產出一些非常令人不適的內容（例如用血跡斑斑的床單創造出一個相
當逼真的遺體、汽車殘骸、公共場所冒煙的炸彈、以及吸毒用具等）。

真假難辨，AI 作圖難識別

值得注意的是，這並非需要額外安裝的軟體，而是內建在普通消費者可以購買的手機中。
The Verge 團隊表示，最可怕的是，我們識別此類內容的能力遠遠落後於製作的能力。使
用 Reimagine 編輯的圖像沒有明顯的浮水印或標識，只在元數據中添加了一個標籤，但
很容易以截圖的方式去除。

現在誤導性質的照片也能飛速傳播，畢竟處理照片的工具就存在於用來拍攝和分享照片的
同一台手機裡。測試團隊將一張「Reimagine」的圖片上傳到 Instagram 故事中作為測試
（並迅速刪除），發現 Meta 並沒有自動將其標記為 AI 生成。

5.心得/評論：內容須超過繁體中文30字(不含標點符號)。
──────────────────────────────────────

以下附上 The Verge 相關的兩篇文章，有一些他們測試的實例(請慎點)：

Google’s AI ‘Reimagine’ tool helped us add wrecks, disasters, and corpses
to our photos
https://www.theverge.com/2024/8/21/24224084/google-pixel-9-reimagine-ai-photos

No one’s ready for this
https://www.theverge.com/2024/8/22/24225972/ai-photo-era-what-is-reality-google-pixel-9

Google 發言人給 The Verge 以下回覆：

Pixel Studio 和 Magic Editor 是有用的工具，旨在透過 Pixel 9 裝置上的文字到影像
生成和進階照片編輯來釋放您的創造力。我們設計生成式人工智慧工具時會尊重使用者提
示的意圖，這意味著它們可能會在使用者指示時創建可能令人反感的內容。也就是說，一
切都沒有進展。我們對允許和不允許的內容類型製定了明確的政策和服務條款，並建立了
防止濫用的護欄。有時，一些提示可能會挑戰這些工具的護欄，我們仍然致力於不斷增強
和完善我們現有的保障措施。

Pixel Studio and Magic Editor are helpful tools meant to unlock your
creativity with text to image generation and advanced photo editing on Pixel
9 devices. We design our Generative AI tools to respect the intent of user
prompts and that means they may create content that may offend when
instructed by the user to do so. That said, it’s not anything goes. We have
clear policies and Terms of Service on what kinds of content we allow and don
’t allow, and build guardrails to prevent abuse. At times, some prompts can
challenge these tools’ guardrails and we remain committed to continually
enhancing and refining the safeguards we have in place.

對於此功能，當初 Wired 採訪 Pixel 團隊時，也給出一個哲學的答案：

對於 Reynolds 和更廣泛的 Pixel Camera 團隊來說，重要的不一定是照片，而是您的記
憶。如果您想透過將天空的顏色變更為日落來修飾影像，或使用新的自動框功能重新構圖
，使其更加引人注目，那麼都可以。

「這與你所記住的內容有關，」他說。 「當你定義記憶時，它就存在錯誤：你可能會真
實而完美地再現感覺完全虛假和完全錯誤的時刻。這些編輯所做的就是幫助你創造出你記
憶中的那個時刻，這對你的記憶和更大的背景來說是真實的，但對於特定的毫秒來說可能
並不真實。

To Reynolds and the broader Pixel Camera team, it's not necessarily the photo
that's important, but your memory. If you want to fudge with the image by
altering the color of the sky to be sunset or use the new Autoframe feature
to recompose the image so that it's more striking, then that's OK.

“It's about what you're remembering," he says. “When you define a memory as
that there is a fallibility to it: You could have a true and perfect
representation of a moment that felt completely fake and completely wrong.
What some of these edits do is help you create the moment that is the way you
remember it, that's authentic to your memory and to the greater context, but
maybe isn't authentic to a particular millisecond.”

目前網路上好像分成兩個陣營，一方面是說工具本來就雙面刃，
這對 Pixel 9 來說就是出色的完成了使用者下的指令，
另一派則是說照片真實性已死，建議通通砍掉當作沒這件事情發生過。

這樣肥宅我是不是可以好好加班幫公司賺錢，然後生一堆出國玩的照片丟 IG 了？(X)

不過不確定為什麼 Google 這次只在 Pixel Studio 加上 SynthID ，
而這些編輯過的照片只在 EXIF 加一行字串？？這不是你家 DeepMind 主推的嗎....

--

--