Google 在立即遭受抨擊後移除 Google Earth 的 AI 影像生成器（擔憂深偽風險）
目錄
你可能想知道的事項
AI 生成的類衛星影像會否削弱實際衛星照片在驗證事件時的作用？
浮水印與現有防護措施在阻止具說服力的地理空間深偽散播方面有多有效？
主要議題
Google 曾於網頁版 Google Earth 中短暫推出一項 AI 影像生成功能，但在一天內便將其移除，原因是在記者、研究人員與開源調查者示範該工具多麼容易被用來偽造具說服力的類衛星影像後，引發立即的反彈。該功能允許使用者導航到任何位置、選擇「create image」，並使用 Google 的 Nano Banana 模型根據文字提示產生一個場景。公開示範迅速產生了若被當作正規衛星影像流傳，便可能誤導受眾、擴大錯誤資訊並使驗證真實世界事件更為複雜的偽造場景。
多個獨立團體立即提出的擔憂是，該工具讓人極為容易地製作出描述從未發生事件的逼真影像。記者與研究人員流傳的示例包括據稱在洛杉磯的毀損坑洞、氾濫的美國國會大廈，以及伊朗卡爾格島上的大火。開源調查者的示範則包括將難民放置於邊境位置的提示以及將某工業設施標示為核電廠的輸出。這些輸出凸顯了 AI 輔助影像生成可能被用作武器、快速且大規模地偽造具新聞價值場景的風險。
多年來，衛星影像一直是記者、調查人員與公眾用來佐證突發新聞、災害與所謂濫權行為的高價值、相對可信來源。其可信度主要來自於在沒有衛星或專業工具的情況下難以製作出具 plausibility 的高解析度軌道照片。如今一鍵即得的類衛星影像生成改變了這種動態。正如研究人員指出的，產生貌似合理但虛假的影像會削弱任何單張影像的證據力：惡意行為者更容易製造出具說服力的偽造品，且真實影像更可能被視為捏造。
Google 公開回應稱其意識到人們對 Google Earth 作為可信世界視角的獨特信任。公司指出地理空間專業人士對該功能確有合法用途，但也表示觀察到使用者分享的生成影像似乎違反了 Google Earth 的政策。Google 在社群平台發布聲明，確認會回撤該功能，同時建立更強的防護措施。公司承諾僅在實施額外保護措施後才恢復影像生成功能，但未提供具體時程。
Google 的初步防護之一是每張生成影像都會包含 SynthID 浮水印，這是一種旨在標記模型生成內容並可被例如 Google 的 Gemini 等工具識別的機制。浮水印的存在是一項技術緩解措施，旨在提高可追溯性並告知下游平台或觀看者該影像來自 AI 生成器。然而，批評者與調查者表示僅靠浮水印不足以應對風險。許多使用者在轉傳前不會驗證浮水印；浮水印可能被遮蔽、裁切或移除；而自動檢測系統並未在所有社群媒體平台與新聞聚合服務上普遍部署。因此，浮水印無法完全因應偽造影像被快速且大規模製作與散播的情況。
開源調查與數位驗證領域的專家警告說，Google Earth 介面所提供的易用性與看似具權威視角的特性，可能會加速錯誤資訊的傳播。一位研究者指出，一鍵式工作流程——導航至真實位置、生成影像、截圖——顯著縮短了從構想到發佈偽造場景的時間。這種快速流程使事實查核者與新聞編輯室更難跟上，特別是虛假影像可能被自動帳號、使用者分享與標題導向互動放大。
此外，此次發布也揭示了當主流地圖平台整合生成模型時，關於責任與控制的更廣泛議題。地圖服務常被視為地理真相的中立儲存庫；加入生成能力會模糊這條界線。平台現在必須考量的不僅是有害文字內容與一般影像安全問題，還有與創建偽造地理空間證據相關的特定風險。這包括哪些提示應被封鎖、如何標示生成內容、來源元資料的可見性，以及如何防止利用具情境信任性的工具被濫用等政策決策。
Google 暫時撤回該工具展現了謹慎的姿態：公司同時承認專業人士可能有合法使用案例，也認識到可能產生的公共傷害。情況也顯示創新與緩解之間存在緊張關係。回撤功能可以爭取時間建立技術與政策防護，但這並未消除根本挑戰：能生成真實地點逼真影像的生成模型仍會存在，其他行為者可能在沒有相同防護措施的情況下提供類似功能。
最後，觀察者指出，社會對此類能力的回應需要多面向。技術措施例如強健的浮水印、能顯示篡改跡象的來源元資料，以及更嚴格的內容過濾可降低部分風險。同等重要的是平台政策、關於驗證做法的大眾教育，以及產業與政府間協調的 AI 生成影像標示標準。若無全面性作法，易得的地理空間生成工具本身就威脅到長期以來作為獨立驗證基石的影像信任度。
重點洞察表
| 面向 | 說明 |
|---|---|
| 立即行動 | Google 在上線後一天內因濫用疑慮移除了 Google Earth 的影像生成功能。 |
| 主要風險 | 一鍵生成可能產出逼真的假衛星影像，誤導公眾與媒體。 |
| 建議防護 | 使用 SynthID 浮水印並在恢復功能前規劃更強的防護措施。 |
| 專家關切 | 僅靠浮水印可能不足；偽造影像的散播速度快於更正資訊的擴散。 |
| 更廣泛的影響 | 除非出現更好的來源證明與產業標準，否則衛星影像作為驗證工具的信任可能被侵蝕。 |
後續...
展望未來，在地圖平台內恢復 AI 影像生成功能將需要多層防禦：強健的技術來源證明、更清楚的標示、對敏感主題採取保守的提示限制，以及跨部門的標準協議。政策制定者、平台營運者與驗證社群需協同合作，確保生成工具的合法用途益處不會以侵蝕支撐新聞與問責的影像信任為代價。在此期間，該事件提醒我們，在受信任情境中快速部署的 AI 功能可能帶來重大的社會影響，而謹慎回撤以重新設計防護措施可能是審慎的第一步。
