Google正在試用數位浮水印來檢測由人工智慧（Artificial Intelligence, AI）生成的圖像，以打擊虛假資訊。由Google的AI部門DeepMind開發的SynthID將可以識別由AI生成的圖像，它的工作原理是在圖像的個別像素中嵌入變化，產生人眼不可見，但電腦可檢測出的浮水印。但DeepMind表示，隨著技術的發展，將越來越難區分真實圖像和AI生成的圖像，SynthID終究不能百分之百成功識別。AI圖像生成器已經變得非常普及，流行的工具如Midjourney即擁有超過1450萬用戶。此類工具允許人們通過輸入簡單的文字指令在幾秒鐘內創建圖像，引發了全球關於版權和所有權的討論。Google有自己的AI圖像生成器稱為Imagen，其用於創建和檢查浮水印的SynthID系統僅適用於使用Imagen創建的圖像。
我們所認知的浮水印通常是添加到圖片中的標誌或文字，用於展示所有權，同時一定程度上使圖片難以在未經許可的情況下被複製和使用。例如，在BBC新聞網站上使用的圖像通常帶有位於左下角的版權浮水印。然而，這些類型的浮水印不適用於識別由AI生成的圖像，因為它們可以輕鬆地被編輯或裁剪掉。
現今的科技公司使用一種稱為雜湊（hashing）的技術來創建包含虐待內容的影片的數位「指紋」，以便在影片開始傳播時快速發現並刪除它們。但如果影片被剪輯或編輯，這些「指紋」也可能損壞。Google的系統創建了一個有效的無形浮水印，這將使人們能夠使用系統功能時，能立即判斷圖像是真實的還是由人工智慧生成的。
DeepMind的研究主管Pushmeet Kohli告訴BBC，他們的系統將對圖像進行微小的修改，以至於對人類來說，圖像並未發生變化。與hashing不同，即使圖像隨後被裁剪或編輯，該公司的軟體仍然能夠識別浮水印的存在。
他表示：「你可以改變顏色，可以改變對比度，甚至可以調整大小，但是DeepMind仍然能夠看出圖像是否由AI生成的。」但Pushmeet Kohli預警，這是SynthID系統的「實驗性推出」，公司需要人們使用它，進而了解它的強大程度。
今年（2023）7月，Google作為七家世界領先的人工智慧公司之一，在美國簽署了一項自願協議，以確保AI的安全開發和使用，其中包括確保人們能夠透過水印來識別由AI生成的圖像。Deepmind 研究主管Kohli表示，開發SynthID系統是以實際行動履行協議承諾，來自AI合作倡導團體的Claire Leibowicz則表示，企業之間需要更多的協調。
Claire表示：「我認為標準化對這個領域會有所幫助。」對於標準化的重要性，Claire認為企業正在追求不同的方法，而AI合作倡導團體需要監控它們的影響。如何獲得更好的結果?哪些方法有效?以及達成了什麼目標？許多機構目前正在各自探索不同的識別方法，這為識別增加了複雜性。未來如果識別技術開發成熟，人們的資訊生態系統將存在過多不同的方法來解釋和聲明內容是否由AI生成的。
除Google之外，Microsoft和Amazon等大型科技公司也承諾對一些AI生成的內容添加浮水印。除了圖像，Meta發表了一份研究論文，介紹了其未發布的影片生成器Make-A-Video，該論文稱將在生成的影片上添加浮水印，以滿足類似於識別圖像的需求。中國也在今年初完全禁止了未添加浮水印的AI生成圖像，如阿里巴巴使用了雲端部門的文字轉圖像工具「通義萬象」來為其AI創作的內容添加浮水印。
| 本文內容純屬筆者個人意見，並不代表TWNIC立場 |
相關連結： Tom Gerken & Philippa Wain(2023). Google tests watermark to identify AI images. BBC News.
檢自：https://www.bbc.com/news/technology-66618852 (Aug.30, 2023)
