Google宣布，將辨識內容是否由AI生成的工具，擴展到搜尋、Gemini、Chrome、Pixel與Cloud等多項服務[1]。此舉以數位浮水印「SynthID」與用來呈現內容來源的業界標準「C2PA Content Credentials」為核心，讓任何人都能確認圖片或影片的出處[1]。Google也表示，將深化與OpenAI、Meta等業界各方的合作[1]。
SynthID已為超過1,000億項內容加上浮水印
Google在3年前發表了SynthID[1]。SynthID是一種數位浮水印技術，可將人眼無法察覺的訊號嵌入AI生成的內容中，Google已將其整合至自家的生成式媒體模型與產品[1]。截至目前，加上浮水印的數量在圖片與影片方面已超過1,000億項，音訊則達到6萬年的長度[1]。在AI生成內容快速擴散的背景下，Google持續穩健地建立可事後辨識內容來源的基礎[1]。
只要詢問「這是用AI生成的嗎」
Google近期在Gemini應用程式中加入了支援圖片、影片與音訊的SynthID查驗功能[1]。此功能在全球已被使用5,000萬次，並將自今日起擴展到搜尋，未來幾週內也會擴展到Chrome[1]。具體而言，使用者可透過搜尋中的「Lens」「AI模式」「圈選搜尋(Circle to Search)」，以及Chrome中的Gemini來查詢圖片的出處[1]。只要詢問「這是用AI生成的嗎」即可確認[1]。
Google也將支援對C2PA Content Credentials的查驗[1]。藉此可以輕鬆確認某項內容究竟是相機拍攝、未經編輯的原始檔，或是經過某些工具加工的成品，以及由哪些工具加工[1]。此功能自今日起於Gemini應用程式推出，未來數個月內將擴展到搜尋與Chrome[1]。Google表示，這是建立在YouTube用於標示AI生成內容的標籤，以及旨在提升偵測工具速度與可靠度的「Backstory」等工作之上[1]。
Pixel在拍攝瞬間記錄「真實性」
辨識的另一大支柱，是業界標準C2PA Content Credentials[1]。它用於呈現內容是如何建立與編輯的，無論是否使用了AI[1]。Pixel 10是首款在原生相機應用程式中為圖片加上Content Credentials的智慧型手機，Google表示將在未來幾週內把此功能擴展到Pixel 8、9、10的影片上[1]。透過在拍攝瞬間留下記錄，目的在於證明該素材確實由相機所拍攝[1]。Google認為，在生成式媒體的時代，能夠辨別真實且未經編輯的內容，與了解內容何時由AI建立或編輯同樣重要[1]。
業界合作與面向Cloud的偵測API
由於數位內容會跨越眾多平台流通，因此全產業採用可互通的工具至關重要[1]。據Google表示，OpenAI、Kakao與ElevenLabs等企業，正將SynthID技術擴展到更多自家AI生成內容中[1]。Google先前已將SynthID的文字浮水印技術開源，並正與NVIDIA合作，為該公司「Cosmos」基礎模型生成的影片加上浮水印[1]。
面向企業，Google將在Google Cloud的Gemini Enterprise Agent Platform上推出全新的「AI Content Detection API」[1]。它不僅能辨識Google自家、也能辨識其他主流模型生成的AI內容，應用場景涵蓋整理資訊流、防範保險詐欺等後台作業，以及事實查核、為合成媒體加上標籤等面向使用者的用途[1]。Google將先與一群值得信賴的合作夥伴一同推出，並依據回饋持續改進[1]。
作為C2PA指導委員會的成員，Google也在推動來源標示技術的全球標準化[1]。同為指導委員會成員的Meta，將開始在Instagram上為相機拍攝的媒體加上Content Credentials標籤[1]。如此一來，以Pixel相機拍攝的真實照片與影片，在分享到Instagram時也會被辨識並顯示對應的標籤[1]。
總結
Google以SynthID與C2PA Content Credentials為核心，一舉將查驗內容是否由AI生成的功能擴展到搜尋、Gemini、Chrome與Pixel。再加上Pixel在拍攝瞬間記錄真實性的做法，以及OpenAI、Meta等業界的協作，追溯內容來源的環境正逐步成形。隨著此功能陸續登陸搜尋與Chrome，我們在日常中能隨手確認「這是用AI生成的嗎」的場景，看來會越來越多。
來源：https://blog.google/innovation-and-ai/products/identifying-ai-generated-media-online/
