①這項(xiàng)名為SynthID的技術(shù)將水印直接嵌入到Imagen生成的圖像中，Imagen是谷歌最新的人工智能圖像生成器之一。

②SynthID技術(shù)將繼續(xù)發(fā)展下去，并可能擴(kuò)展到谷歌其他產(chǎn)品或第三方產(chǎn)品。

財(cái)聯(lián)社8月31日訊（編輯 牛占林）為了防止人工智能(AI)生成的錯(cuò)誤信息的傳播和濫用，也為了履行自己的承諾和義務(wù)。在周二的谷歌年度云會(huì)議上，該公司發(fā)布了一個(gè)名為SynthID的新工具：嵌入不可見的永久性水印，以表明圖像是由人工智能創(chuàng)建的。

據(jù)悉，這項(xiàng)名為SynthID的技術(shù)將水印直接嵌入到Imagen生成的圖像中，Imagen是谷歌最新的人工智能圖像生成器之一。之后，無論裁剪、添加過濾器或改變顏色以及使用各種有損壓縮方案，被添加到圖像中的水印都將無法去除，以便于人們區(qū)分真實(shí)和虛假的內(nèi)容。

當(dāng)然，SynthID工具也可以掃描傳入的圖像，從而評(píng)估圖像是由Imagen生成的可能性。這項(xiàng)功能由人工智能實(shí)驗(yàn)室Google DeepMind的技術(shù)提供支持。

不過，SynthID并不能保證水印可以萬無一失地抵御極端圖像處理，但它提供了一種有用的技術(shù)方法，使人們能夠負(fù)責(zé)任地使用人工智能生成的內(nèi)容。研究團(tuán)隊(duì)表示之后可能還會(huì)面向音頻、視頻和文本等模態(tài)推出類似的工具。

谷歌聲明稱：“雖然這項(xiàng)技術(shù)并不完美，但我們的內(nèi)部測(cè)試表明，它對(duì)許多常見的圖像處理都是準(zhǔn)確的?！痹摴颈硎荆壳癝ynthID只能在谷歌云平臺(tái)上使用，主要針對(duì)使用Vertex AI平臺(tái)和Imagen圖像生成器的客戶，但SynthID技術(shù)將繼續(xù)發(fā)展下去，并可能擴(kuò)展到谷歌其他產(chǎn)品或第三方產(chǎn)品。

谷歌DeepMind首席執(zhí)行官Demis Hassabis表示，SynthID是為了解決深度偽造等問題而開發(fā)的，在2024年美國(guó)即將舉行大選的背景下，建立人工智能圖像識(shí)別系統(tǒng)是非常重要的。

多家公司參與

隨著深度偽造和編輯過的圖像、視頻變得越來越逼真，科技公司正在爭(zhēng)先恐后地尋找一種可靠的方式來識(shí)別和標(biāo)記縱的內(nèi)容。

在上個(gè)月底，美國(guó)白宮發(fā)布公告稱，已與大型科技公司達(dá)成協(xié)議，為人工智能的開發(fā)設(shè)置更多防護(hù)措施，包括開發(fā)水印系統(tǒng)等，來控制誤導(dǎo)信息的傳播和其他風(fēng)險(xiǎn)。白宮表示，亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI七家主要人工智能公司做出自愿承諾，以公眾安全、系統(tǒng)網(wǎng)絡(luò)安全和獲取社會(huì)信任作為人工智能開發(fā)的原則。

在SynthID發(fā)布之前，Truepic和Reality Defender等公司也在試圖尋找解決方案，這也說明了這項(xiàng)工作的潛在風(fēng)險(xiǎn)和必要性。

OpenAI公司今年早些時(shí)候推出了一個(gè)工具，旨在弄清文本是人類還是計(jì)算機(jī)寫的。但該公司表示，他們檢測(cè)人工智能生成的文字的能力是“不完美的”，需要繼續(xù)進(jìn)行優(yōu)化。