①這項(xiàng)名為SynthID的技術(shù)將水印直接嵌入到Imagen生成的圖像中,Imagen是谷歌最新的人工智能圖像生成器之一。
②SynthID技術(shù)將繼續(xù)發(fā)展下去,并可能擴(kuò)展到谷歌其他產(chǎn)品或第三方產(chǎn)品。
財(cái)聯(lián)社8月31日訊(編輯 牛占林)為了防止人工智能(AI)生成的錯(cuò)誤信息的傳播和濫用,也為了履行自己的承諾和義務(wù)。在周二的谷歌年度云會(huì)議上,該公司發(fā)布了一個(gè)名為SynthID的新工具:嵌入不可見的永久性水印,以表明圖像是由人工智能創(chuàng)建的。
據(jù)悉,這項(xiàng)名為SynthID的技術(shù)將水印直接嵌入到Imagen生成的圖像中,Imagen是谷歌最新的人工智能圖像生成器之一。之后,無論裁剪、添加過濾器或改變顏色以及使用各種有損壓縮方案,被添加到圖像中的水印都將無法去除,以便于人們區(qū)分真實(shí)和虛假的內(nèi)容。
當(dāng)然,SynthID工具也可以掃描傳入的圖像,從而評(píng)估圖像是由Imagen生成的可能性。這項(xiàng)功能由人工智能實(shí)驗(yàn)室Google DeepMind的技術(shù)提供支持。
不過,SynthID并不能保證水印可以萬無一失地抵御極端圖像處理,但它提供了一種有用的技術(shù)方法,使人們能夠負(fù)責(zé)任地使用人工智能生成的內(nèi)容。研究團(tuán)隊(duì)表示之后可能還會(huì)面向音頻、視頻和文本等模態(tài)推出類似的工具。
谷歌聲明稱:“雖然這項(xiàng)技術(shù)并不完美,但我們的內(nèi)部測(cè)試表明,它對(duì)許多常見的圖像處理都是準(zhǔn)確的?!痹摴颈硎荆壳癝ynthID只能在谷歌云平臺(tái)上使用,主要針對(duì)使用Vertex AI平臺(tái)和Imagen圖像生成器的客戶,但SynthID技術(shù)將繼續(xù)發(fā)展下去,并可能擴(kuò)展到谷歌其他產(chǎn)品或第三方產(chǎn)品。
谷歌DeepMind首席執(zhí)行官Demis Hassabis表示,SynthID是為了解決深度偽造等問題而開發(fā)的,在2024年美國(guó)即將舉行大選的背景下,建立人工智能圖像識(shí)別系統(tǒng)是非常重要的。
多家公司參與
隨著深度偽造和編輯過的圖像、視頻變得越來越逼真,科技公司正在爭(zhēng)先恐后地尋找一種可靠的方式來識(shí)別和標(biāo)記縱的內(nèi)容。
在上個(gè)月底,美國(guó)白宮發(fā)布公告稱,已與大型科技公司達(dá)成協(xié)議,為人工智能的開發(fā)設(shè)置更多防護(hù)措施,包括開發(fā)水印系統(tǒng)等,來控制誤導(dǎo)信息的傳播和其他風(fēng)險(xiǎn)。白宮表示,亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI七家主要人工智能公司做出自愿承諾,以公眾安全、系統(tǒng)網(wǎng)絡(luò)安全和獲取社會(huì)信任作為人工智能開發(fā)的原則。
在SynthID發(fā)布之前,Truepic和Reality Defender等公司也在試圖尋找解決方案,這也說明了這項(xiàng)工作的潛在風(fēng)險(xiǎn)和必要性。
OpenAI公司今年早些時(shí)候推出了一個(gè)工具,旨在弄清文本是人類還是計(jì)算機(jī)寫的。但該公司表示,他們檢測(cè)人工智能生成的文字的能力是“不完美的”,需要繼續(xù)進(jìn)行優(yōu)化。