原標(biāo)題：與迪麗熱巴“接吻”？AI換臉玩大了！專家：風(fēng)險不只是侵權(quán)

文/羊城晚報全媒體記者 董柳

和迪麗熱巴“接吻”、與劉亦菲“深情對視”、長得跟馬斯克“一模一樣”、乘地鐵的照片被“一鍵脫衣”……AI“換臉”“換裝”讓人“于無聲處聽驚雷”，屢屢沖上熱搜。

“AI‘換臉’雖然是一種技術(shù)上的進(jìn)步，但是在使用這種合成技術(shù)時容易觸犯法律，應(yīng)謹(jǐn)慎對待?！币晃环蓪＜医邮苎虺峭韴蟛稍L時說道。

記者今天檢索中國裁判文書網(wǎng)，輸入“AI+換臉”，共出現(xiàn)8篇裁判文書，但結(jié)果都一樣：被告運營的手機換臉軟件被判侵權(quán)。

AI換臉不少人愛用，多家網(wǎng)店有售

最近，廣州一名女子在地鐵上的照片被AI“一鍵脫衣”，造謠圖在網(wǎng)絡(luò)廣泛傳播引發(fā)關(guān)注。實際上，照片的女主角是小紅書的一名博主，所謂的“”是她去年7月在平臺分享的一張照片。原圖中她衣著正常，無不妥之處，但卻被別有用心之人用AI軟件“一鍵脫衣”后全網(wǎng)散播。

AI“換臉”后帶來的瞬時“”，也給一些使用者帶來了“痛楚”。也是最近的事兒：一名男性網(wǎng)紅使用合成技術(shù)，將劇集《你是我的榮耀》中的一場吻戲“改頭換面”，變成一條他自己與迪麗熱巴“接吻”的視頻。3月25日，該網(wǎng)紅又在其社交平臺上表示，其臉因為這事被女星的粉絲抓傷。

還有些無聊之人使用AI“換臉”技術(shù)讓自己與劉亦菲“深情對視”；去年，中國一位長得跟馬斯克高度相似的人被指是AI“換臉”的結(jié)果……

本是游戲游戲，不小心就牽出了法律問題。就上述男子AI“換臉”與迪麗熱巴“接吻”一事，中國政法大學(xué)傳播法研究中心副主任朱巍表示，目前在司法實踐中暫未遇到過利用PS、特效等合成技術(shù)制作的影片被判定為“隔空猥褻”的情況，但該特效師的行為涉嫌構(gòu)成尋釁滋事罪。

在一家著名的電商平臺中，多家網(wǎng)店仍在兜售AI“換臉”軟件和教程。其中一家網(wǎng)店標(biāo)明“外面賣298元的AI人工智能換臉技術(shù) 換臉腳本+詳細(xì)教程”用來招攬顧客，該產(chǎn)品頁面顯示月銷100+，還收獲一片好評。

“AI‘換臉’雖然是一種技術(shù)上的進(jìn)步，但是在使用這種合成技術(shù)時容易觸犯法律，應(yīng)謹(jǐn)慎對待。”廣東大同律師事務(wù)所主任朱永平律師告訴羊城晚報全媒體記者。

8篇裁判文書指向：這是侵權(quán)行為

AI“換臉”，新技術(shù)中夾雜著侵權(quán)風(fēng)險。

25歲的重慶人彭女士，2021年入駐抖音平臺并開設(shè)賬號，粉絲人數(shù)42萬，至今共發(fā)布含有她本人肖像的視頻作品多篇，在圈內(nèi)圈外均有較高的知名度和人氣度。

2022年9月，彭女士發(fā)現(xiàn)，上海某信息科技有限公司在運營的一款手機換臉軟件中，將眾多網(wǎng)紅或明星的肖像視頻上傳供用戶使用，用戶可以根據(jù)提交的頭像照片，通過后期AI技術(shù)形成虛擬圖像，達(dá)到高度近似的效果。

她認(rèn)為，該公司在未經(jīng)授權(quán)同意的情況下，在軟件中上傳以她的肖像為標(biāo)識的視頻作品，并將該視頻的角色開放給眾多用戶，該公司的行為侵害了她的肖像權(quán)并進(jìn)行牟利，對她造成了精神困擾以及較大的經(jīng)濟損失。

彭女士據(jù)此向請求判令該公司向她賠禮道歉，并在運營的手機換臉軟件首頁顯著位置刊登對她的致歉聲明，并賠償她經(jīng)濟損失人民幣4萬元、精神損害撫慰金5000元、律師費5000元。

上海某信息科技有限公司則認(rèn)為，彭女士主張的視頻形象之前確實儲存在軟件素材庫中，但系用戶自行上傳而非該公司上傳。2022年9月，該公司收到彭女士侵權(quán)主張后，已將該視頻形象刪除。軟件現(xiàn)也已經(jīng)更新用戶協(xié)議，要求用戶上傳有授權(quán)的視頻。由于彭女士的視頻并非該公司上傳，并且軟件使用彭女士的視頻也并非出于盈利目的，用戶在換臉之后的形象也不再是彭女士形象，故認(rèn)為并未侵犯彭女士的肖像權(quán)。

上海市浦東新區(qū)人民最近一審認(rèn)為，自然人享有肖像權(quán)，未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像。為維護(hù)公共利益或者肖像權(quán)人合法權(quán)益，制作、使用、公開肖像權(quán)人的肖像的其他行為屬于合理實施行為，可以不經(jīng)肖像權(quán)人同意?，F(xiàn)被告運營的手機軟件未經(jīng)授權(quán)使用了原告的個人形象短視頻供人肆意修改替換，且其手機軟件顯然具有商業(yè)屬性，其行為不屬于法律規(guī)定的合理使用，對原告構(gòu)成肖像侵權(quán)，應(yīng)承擔(dān)相應(yīng)的侵權(quán)責(zé)任。被告的抗辯意見，不足以說明其行為的合法性，不予采信。

指出，被告侵害原告肖像權(quán)，原告主張道歉消除影響，于法有據(jù)，但應(yīng)與原告侵權(quán)程度相適當(dāng)。侵害自然人肖像權(quán)的，原告有權(quán)要求賠償損失，但原告對其所主張的賠償金額，并沒有提供充分的證據(jù)予以證明，綜合侵權(quán)情節(jié)、過錯程度和維權(quán)成本，酌情認(rèn)定為4000元。

記者用“AI+換臉”檢索中國裁判文書網(wǎng)，得出8篇裁判文書，均系2022年以來作出，被告涉及多家運營AI“換臉”軟件的公司。在這八篇裁判文書中，均判決被告構(gòu)成肖像侵權(quán)，判賠數(shù)額為2500元至6000元不等，并判決被告賠禮道歉。

AI“換臉”生成的作品應(yīng)予以明確標(biāo)示

“AI‘換臉’在科技領(lǐng)域叫AIGC，就是利用人工智能技術(shù)來生成內(nèi)容。到目前為止，我國在這個領(lǐng)域的直接性的法律規(guī)定，只有在民法典的肖像權(quán)部分有規(guī)定。在其他領(lǐng)域則是間接性的規(guī)定，比如網(wǎng)絡(luò)安全法、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》對信息的真實性等提出了要求?！敝煳≌f，2022年，深圳、上海分別出臺了《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，但都沒有涉及深度偽造技術(shù)，包括深度偽造技術(shù)的呈現(xiàn)使用方面的要求等。

朱永平明確表示，未經(jīng)他人同意使用AI技術(shù)“換臉”可能涉嫌侵犯肖像權(quán)、名譽權(quán)。民法典第1019條規(guī)定“任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、、發(fā)行、出租、展覽等方式使用或者公開肖像權(quán)人的肖像?！?/p>

朱永平說，如果未經(jīng)他人同意，通過AI“換臉”技術(shù)使用他人肖像，屬于侵害他人肖像權(quán)的行為，如果在“換臉”過程中，故意丑化、捏造事實或做出使他人品德、聲望、信用等造成社會評價明顯負(fù)面的行為，則可能構(gòu)成侵犯他人的名譽權(quán)，情節(jié)嚴(yán)重的，還可能構(gòu)成侮辱罪、誹謗罪。

在朱永平看來，AI“換臉”技術(shù)有一定的現(xiàn)實需求，但前提應(yīng)當(dāng)是征得被使用人的同意，嚴(yán)格遵照被許可使用的用途，不得惡意丑化、捏造事實誤導(dǎo)公眾。相關(guān)部門及使用AI“換臉”技術(shù)的行業(yè)，應(yīng)當(dāng)組織開展自查整改，對于未經(jīng)同意使用他人肖像換臉的視頻圖片進(jìn)行下架處理，AI“換臉”技術(shù)提供者和技術(shù)支持者應(yīng)當(dāng)在視頻或圖片生成后的合理位置做出明顯標(biāo)識等防止公眾被誤導(dǎo)的措施。

“利用人工智能技術(shù)生成內(nèi)容，帶來的真正嚴(yán)重的問題，不僅是在人格權(quán)侵權(quán)領(lǐng)域，而且更多地出現(xiàn)在信息戰(zhàn)領(lǐng)域，這甚至涉及網(wǎng)絡(luò)安全和國家安全?！敝煳「嬖V羊城晚報全媒體記者，像ChatGPT生成的圖片是創(chuàng)造性的，這種情況下人們找不到它的原始圖片，這對用戶來說分辨真假更加難。

“所以，利用深度偽造技術(shù)形成的圖片，反映在立法上應(yīng)該受到一定的限制——不是說禁止這個技術(shù)，而是技術(shù)在使用中要受到一些限制，比如，第一，不得侵害他人的合法權(quán)益。第二，不能惡搞。第三，基于熱點事件生成的圖片，必須向社會公眾明確標(biāo)示此照片系A(chǔ)I合成，但目前還沒有看到有強制公開標(biāo)記這方面的要求?！痹谥煳】磥?，下一步，針對AI的專門立法“有必要”，其中包括隨著AI技術(shù)的發(fā)展，使用AI完成的作品應(yīng)該有不可去掉的水印提示它是AI的產(chǎn)物。(更多新聞資訊，請關(guān)注羊城派 pai.ycwb.com)

來源 | 羊城晚報?羊城派

圖片 | 新華社資料圖

責(zé)編 | 陳詩潔