原標(biāo)題：是誰在為“一鍵脫衣”APP撐腰？

導(dǎo) 讀

最近，一位女網(wǎng)友在網(wǎng)上曬出了自己在地鐵車廂里的照片，卻被人用AI技術(shù)“一鍵脫衣”，于是一張很正常的女性的生活照，變成了“衣不蔽體”的照片。

通過搜索可以發(fā)現(xiàn)，網(wǎng)上不少非法網(wǎng)站還提供“一鍵脫衣”的AI技術(shù)，并且這些技術(shù)主要針對女性，即使上傳的是男性的照片，這些網(wǎng)站仍會替換上女性的裸體。

北京交通廣播《1039新聞早報》節(jié)目特邀互聯(lián)網(wǎng)觀察員 契約 、互聯(lián)網(wǎng)專家 吳沈括、 科技專欄作家 醒客、資深律師 趙占領(lǐng)和您聊聊是誰在為“一鍵脫衣”APP撐腰？

（圖片引自網(wǎng)絡(luò)）

利用AI作惡

幕后隱藏黑色利益鏈

之前曾經(jīng)火過一陣子的AI換臉，著實讓人們在驚嘆中也驚喜了一次。人們體驗著技術(shù)帶來的樂趣，不過緊接著涉及AI換臉的侵權(quán)事件便此起彼伏，想必大家還記得那張某網(wǎng)紅特效師合成的與某知名女星親吻的影片在網(wǎng)上傳播也遭到抵制的事情。一位女博主講述了自己曾經(jīng)被人AI合成，置于她從未去過地方的經(jīng)歷，她至今依然覺得很可怕：

博主：

舉個例子，你周四穿了件粉色裙子參加了一個活動，AI技術(shù)軟件可以完全捏出和那天一模一樣的，你在那個場景卻做出奇怪的事情，時間細(xì)節(jié)如果全都對得上換做誰都百口莫辯。

近年來，隨著AI技術(shù)的普及以及各類AI軟件的推廣，“AI換臉”“AI合成照片、視頻”，利用新手段博眼球事件層出不窮。究其原因，無非是利益的驅(qū)動，互聯(lián)網(wǎng)觀察員契約分析指出，這類應(yīng)用的開發(fā)者可以通過多種渠道來獲得利益：

契約：

這些開發(fā)者在做這種類似于“一鍵脫衣"的這種應(yīng)用的時候，他的核心目的肯定不只是為了嘩眾取寵。因為你嘩眾取寵的話，也就是一時，也帶不到實際的利益。他們（研發(fā)機構(gòu)或人員）的核心目的肯定還是為了去賺到更多的錢，獲取更多的實際的利益。

開發(fā)這些、運營這些APP都是有成本的，成本背后就需要用利益去支撐。同時還要承擔(dān)法律的風(fēng)險。所以這些人在做這些事情的核心目的就是為了攫取利益。

他們能夠賺錢的方式有兩類，第一類就是看廣告。要使用這個軟件，你你需要看廣告才能使用某些功能；另外，就是直接向用戶收費，使用某個功能需要收費，這些都是可以直接賺錢的。

科技專欄作家醒客也指出，這些將女性普通生活照通過AI手段制作成涉黃圖片并上傳到網(wǎng)絡(luò)中的人，也有其獲利的模式：

醒客：

一般來說這種涉黃的圖片，它經(jīng)常背后對應(yīng)的是有償?shù)膱D片下載，有很多的圖片下載網(wǎng)站，黃色的小視頻或者是圖片它都是收費的。

所以有很多人原來是用的方式進(jìn)行的。那現(xiàn)在有了AI技術(shù)之后，他們利用這種技術(shù)進(jìn)行偽造，那么偽造的成本相對來說更低，這種偽造的過程和的行為其實一樣都是違法的。

（圖片引自網(wǎng)絡(luò)）

惡意動機

法律難容

互聯(lián)網(wǎng)上的很多人都想出圈，都想火。有人發(fā)揮自己的特質(zhì)，成為公眾人物式的網(wǎng)紅，還有一類就是隱藏在所謂的幕后，靠技術(shù)手段制作發(fā)布音視頻內(nèi)容，圖片等也收獲了相應(yīng)的粉絲關(guān)注。在這個過程里，侵犯他人隱私的違法犯罪行為開始頻繁出現(xiàn)。

用AI“一鍵脫衣”生成圖片，是對女性的公開羞辱和無差別攻擊，無異于“高科技作惡”。一張圖片，就可以編出無數(shù)的謠言，貶損女性的名譽。 被造黃謠的女性很難自證清白，即使澄清事實，也有可能引來更多麻煩。

此類圖片對于好事者只是一鍵生成，但給當(dāng)事人帶來的可能是毀滅性的打擊。因此，對此類科技作惡的行為必須嚴(yán)打。

在網(wǎng)絡(luò)中，存在出售AI軟件或者提供AI合成服務(wù)的商家，盡管他們表示自己提供的產(chǎn)品或服務(wù)時不承擔(dān)買家行為造成的法律責(zé)任和經(jīng)濟損失，但是專家表示，這種所謂的免責(zé)聲明并不具備相關(guān)的法律效力，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長助理吳沈括介紹說：

吳沈括：

在《網(wǎng)絡(luò)安全法》第二十七條的規(guī)定當(dāng)中特別強調(diào)，明知他人實施危害網(wǎng)絡(luò)安全的活動的，不能夠為他提供技術(shù)支持。如果情節(jié)嚴(yán)重的，還會構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動罪等刑事犯罪。

知名IT與知識產(chǎn)權(quán)律師趙占領(lǐng)進(jìn)一步分析指出，無論是類似“一鍵脫衣”APP或其他應(yīng)用的開發(fā)者，還是利用這種軟件合成音視頻或者圖片進(jìn)行發(fā)布和傳播的制作者，都將承擔(dān)相應(yīng)的法律責(zé)任，不但包括行政責(zé)任，而且還包括刑事責(zé)任：

趙占領(lǐng)：

這種“一鍵脫衣”軟件或者類似的軟件，應(yīng)該說它違反了多項法律的規(guī)定，其中包括《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，這個規(guī)定其中有明確的要求說任何組織或者個人不得利用深度合成服務(wù)去制作，發(fā)布傳播法律法規(guī)所禁止的信息，不得利用深度合成服務(wù)從事侵害社會公共利益，擾亂經(jīng)濟秩序和社會秩序，侵犯他人合法權(quán)益的活動。

如果利用這種軟件，不僅實現(xiàn)一鍵脫衣，還在這種軟件的平臺上去進(jìn)行傳播這種脫衣之后的內(nèi)容，這種情況下，它實際上還涉及到違反刑法等相關(guān)的規(guī)定，也就是說傳播穢物品這種相關(guān)的刑事犯罪。

如果這種“一鍵脫衣”軟件，它只是提供這種軟件的工具，相關(guān)的圖片并沒有通過它的平臺去發(fā)布，對于使用者來講，使用者的行為是構(gòu)成侵犯他人的合法權(quán)益，那首先是侵犯他人的肖像權(quán)。因為《民法典》有規(guī)定，有任何組織或者個人不得以丑化污損或者利用信息技術(shù)手段偽造的方式侵害他的肖像權(quán)。一鍵脫衣這種軟件，它就利用技術(shù)來脫去女性正常穿著的衣服，讓女性的形象被曝光，那么這種就屬于典型的侵犯女性的肖像權(quán)。

如果說把這種圖片發(fā)布到網(wǎng)上，或者通過其他的方式去進(jìn)行傳播，這種行為還可能損害公民的名譽權(quán)，導(dǎo)致女性的名譽受到損害，社會評價降低。

所以，即使沒有通過這種軟件平臺去傳播脫去衣服之后的這種圖片，但是這種軟件的經(jīng)營者，他的行為仍然是違反法律的規(guī)定。包括剛才所提到的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。

當(dāng)然也包括提供這樣的軟件，用于損害他人合法權(quán)益，用于擾亂社會公共秩序，或者是從事一些違背社會公序良俗的行為。這種情況下，這種軟件的經(jīng)營者他的行為也是涉嫌違反《網(wǎng)絡(luò)安全法互聯(lián)網(wǎng)信息服務(wù)管理辦法》等多部法律的規(guī)定，需要對此承擔(dān)相應(yīng)的行政責(zé)任，需要對他進(jìn)行相應(yīng)的行政處罰。但如果說利用這種軟件還發(fā)布這種穢，那這是另外一個問題，它涉及到刑事犯罪的問題。

（圖片引自網(wǎng)絡(luò)）

堵住這些“齷齪”APP的源頭

諸如“一鍵脫衣”這樣的APP，完全可以用“齷齪”來形容。

互聯(lián)網(wǎng)觀察員契約表示，一定要多方努力，讓這些見不得光的黑色產(chǎn)業(yè)沒有立足之地：

契約：

我們怎么樣去杜絕這類類似的齷促的APP開發(fā)和使用，其實就是需要大家一起努力了。監(jiān)管部門，包括國家的法律。還有用戶要學(xué)會去舉報，發(fā)現(xiàn)這些問題之后趕緊要舉報，最簡單的是舉報給安全軟件，或者是打相關(guān)機構(gòu)公布的舉報電話等等都可以。這些都是我們普通人可以做的。

今年年初，國家、工信部、公安部發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式施行。其中明確，任何組織和個人不得利用深度合成服務(wù)制作、、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權(quán)益等活動。

科技專欄作家醒客指出，內(nèi)容運營的監(jiān)管對這些齷齪的APP的開發(fā)和生存將會起到有效地防范作用：

醒客：

要避免這一類違法行為的發(fā)生，主要還是從內(nèi)容運營的角度去監(jiān)管，不管它背后采取的是什么技術(shù)，它在前端的話一定是一種盈利的模式，面向大眾服務(wù)的模式，監(jiān)管好面向大眾的內(nèi)容服務(wù)，這個才是關(guān)鍵。

技術(shù)本身它是中性的，使用不當(dāng)?shù)臅r候才產(chǎn)生違法結(jié)果。未來隨著技術(shù)不斷發(fā)展，技術(shù)手段一直都是在更新的，所以從法律的角度講，核心還是在業(yè)務(wù)管理。要健全一個比如說主管部門在這種大型的網(wǎng)站和大型的收費的通道上要有監(jiān)管。

另外一個，還要有用戶舉報機制。就是那些受害者需要有一種舉報的機制，這樣的話能夠讓一些侵權(quán)行為能夠及時的得到發(fā)現(xiàn)。

還有行業(yè)自律和行業(yè)的監(jiān)督也很重要。因為做同樣行業(yè)的人，他更知道這個行業(yè)的運營規(guī)則，加強行業(yè)內(nèi)的自律與監(jiān)管，就能夠更有效地遏制這種犯罪行為的發(fā)生。

從客觀的角度上講，技術(shù)本身并沒有好和壞的屬性，問題往往出現(xiàn)在使用者的身上?？萍紝谧骷倚芽捅硎荆瑢τ诩夹g(shù)的發(fā)展我們應(yīng)當(dāng)給予肯定，并且要積極地使技術(shù)的應(yīng)用更多地向正向發(fā)展：

醒客：

如果我們從技術(shù)角度來看，技術(shù)本身其實并沒有什么問題，這種技術(shù)實際上在很多地方是有應(yīng)用的，比如說我們很典型的是網(wǎng)上買衣服的時候，如果你想試衣服的話，你把你的身材的數(shù)據(jù)輸進(jìn)去，這樣的話他用3D的方式重建你的身材，然后一鍵換衣模式，這樣的話各種各樣的衣服在網(wǎng)上你不需要實際去穿的時候就能得到一個試驗，而且還能看出效果來。

如果說這種技術(shù)應(yīng)用在這個方面的話，那對我們電子商務(wù)的發(fā)展實際上是非常有好處的。當(dāng)然了我們從這里可以看到，任何一種好的技術(shù)如果應(yīng)用不當(dāng)?shù)脑?，它也可能是造成人的危害甚至違法犯罪。

（圖片引自網(wǎng)絡(luò)）

我們經(jīng)常講“魔高一尺，道高一丈”。對于通過AI技術(shù)伸向女性的這只“臟手”，我們在多方共同治理的層面一定要有嚴(yán)厲的態(tài)度和高壓的手段。既然他們可以“一鍵脫衣”，我們在應(yīng)對的時候也應(yīng)該有“一鍵舉報”、“一鍵消滅”。

（圖片引自網(wǎng)絡(luò)）

微信公眾號 | xinwenzaobao1039

內(nèi)容來源： 1039新聞早班車微信公眾號 編輯 張楠

編輯：慧兒

值班主編：車水

點個

對此類科技作惡的行為必須嚴(yán)打