原標題：“一鍵脫衣”死灰復燃，騰訊、創(chuàng)新工場所投公司存類似軟件，AI作惡誰來監(jiān)管？

出品 | 搜狐科技

作者 | 梁昌均

編輯 | 楊錦

曾經(jīng)被唾棄封禁的AI“一鍵脫衣”再次引發(fā)關(guān)注。

近日，廣州地鐵上一位女性的“”引發(fā)輿論討論。事實上，照片中的女性是一名博主，原照片并無任何不妥之處，但卻被有心之人用AI軟件一鍵脫衣，在網(wǎng)絡(luò)上進行傳播。

在這位博主原圖文的下方，已經(jīng)有眾多網(wǎng)友提醒博主被造謠的事實，催促其盡快報警，也有人熱心地幫助其辟謠澄清。目前，該博主已回復稱已在收集證據(jù)，會進行相關(guān)維權(quán)處理。

“這是我了解的AI作圖流傳最廣的一次，如果能維權(quán)成功糾出源頭，一定程度上可以預(yù)防和震懾懂得用這種科技手段的人?！庇芯W(wǎng)友評論到。

無獨有偶，另一起明星AI換臉事件也在近日引發(fā)關(guān)注。網(wǎng)紅特效合成師洪某利用AI制作合成與女明星迪麗熱巴親吻的影片，將電視劇鏡頭中的男主角替換為自己，隨后他稱被女明星粉絲上門抓傷“破相”。

目前，該賬號相關(guān)視頻已不可見，同時其因違反社區(qū)規(guī)定，私信功能已被關(guān)閉。

有網(wǎng)友表示，如果將視頻中的人隨意換臉，恐怕將對當事人造成很大的困擾，難道掌握了這門技術(shù)就可以隨意換臉嗎？簡直細思極恐。

目前，人工智能生成技術(shù)正在全球掀起一股技術(shù)浪潮，它可以迅速生成文案、圖片和視頻，但由此帶來的虛假信息、隱私、版權(quán)等問題也值得關(guān)注。

“人工智能最令人惡心的應(yīng)用”

AI“一鍵脫衣”其實并不新鮮，但最初更多引發(fā)關(guān)注的是用來“換臉”。明星劉昊然就曾在2021年8月發(fā)文打假，控訴網(wǎng)上流傳的某穢視頻為AI換臉技術(shù)偽造，并向警方報案。

說到AI“一鍵脫衣”，就不得不提到2019年6月國外一款名為DeepNude的應(yīng)用，在發(fā)布僅幾個小時后便因訪問請求過大而宕機。它利用類似Deepfakes的深度學習偽造技術(shù)，會自動分析傳入的照片并辨別出人物衣服的位置，然后通過特定的算法將衣服消除掉，創(chuàng)造出幾可亂真的合成。

隨后這款軟件也在國內(nèi)外引起廣泛的輿論批評，指責其侵犯隱私等。深度學習科學家吳恩達（Andrew Ng）當時還發(fā)文稱，DeepNude是人工智能最令人惡心的應(yīng)用之一。

后來，開發(fā)團隊選擇將該項目關(guān)閉。但后來這款件再次出現(xiàn)在了即時消息應(yīng)用程序Telegram上，并已公開發(fā)布超10萬張，且不包括私下分享傳播的圖片。

美國網(wǎng)絡(luò)安全公司Sensity調(diào)查發(fā)現(xiàn)，這些圖片有70%全部來自社交網(wǎng)絡(luò)中的真實女性，甚至包括未成年人。也就是說，不少人日常在社交媒體中公開分享的照，很可能會被人用來生成。值得注意的是，這款軟件只針對女性，如果上傳一張男性照片，系統(tǒng)也會自動被替換成女性的身體。

面對外界指責，這款軟件的開發(fā)者阿爾貝托公開此前回應(yīng)稱，自己不是偷窺狂，而是技術(shù)的愛好者，并不關(guān)心。但這背后或也有利益驅(qū)使，該應(yīng)用標準版免費，高級版售價為99 美元，但免費用戶合成的照片會打上水印或只有局部，用戶支付1.28美元才可獲得無水印圖片，且使用權(quán)限僅限七天100張。

對于廣受詬病的“一鍵脫衣”等灰色軟件，國內(nèi)各大應(yīng)用商店基本都找不到這些軟件的身影，但在一些網(wǎng)站上仍然存在很多“替代品”，甚至出現(xiàn)了DeepNude的破解版。

搜狐科技搜索發(fā)現(xiàn)，國內(nèi)有游戲網(wǎng)站推出DeepNude軟件合集，包括去衣破解版、中文破解版、手機版等多個版本提供下載，稱可以免費試用，具有一鍵去衣、一鍵換衣、AI換臉等功能。該軟件合集截至到今年1月仍在更新，背后開發(fā)商顯示為龍淵網(wǎng)絡(luò)。

龍淵網(wǎng)絡(luò)是一家游戲發(fā)行公司，成立于2013年11月，由曾在騰訊、盛大創(chuàng)新院工作的李龍飛創(chuàng)辦。據(jù)天眼查，龍淵網(wǎng)絡(luò)自成立以來獲得7次融資，此前還得到過騰訊、創(chuàng)新工場等知名機構(gòu)的投資。2021年5月，工商變更信息顯示，騰訊旗下廣西騰訊創(chuàng)業(yè)投資有限公司入股成為股東。目前該公司出資額約為217萬元，占龍淵網(wǎng)絡(luò)注冊資本近15%，是龍淵網(wǎng)絡(luò)第股東。

此外，通過關(guān)鍵詞搜索還能在不少網(wǎng)站看到具備AI脫衣功能的軟件，有的軟件甚至直接注明AI算法一鍵去衣，還在產(chǎn)品說明頁中有著詳細的軟件特色和亮點的介紹。

實際上，針對AI換臉等系列軟件所帶來的系列問題，國內(nèi)也在進行監(jiān)管。此前，陌陌孵化的AI換臉App“ZAO”不到一周從爆紅刷屏社交圈到深陷輿論旋渦，最終被工信部要求自查整改，要求其依法依規(guī)收集使用用戶信息，強化網(wǎng)絡(luò)數(shù)據(jù)和用戶信息安全保護，防范自有業(yè)務(wù)平臺被利用實施電信網(wǎng)絡(luò)詐騙等風險隱患。但從實際情況來看，有關(guān)現(xiàn)象仍屢禁不止。

AI作惡誰來負責？

AI的發(fā)展解放了人，成為提高生產(chǎn)力的得力工具，但在這個過程中，隨著技術(shù)應(yīng)用的門檻的降低，更多能夠使用技術(shù)的人并不總是正確地應(yīng)用技術(shù)，AI換臉脫衣就是典型。

AI換臉可以追溯到國外一位用戶名為deepfakes的程序員，其通過機器學習算法，將明星的臉與色情視頻演員的臉進行交換，很多歐美知名女明星都曾中招。由于受害者的投訴和外界質(zhì)疑，deepfakes賬號被封殺，但這項技術(shù)的代碼被開源放到GitHub，AI換臉技術(shù)由此被命名為“deepfakes”。

通過開源工具，隨后更是衍生出了fakeapp、faceswap、deepfacelab、deepnude等一系列AI換臉、AI脫衣程序。盡管這些程序聲明只涉及AI技術(shù)的研究，不會濫用，但技術(shù)應(yīng)用門檻的降低，更多人可以參與進來，使得AI換臉、脫衣背后所涉及到的隱私、版權(quán)、倫理的惡性事件正在大量發(fā)生，每個人都可能成為AI作惡的受害者。

對于此次引發(fā)關(guān)注的女性照片被AI一鍵脫衣傳播的事件，就有博主表示，在現(xiàn)今AI強大的算法下，時間、地點都對得上的情況下，偽造的謠言讓普通人百口莫辯。同時，非法利用他人個人信息，編造涉性隱私的虛假信息并予以傳播，是明顯違法行為，情節(jié)嚴重的將構(gòu)成犯罪，涉嫌侵犯當事人的肖像權(quán)、名譽權(quán)。

更有甚者，一些不法分子利用這些軟件用于制造不雅照片和視頻，在網(wǎng)絡(luò)上傳播和售賣，以此牟利或?qū)嵤┰p騙。此前就有報道稱，AI換臉已經(jīng)形成一條黑產(chǎn)鏈條，在某二手平臺，有賣家提供明星換臉色情視頻，甚至可以根據(jù)買家要求進行定制。

當前，隨著人工智能生成技術(shù)浪潮的興起，文本、圖片和視頻的生成越來越變得容易，并已已出現(xiàn)了很多虛假信息。特朗普穿著囚服、下鄉(xiāng)再就業(yè)在街頭拉黃包車，教皇換上羽絨服等都是AI生成的虛假圖片，一度讓許多人都信以為真。

在技術(shù)發(fā)展應(yīng)用的過程中，無法保證使用技術(shù)的人會不會越界，借助AI移花接木、無中生有、肆意偽造，這可能距離人性只有一步之遙。想要擺脫AI造假的困境，這需要監(jiān)管機構(gòu)、技術(shù)公司和應(yīng)用機構(gòu)，乃至每一個人都需要承擔一份責任。

此前，針對AI換臉脫衣等深度合成信息服務(wù)，我國多個部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求深度合成服務(wù)提供者和應(yīng)用商店從源頭上對深度合成內(nèi)容進行把關(guān)，禁止濫用，不得利用深度合成服務(wù)侵犯他人權(quán)益，并要求保護個人信息等。

但從現(xiàn)實來看，AI造假“灰產(chǎn)”仍需加強監(jiān)管。如何保證技術(shù)向善，防止AI作惡，也是其在發(fā)展過程中需要探討并制定行之有效措施的永恒話題。