也許你還記得，在去年六月，有一群中國人利用特效換臉，開始假裝俄羅斯人帶貨。

從室內到戶外，從城市到農村，他們活躍在在每片能支棱起手機拍視頻開直播的土地上，操著一口帶有濃郁方言味的普通話，在商品櫥窗里上鏈接。

他們的視頻和直播里，沒有什么狠活。

總結起來就一句話， “ 我，俄羅斯人，喜歡中國，打錢 ” 。

我本以為，隨著那篇報道的結束，中國人假冒毛子的故事就告一段落。

但我萬萬沒想到，在 2024 年，這個套路他 360 度大升級了。

具體是咋回事呢？

這兩天，一個叫 Olga Loiek 的烏克蘭女孩發(fā)了條視頻，說有個朋友給她發(fā)個鏈接，自己一看，人都傻了。

好家伙，我怎么在中國咔咔帶上貨了？？

原來在小紅書上，有這樣一類賬號，天天就是一個長相完全一致的金發(fā)美女，變著法的講中俄友誼長存，三句離不開謝謝中國。視頻結尾，還會給你介紹下俄羅斯的美食。

而看視頻的老鐵們，自然也要照顧下大妹子的生意。

是的，成百上千萬中國觀眾看到的這張侃侃而談的 “ 臉龐 ” ，就是 Olga Loiek 。

反觀 Olga ，自己還沒在 YouTube 上賺到半毛錢呢。

而且更尷尬的是，臉被別人偷去用來帶貨不說，作為一個烏克蘭人，人設還是個俄羅斯人，帶得還都是人俄羅斯的土特產。。。這找誰說理去。

如果你沒法和這個女孩共情，不妨可以設想一下，一個美國人頂著你的臉，假裝自己是日本人，變著法吹日本。

然后他還利用你的臉，從其他美國人手里，賺了你這輩子都不一定能賺到的錢，在視頻評論區(qū)里，觀眾們刷的都是 “ 你好日本，愛來自美國 ” 。

你氣不氣？

Olga Loiek 也不是唯一一個倒霉蛋，另一位來自瑞典的網(wǎng)紅拉納布萊克利的臉，也被移花接木到了中國人臉上。

在視頻里， “ 她 ” 大談中國人的勤勞善良，并且嫁給中國老公，余生在中國定居。

看完視頻的網(wǎng)友也不知道自己成了即將被噶的韭菜，還在問她喜歡中國哪個城市。

在抽查了幾個被 Olga Loiek 展示的賬號之后，我發(fā)現(xiàn)這些假冒外國人的中國賬號，有些已經(jīng)在各大平臺注銷掉了，但還有一些依舊逍遙法外。

可世上只有千日做賊，哪有千日防賊。

AI 技術的發(fā)展速度，明顯比人類目前的應對速度要快。

在一年前， AI 技術還是被網(wǎng)友嘲笑的對象，網(wǎng)友看了也只會覺得這輩子的恐怖谷效應都犯完了。

然而現(xiàn)在， AI 技術已經(jīng)可以產生以假亂真的效果了。

變化總是在悄無聲息中進行，在 AI 技術日漸進步的今天，眼睛和耳朵，正在逐漸失去辨別能力。

人的知覺，正在信息時代的沖擊下 “ 被退化 ” 。

看到這，估計很多差友會覺得這些事都離自己太遠，比如那個假冒的烏克蘭女孩，懂行的一看就知道了，完全騙不到自己??？

那你再試試這個呢？

如果你比較關注游戲雜談，那你可能還記得一個叫做敖廠長的視頻博主，他因為幾波輿論潮，基本敗完了自己的口碑。

在去年，他先后停止了 B 站和抖音的更新，悄無聲息的從網(wǎng)友的關注列表里消失了。

可就在前兩天，一位 B 站 UP 主用自研 AI 文本轉語音技術，搭配上他原有的文案和剪輯風格，愣是復刻了一整個 UP 主敖廠長出來，給我看恍惚了。

彈幕里都在刷 “ 亡靈法師 ”“ 招魂成功 ” 。

在這個 UP 主頁貼出的網(wǎng)址中，還能找到更多奇奇怪怪的 AI 音聲，比如丁真、科比、孫笑川，以及一些知道這個網(wǎng)站八成要發(fā)律師函的明星們。

那么，使用 AI 生成一個人的音聲，要搜集多少真人的聲音呢？

UP 主在視頻介紹中，給出的答案是：5 秒。

沒錯，你只要說 5 秒鐘的話，你的聲音就可能已經(jīng)被克隆了。

如果以上的技術，能夠用在發(fā)展生產力，推動社會進步上，那勉強還能算是最好的結局。

但你要知道，現(xiàn)在的 AI 技術，已經(jīng)越來越下沉。

第一天出了個厲害的 AI 軟件，第二天使用教程就有博主給你發(fā)抖音了，簡直就是手把手教學，從入坑到精通給你安排的明明白白。

不可否認，這是一件好事，可它也把人心底的陰暗面一點點放大，最后形成公共事件。

前幾天， AI 生成的泰勒斯威夫特虛假不雅照片，在整個網(wǎng)絡上瘋傳，甚至驚動了美國白宮。

白宮新聞發(fā)言人卡里娜 · 讓 - 皮埃爾警告 AI 生成照片的傳播 “ 令人擔憂 ” ，并敦促社交媒體公司防止此類錯誤信息的傳播。

泰勒這事為啥這么爆炸？畢竟早在 PS 時代，就有很多女性飽受換臉的困擾了對吧？

但在 AI 時代，照片里的所有細節(jié)都可以被精心定制。

泰勒這次，就是因為交了一個橄欖球星男朋友，被生成出了在橄欖球更衣室里的照片。。。

換誰不急眼？

后來也是由于類似的圖片過多，推特一度封鎖了對斯威夫特的相關搜索。

為什么全美國因為這事都開始變得神經(jīng)兮兮，因為大家都清楚，今天是泰勒，明天可能就是自己。

而且 AI 干的壞事，也不只是下三路，它的能量比你想的龐大。

在中國香港，發(fā)生過一起 AI“ 深度偽造 ” 詐騙案。

詐騙者就是通過 AI 技術，把網(wǎng)上搜集到的跨國公司總部高層的聲音和面貌，替換到自己身上，然后，簡簡單單從該公司的香港分公司騙走了 2 億港元，甚至，公司財務連老板的人臉和聲音都沒看出來有啥異常。

你以為 AI 也就到這種程度嗎？

別忘了， 2022 年，烏克蘭澤連斯基 “ 呼吁烏克蘭士兵放下武器投降 ” 的視頻在網(wǎng)上傳播。

這條十分整蠱的視頻，逼到烏克蘭國防部都要站出來聲明 “ 這是不可能的 ” 。

由此可見，從個人到團體，甚至是國家之間的，每個能鉆的空子，都成為了 AI 的突破口。

更可怕是，到目前為止，還沒有一個特別好的招兒能防讓住人用 AI 干壞事。

網(wǎng)絡安全業(yè)內人士，i春秋的朋友小傲（ 化名 ）就告訴世超，反 AI 犯罪的難點主要有兩方面，一個是技術層面，一個是經(jīng)濟層面。

在技術層面上， AI 生成內容的識別難度大，特別是 AI 越發(fā)展，肉眼能識別出來的概率也越小，這種時候就只能上機器。

而在經(jīng)濟層面上，用 AI 來犯罪并不是難事也不需要花什么錢，但用 AI 來反 AI 的成本就高了，你得砸錢出力去搞研究。

現(xiàn)階段，國內外有不少監(jiān)管機構和公司在想法子拴住 AI ，去年公安部就端了個用 AI 寫勒索病毒的團伙。

市面上，也有不少檢測 AI 生成內容的工具，但效果還不好說。

像 OpenAI 之前就推出過一款文本檢測工具，但因為檢測錯誤率太高偷偷給下架了。。。

兩年前，微軟還有 BBC 等幾家科技公司和媒體一起合作，成立了個內容來源和真實性聯(lián)盟 ( C2PA ) 。

有了 C2PA 協(xié)議之后，內容是誰創(chuàng)作的，歷史的修改記錄，都會被記錄下來。就相當于給生成的內容，打上了一層看不見的水印。

但用小傲的話來說， C2PA 這玩意屬于防君子不防小人，大廠守規(guī)矩，不代表很多開源調出來的小模型，也會遵守協(xié)議。

而且， C2PA 現(xiàn)在還有不少 Bug ，像一截圖水印就沒了，要生效也得好幾個平臺都使用協(xié)議才行。

所以很殘酷的一個現(xiàn)實是，現(xiàn)階段咱們沒法兒杜絕 AI 干壞事。

關鍵在于， AI 技術發(fā)展得實在是太快了， AI 生成的內容越來越逼真，生成的門檻卻越來越低，就像 Sora 問世后，大家都在說 “ 現(xiàn)實，不存在了 ” 。

不可否認，之后的立法、反 AI 技術肯定會跟上，但這種敵在暗我在明的情況，監(jiān)管就很被動了。

這就像一場貓鼠游戲， AI 知道規(guī)則就會繞過去，人類再設置新的規(guī)則，這場游戲，或許永無止境。

我們能做的，除了多加分辨，就只剩下下載國家反詐中心 App 了。

撰文：張大東&江江編輯：莽山烙鐵頭封面：煥妍