IT之家 3 月 10 日消息，據(jù)《法治日報》近日報道，在一些電商平臺上，有不少做 AI“復(fù)活”生意的商家，標(biāo)價從幾元、幾十元到上百元乃至數(shù)千元。與此同時，近年來，AI 換聲、AI 換臉等詐騙手段也越來越高級，欺騙用戶的情感和錢財。

受訪專家建議，AI“復(fù)活”技術(shù)提供者提供服務(wù)前，應(yīng)明確要求用戶提供相關(guān)證明，并加強(qiáng)技術(shù)防范，避免 AI 產(chǎn)品侵犯他人合法權(quán)益或被用于欺詐等不法行為。相關(guān)部門要加強(qiáng)監(jiān)管，推動建立行業(yè)標(biāo)準(zhǔn)，既保證技術(shù)創(chuàng)新，也要保障人類的價值和尊嚴(yán)。

IT之家此前報道，近日一名男子通過 AI 換臉技術(shù)成功“復(fù)活”去世的父親。視頻中，這名男子為了更像自己的父親，剃掉了胡須，用 AI 換臉錄制視頻，并模仿父親的語氣向自己的奶奶報平安。

無獨有偶，音樂人包小柏也使用了類似的形式來“復(fù)活”已故女兒，通過 AI 技術(shù)制作了“數(shù)位（數(shù)字）女兒”，成功重現(xiàn)愛女的嗓音。

2021 年，包小柏 22 歲的女兒病故，此后包小柏決定攻讀博士、鉆研 AI 相關(guān)技術(shù)，并希望 AI 技術(shù)讓女兒能夠在數(shù)字世界里“復(fù)活”。他希望能夠通過 AI 技術(shù)來重現(xiàn)愛女的嗓音，但由于女兒生前僅留下 3 句與媽媽視頻通話時的英文對話，與錄音室規(guī)模落差太大，AI 專業(yè)工程人員直言“癡人說夢”。但包小柏決定自己鉆研，花費(fèi) 10 個月終于做出了 2 小時的聲紋。

然而，并不是所有人都將這項技術(shù)運(yùn)用到思念親人。以美國為例，2023 年全美老年人因為詐騙而損失了 16 億美元（IT之家備注：當(dāng)前約 115.2 億元人民幣），其中就有許多詐騙是利用 AI 技術(shù)來“克隆”熟人的聲音，以及其他依靠 AI 生成的伎倆。