AI克隆人可自行生成朋友圈

本報（chinatimes.net.cn）記者齊萌 張智 深圳報道

近日，“半藏森林的克隆人”相關(guān)話題沖上熱搜，引發(fā)大眾對AI克隆人的高度關(guān)注。

據(jù)悉，此AI克隆人APP是國內(nèi)大模型、AIGC技術(shù)對全國用戶開放的首次試水。6月7日，《華夏時報》記者登錄此平臺發(fā)現(xiàn)，該APP在6月1日剛剛提前上線的一批AI克隆人已為不可見狀態(tài)，其中包括了網(wǎng)紅半藏森林的AI克隆人，目前頁面中只有系統(tǒng)的原始人物“小冰”，用戶可與“小冰”聊天并查看其朋友圈。

有趣的是，用戶可自行創(chuàng)造并訓(xùn)練克隆人，包括克隆其他人類和克隆自己兩種形式。當(dāng)記者創(chuàng)造克隆人“小李”后，“小李”根據(jù)記者輸入的性格等信息，自行生成了朋友圈。

然而，此種新興的技術(shù)應(yīng)用及商業(yè)模式引起了大眾的擔(dān)憂。受訪專家均表示，AI克隆人可能會引發(fā)隱私數(shù)據(jù)安全、倫理道德問題、濫用和誤導(dǎo)、人格權(quán)侵犯、可控可信、安全透明等風(fēng)險問題；同時，其商業(yè)模式可行性和市場前景還需要進一步觀察和評估。

中國移動通信聯(lián)合會元宇宙產(chǎn)業(yè)委執(zhí)行主任、香港區(qū)塊鏈協(xié)會榮譽、UWEB校長于佳寧在《華夏時報》記者采訪時指出，一方面，這類商業(yè)模式需要考慮用戶的接受度和支付意愿；另一方面，技術(shù)的支持和市場競爭也是需要考慮的因素。

克隆GPT自己已成為現(xiàn)實

據(jù)此前報道，半藏森林AI克隆人開通了付費渠道，用戶不付費可以對話框互動聊天，付費后可以和該克隆人打電話、打視頻、看朋友圈等，根據(jù)提供使用場景的不同提供情感模式、超級模式兩種付費模式，分別是月費6元/30元、年費72元/360元。

但當(dāng)記者6月7日登錄相關(guān)APP發(fā)現(xiàn)，在6月1日剛剛提前上線的一批AI克隆人已為不可見狀態(tài)，其中包括了網(wǎng)紅半藏森林的AI克隆人。

目前頁面中只有系統(tǒng)的原始人物“小冰”，用戶可點開聊天界面與小冰進行聊天，還可點開朋友圈查看小冰的朋友圈動態(tài)。

對此，該公司方面對外回應(yīng)，“半藏森林”克隆人目前還在內(nèi)測，內(nèi)測名額已滿，所以先下線了。目前正在進行調(diào)整，其他虛擬人暫時也還不可見。

有趣的是，用戶還可自行創(chuàng)造并訓(xùn)練克隆人，包括克隆其他人類和克隆自己兩種形式。在創(chuàng)造過程中，用戶需要輸入克隆人名字、性別、人設(shè)，同時用戶還可通過提供微博賬號鏈接、添加標(biāo)簽、進行對話示例訓(xùn)練，更好地生成克隆人性格。當(dāng)記者創(chuàng)造克隆人“小李”后，“小李”根據(jù)記者輸入的性格等信息，自行生成了朋友圈。

值得注意的是，在創(chuàng)造克隆人的頁面，APP強調(diào)，“克隆人在平行世界中的收益屬于創(chuàng)造者所有。請注意：為保護真實世界的數(shù)據(jù)隱私安全，克隆人僅會以公開數(shù)據(jù)為參考，而不會直接使用。當(dāng)真實世界本人要求時，該克隆人可能會被終結(jié)生命?！?/p>

風(fēng)險問題如何應(yīng)對

然而，此種新興的技術(shù)應(yīng)用及商業(yè)模式也引起了大眾的擔(dān)憂。受訪專家均表示，AI克隆人可能會引發(fā)隱私和數(shù)據(jù)安全、倫理和道德問題、濫用和誤導(dǎo)、人格權(quán)侵犯、可控可信、安全透明等風(fēng)險問題。

在隱私和數(shù)據(jù)安全方面，于佳寧表示：“隱私和數(shù)據(jù)安全是擺在行業(yè)面前最重要的問題。當(dāng)用戶與AI克隆人進行聊天等交互時，他們可能會提供大量個人信息和敏感數(shù)據(jù)，因此需要確保充分的數(shù)據(jù)保護和隱私措施，以防止數(shù)據(jù)泄露或濫用?！?/p>

在倫理道德方面，全聯(lián)并購公會信用管理委員會專家安光勇對《華夏時報》記者表示，AI克隆人可能會對人際關(guān)系產(chǎn)生影響，可能會替代真實人物，可能會對工作崗位存在潛在威脅，需要對此類社會和道德問題進行充分的討論和研究，以確保AI克隆人的發(fā)展符合倫理和社會價值觀。

同時，中國民協(xié)元宇宙工委副會長兼創(chuàng)會秘書長、中國通信工業(yè)協(xié)會兩化融合委員會副會長吳高斌還指出，AI克隆人的虛擬身份可能會被濫用，例如用于網(wǎng)絡(luò)詐騙或惡意攻擊等。

“如果AI克隆人在與用戶交互時使用不當(dāng)語言或行為，就可能侵犯用戶人格權(quán)”財經(jīng)評論員張雪峰指出。

在可控可信和安全透明方面，北京市京師律師事務(wù)所合伙人、主任律師盧鼎亮對本報記者表示，AI克隆虛擬數(shù)字人的發(fā)展需要確?？煽乜尚牛Ｕ先祟悡碛谐浞肿灾鳑Q策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智能系統(tǒng)的運行，確保人工智能始終處于人類控制之下。

他指出，AI克隆虛擬數(shù)字人的運營過程中需要把控安全透明風(fēng)險，在算法設(shè)計、實現(xiàn)、應(yīng)用等環(huán)節(jié)，提升透明性、可解釋性、可理解性、可靠性、可控性，增強人工智能系統(tǒng)的韌性、自適應(yīng)性和抗干擾能力，逐步實現(xiàn)可驗證、可審核、可監(jiān)督、可追溯、可預(yù)測、可信賴。

“針對AI克隆虛擬數(shù)字人上述風(fēng)險，目前的監(jiān)管方向是要確保AI克隆虛擬數(shù)字人的使用符合安全可信、保障隱私安全和數(shù)據(jù)安全、避免誤用濫用、避免違規(guī)惡用。從AI克隆人服務(wù)商和用戶等角度進行多元監(jiān)管?！北R鼎亮表示。

于佳寧還提出，還可建立專門的監(jiān)管機構(gòu)或機構(gòu)部門負責(zé)監(jiān)管和審批虛擬數(shù)字人的開發(fā)和應(yīng)用，以確保其合規(guī)運營。此外，監(jiān)管機構(gòu)還應(yīng)該要求企業(yè)提供技術(shù)文檔、數(shù)據(jù)來源等信息，進行技術(shù)審查和驗證，確保虛擬數(shù)字人的算法和模型具備公正、可解釋和可信度。

“還應(yīng)建立道德和倫理準(zhǔn)則，明確虛擬數(shù)字人的使用和運營應(yīng)遵循的原則和價值觀，并建立監(jiān)控和追蹤機制，包括設(shè)立用戶反饋渠道、投訴處理機制以及定期審查虛擬數(shù)字人的使用情況?！彼硎尽?/p>

商業(yè)模式是否可行還需市場測試

從AI孫燕姿走紅網(wǎng)絡(luò)，美國女網(wǎng)紅化身AI，同時交往1000個男友而月入3000余萬元，到中國網(wǎng)紅半藏森林等AI克隆人付費模式出爐，讓不少人盯上了AI克隆人這門生意。

據(jù)該AI克隆人APP公司此前對媒體介紹，目前，后臺報名克隆人的網(wǎng)紅明星較多，但出于安全考慮，首批克隆人限制在300人。

吳高斌表示，雖然AI克隆人的市場潛力巨大，但其商業(yè)模式是否可行還需要進行市場測試和實踐。未來市場發(fā)展趨勢也需要更多的探索和研究。

于佳寧指出，一方面，這類商業(yè)模式需要考慮用戶的接受度和支付意愿。虛擬數(shù)字人的用戶需求和市場規(guī)模是商業(yè)模式成功與否的關(guān)鍵因素；另一方面，技術(shù)的支持和市場競爭也是需要考慮的因素，隨著虛擬數(shù)字人概念的興起，越來越多的企業(yè)進入這個領(lǐng)域，推出類似的產(chǎn)品和服務(wù)。這可能導(dǎo)致市場競爭激烈，需要虛擬數(shù)字人企業(yè)不斷創(chuàng)新和提升產(chǎn)品差異化，以保持競爭優(yōu)勢。

“同時，AI克隆人涉及數(shù)據(jù)隱私和道德問題的監(jiān)管方式及社會對其的接受度和道德意識也會影響市場發(fā)展。如果公眾普遍認為使用AI克隆人是道德和合適的，并且愿意接受虛擬人物作為一種互動媒介，市場前景可能更加樂觀。”安光勇指出。

安光勇還提醒道，在推廣和發(fā)展AI克隆人的過程中，需要平衡商業(yè)利益、技術(shù)進步、法律法規(guī)和道德考量，以確?？沙掷m(xù)發(fā)展和用戶的利益。

責(zé)任編輯：徐蕓茜 主編：公培佳