網(wǎng)易科技報道6月27日消息，最近幾個月，種種跡象表明，互聯(lián)網(wǎng)的風(fēng)向已經(jīng)變了。

谷歌搜索試圖取消經(jīng)典的10個藍(lán)色鏈接頁面、推特被聊天機(jī)器人占領(lǐng)、亞馬遜和TikTok變得垃圾化。各大在線媒體也在不斷縮減人員，而招聘“人工智能編輯”的廣告要求每周產(chǎn)出200至250篇文章。電商網(wǎng)站Etsy上充斥著“AI生產(chǎn)的廢品”。聊天機(jī)器人正參與其中，造成了大量的信息誤導(dǎo)。LinkedIn正在利用AI來吸引疲憊的用戶，Snapchat和Instagram正希望機(jī)器人在你的朋友不在的時候與你交流。Reddit用戶正在抗議，Stack Overflow版主發(fā)起。互聯(lián)網(wǎng)檔案館(Internet Archive) 正在與數(shù)據(jù)爬蟲作斗爭，而“AI正在破壞維基百科”。

舊互聯(lián)網(wǎng)正在消亡，而新互聯(lián)網(wǎng)正在艱難地誕生。

互聯(lián)網(wǎng)一直在消亡，這一點毫不意外。多年以來，應(yīng)用程序一直在奪取網(wǎng)站的流量，而算法則使得人們的注意力時間越來越短。但在2023年，網(wǎng)絡(luò)再次面臨消亡的威脅，人工智能成為新的催化劑。

人工智能超越了互聯(lián)網(wǎng)的規(guī)模能力

多年前，網(wǎng)絡(luò)曾經(jīng)是個人創(chuàng)造內(nèi)容的地方。人們制作主頁、論壇和郵件列表，并從中賺取一些小錢。然后，公司認(rèn)為他們可以做得更好，創(chuàng)建了功能豐富的平臺，向所有人開放。他們提供了一個盒子，我們用文字和圖片填充，其他人來瀏覽。這些公司都在追求規(guī)模效應(yīng)，因為只要有足夠多的人聚集在一起，通常就有賺錢的機(jī)會。但人工智能改變了這一切。

人工智能系統(tǒng)（特別是生成式模型）憑借更多的資金和計算能力，可以輕松擴(kuò)大規(guī)模。它們能夠生成大量的文本、圖像，甚至音樂和視頻。它們的產(chǎn)出可能超過我們所依賴的新聞、信息和娛樂平臺。然而，這些系統(tǒng)的質(zhì)量通常很差，它們是以一種寄生在當(dāng)前網(wǎng)絡(luò)上的方式構(gòu)建的。

這些模型依賴于上一個網(wǎng)絡(luò)時代的數(shù)據(jù)進(jìn)行訓(xùn)練，無法完美地重建這些數(shù)據(jù)。公司從開放的網(wǎng)絡(luò)中抓取信息，將其提煉成機(jī)器生成的內(nèi)容，成本低廉但可靠性不高。然后，這些產(chǎn)品與之前的平臺競爭用戶的注意力。網(wǎng)站和用戶正在關(guān)注這些變化，試圖決定如何適應(yīng)新的趨勢。

近幾個月來，Reddit、維基百科、Stack Overflow和谷歌等受歡迎的網(wǎng)站上的討論和實驗揭示了人工智能系統(tǒng)帶來的壓力。

Reddit宣布大幅提高訪問其API的費用，版主們進(jìn)行抗議。Reddit高管表示，這是對人工智能公司抓取其數(shù)據(jù)的回應(yīng)。Reddit創(chuàng)始人兼首席執(zhí)行官史蒂夫·霍夫曼（Steve Huffman）稱：“Reddit的數(shù)據(jù)庫非常有價值，我們不需要將這些價值全部免費奉獻(xiàn)給全球最大的幾家公司?！贝送?，Reddit試圖在今年晚些時候進(jìn)行IPO之前從該平臺榨取更多收入。Reddit的舉動表明，數(shù)據(jù)抓取對當(dāng)前網(wǎng)絡(luò)既是威脅又是機(jī)遇，并促使公司重新考慮平臺的開放性。

維基百科對數(shù)據(jù)抓取非常熟悉，谷歌長期以來一直使用其信息支持“知識面板”。近年來，這家搜索巨頭開始為這些信息付費。但維基百科的版主們正在討論如何使用功能強(qiáng)大的新人工智能語言模型為網(wǎng)站撰寫文章。他們敏銳地意識到與這些系統(tǒng)相關(guān)的問題，這些系統(tǒng)可能會編造誤導(dǎo)性信息，但他們不得不承認(rèn)它們在速度和范圍方面具有明顯優(yōu)勢。在線社區(qū)教授、《你應(yīng)該相信維基百科嗎?》(Should You Believe Wikipedia?)一書的作者艾米·布魯克曼（Amy Bruckman）表示：“我不認(rèn)為將人工智能生成的內(nèi)容作為初稿有什么錯，但每一點都必須經(jīng)過核實?！?/p>

ChatGPT生成的答案錯誤率很高

Stack Overflow提供了一個類似但更極端的例子。像Reddit一樣，Stack Overflow版主也在，他們同樣擔(dān)心機(jī)器生成內(nèi)容的質(zhì)量。當(dāng)ChatGPT去年上線時，Stack Overflow成為第一個禁止其輸出的主要平臺。版主們當(dāng)時寫道：“盡管ChatGPT生成的答案錯誤率很高，但它們通?？雌饋砜赡苁钦_的，而且答案很容易生成。”由于排序結(jié)果需要花費太多時間，版主們決定完全禁止它。

然而，Stack Overflow的管理層另有打算。此后，該公司通過增加阻止用戶發(fā)布人工智能內(nèi)容所需的證據(jù)，從根本上扭轉(zhuǎn)了這一禁令，并宣布希望利用這項技術(shù)。與Reddit類似，Stack Overflow計劃向那些自己構(gòu)建人工智能工具并收集數(shù)據(jù)的公司收費，可能是為了與它們競爭。Stack Overflow與版主們的爭執(zhí)在于網(wǎng)站的標(biāo)準(zhǔn)以及誰來執(zhí)行這些標(biāo)準(zhǔn)。版主們認(rèn)為人工智能的輸出不可信，但高管們認(rèn)為值得冒險。

然而，與谷歌正在發(fā)生的變化相比，這些困難都顯得微不足道。谷歌搜索為現(xiàn)代網(wǎng)絡(luò)經(jīng)濟(jì)提供了保障，將注意力和收入分散到大部分互聯(lián)網(wǎng)上。隨著Bing AI和ChatGPT作為替代搜索引擎變得越來越流行，谷歌開始采取行動，并試驗用人工智能生成的摘要取代傳統(tǒng)的10個藍(lán)色鏈接。如果谷歌繼續(xù)實施這一計劃，將迎來巨大的變革。

科技網(wǎng)站Tom’s Hardware的總編輯阿夫拉姆·皮爾奇(Avram Piltch)在一篇關(guān)于谷歌人工智能搜索測試版的文章中強(qiáng)調(diào)了其中的某些問題。皮爾奇稱，谷歌的新系統(tǒng)實質(zhì)上是一個“抄襲引擎”。它的人工智能生成摘要經(jīng)常逐字逐句地從網(wǎng)站上文本，但將這些內(nèi)容放在源鏈接上方，導(dǎo)致它們?nèi)狈α髁?。如果這種新的搜索模式成為常態(tài)，它可能會損害整個網(wǎng)絡(luò)。收入拮據(jù)的網(wǎng)站可能會被擠出市場，而谷歌自己也將耗盡可供重新打包的人工生成內(nèi)容。

人工智能領(lǐng)域的變化（基于他人的工作生成廉價的內(nèi)容）正在推動這種變化，如果谷歌繼續(xù)當(dāng)前的人工智能搜索體驗，其影響將很難預(yù)測。這可能破壞我們目前認(rèn)為有用的網(wǎng)絡(luò)，從產(chǎn)品評論到食譜博客、業(yè)余愛好者主頁、新聞媒體和維基。網(wǎng)站可以通過封鎖入口和收費來保護(hù)自己，但這也將對網(wǎng)絡(luò)經(jīng)濟(jì)進(jìn)行巨大重組。最終，谷歌可能會殺死為其創(chuàng)造價值的生態(tài)系統(tǒng)，或者以不可逆轉(zhuǎn)的方式改變它，以至于自己的生存也受到威脅。

然而，如果讓人工智能掌控局面，并開始向大眾提供信息，會發(fā)生什么？會有什么不同嗎？

目前的證據(jù)表明，它會降低網(wǎng)絡(luò)的總體質(zhì)量。正如皮爾奇在他的評論中所指出的那樣，盡管人工智能有重新組合文本的能力，但最終創(chuàng)造底層數(shù)據(jù)的是人類，無論是核實事實的記者，還是遇到電池問題的Reddit用戶，他們樂意分享解決問題的方法。相比之下，人工智能語言模型和聊天機(jī)器人生成的信息往往是不正確的。更棘手的是，當(dāng)它們出錯時，很難發(fā)現(xiàn)這些錯誤。

舉個例子，今年早些時候，筆者研究人工智能代理時發(fā)現(xiàn)了一個問題。這類系統(tǒng)使用像ChatGPT這樣的語言模型，與網(wǎng)絡(luò)服務(wù)連接，代表用戶訂購雜貨或預(yù)訂航班。推特上有很多人都在稱贊這項技術(shù)的潛力，于是筆者想象了一個場景：一家防水鞋公司想要進(jìn)行一些市場調(diào)研，于是便求助AutoGPT(一個建立在OpenAI語言模型之上的系統(tǒng))，來生成一份關(guān)于潛在競爭對手的報告。

生成的內(nèi)容基本上是可預(yù)測的。它列出了五家公司，并列出了它們產(chǎn)品的優(yōu)點和缺點。AutoGPT寫道：“（某某品牌）是一家出色的戶外裝備和鞋類品牌”、“他們的防水鞋有多種樣式”、“他們在市場上的價格具有競爭力”。你可能會認(rèn)為這些內(nèi)容太過陳腐，幾乎沒有用處（你說得沒錯），但是這些信息也是有微妙錯誤的。

人工智能生成內(nèi)容往往隱含錯誤

為了檢查報告內(nèi)容，筆者請Reddit上著名版主克里斯（Chris）進(jìn)行了核對?？死锼贡硎?，這份報告基本上是憑空捏造的。他說：“盡管內(nèi)容很多，但沒有真正的價值。”它沒有提到一些重要因素，比如男女鞋的區(qū)別或所用的面料類型。它錯誤地將網(wǎng)絡(luò)曝光率更高的品牌列為更有價值的品牌?？死锼贡硎?，總的來說，這份報告不專業(yè)，大部分都是猜測。“如果有人問我同樣的問題，我會給出完全不同的答案，”他說?！敖邮苋斯ぶ悄艿慕ㄗh，很可能會導(dǎo)致腳受傷?！?/p>

這與Stack Overflow版主們的抱怨相似，他們認(rèn)為人工智能生成的錯誤信息是隱蔽的，因為通常不容易發(fā)現(xiàn)。人工智能系統(tǒng)給出的報告看起來很好，但沒有基于現(xiàn)實世界的經(jīng)驗，所以需要時間和專業(yè)知識進(jìn)行分析。如果機(jī)器生成的內(nèi)容取代了人類的創(chuàng)作，我們將很難（甚至不可能）完全描繪出這種損害。是的，人類也會創(chuàng)造大量錯誤信息，但如果人工智能系統(tǒng)扼殺了目前人類專業(yè)知識蓬勃發(fā)展的平臺，那么糾正我們集體錯誤的機(jī)會就會減少。

人工智能對網(wǎng)絡(luò)的影響無法簡單概括。即使在上述幾個例子中，也有許多不同的機(jī)制在起作用。在某些情況下，人工智能的威脅似乎被用來為其他原因所期望的改變辯護(hù)（比如Reddit），而在其他情況下，人工智能是創(chuàng)造網(wǎng)站價值的人和運營網(wǎng)站的人之間斗爭的武器（比如Stack Overflow）。在其他領(lǐng)域，人工智能填滿盒子的能力也產(chǎn)生了不同的影響，從試圖讓人工智能參與的社交網(wǎng)絡(luò)，到人工智能生成的垃圾與其他商品競爭的購物網(wǎng)站。

在每一種情況下，人工智能的擴(kuò)展能力都改變了平臺。許多最成功的網(wǎng)站都是利用規(guī)模優(yōu)勢的網(wǎng)站，它們要么增加社交聯(lián)系或產(chǎn)品選擇，要么對構(gòu)成互聯(lián)網(wǎng)本身的大量信息進(jìn)行分類。但這種規(guī)模依賴于大量的人類來創(chuàng)造潛在價值，而在大規(guī)模生產(chǎn)方面，人類無法擊敗人工智能。

機(jī)器學(xué)習(xí)領(lǐng)域有一篇著名的文章，名為《痛苦的教訓(xùn)》(theBitter Lesson)。指出，幾十年的研究證明，改進(jìn)人工智能系統(tǒng)的最佳方式不是試圖設(shè)計智能，而是簡單地投入更多的計算機(jī)能力和數(shù)據(jù)。這是一個痛苦的教訓(xùn)，因為它表明機(jī)器規(guī)模勝過人類管理。同樣的道理也適用于網(wǎng)絡(luò)。

但這一定是壞事嗎？如果我們所知道的網(wǎng)絡(luò)在面對人工豐裕時發(fā)生了變化，結(jié)果會如何？有些人會說，這就是世界運行的方式，他們指出，網(wǎng)絡(luò)本身也扼殺了它之前的東西，而且往往是向好的方向發(fā)展。例如，印刷版百科全書幾乎絕跡了，但我更喜歡維基百科的廣度和可訪問性，而不是大英百科全書的分量和保證。對于與人工智能生成內(nèi)容相關(guān)的所有問題，也有很多方法可以改進(jìn)它，比如改進(jìn)引用功能、增加人類監(jiān)督等。此外，即使網(wǎng)絡(luò)上充斥著人工智能垃圾，也可能被證明是有益的，可以資金更充足的平臺發(fā)展。例如，如果谷歌在搜索中總是提供垃圾結(jié)果，你可能更傾向于為你信任的資源付費，并直接訪問它們。

事實上，人工智能目前引發(fā)的變化只是網(wǎng)絡(luò)歷史上長期斗爭中的最新進(jìn)展。從本質(zhì)上講，這是一場關(guān)于信息的，關(guān)于誰在制造信息，你如何獲取信息，以及誰得到報酬。但是，僅僅因為這場戰(zhàn)斗是熟悉的，并不意味著它不重要，也不能保證接下來的系統(tǒng)會比我們現(xiàn)在的系統(tǒng)更好。新的網(wǎng)絡(luò)正艱難地誕生，而我們現(xiàn)在所做出的決定將決定它的發(fā)展方式。