編者按：伴隨著最近c(diǎn)hatGTP爆火網(wǎng)絡(luò)，AI已經(jīng)逐步滲透教育、生活、工作、就業(yè)、金融等各大領(lǐng)域。但與此同時(shí)，人們對(duì)人工智能飛速發(fā)展帶來的隱患也愈發(fā)擔(dān)憂。究竟AI是科技進(jìn)步的象征還是人類的威脅？文章來自翻譯，希望能對(duì)你有所啟示。

幾十年來，研究人員和科學(xué)家們一直在探索人工智能成為人類助理、導(dǎo)師和顧問的未來生活。早在1987年，蘋果公司就提出了Knowledge Navigator(知識(shí)導(dǎo)航儀)的概念。我似乎還記得上世紀(jì)90年代參加麻省理工學(xué)院媒體實(shí)驗(yàn)室關(guān)于軟件代理的活動(dòng)時(shí)，主持人戴著圓頂硬禮帽，以管家的形象出現(xiàn)。隨著生成式人工智能的出現(xiàn)，軟件作為人類助手的模糊愿景突然變得清晰起來。WIRED 的威爾·奈特（Will Knight）本周概述了目前已有的技術(shù)和即將出現(xiàn)的技術(shù)。

注冊(cè)Plaintext，利用 Steven 的獨(dú)特見解和無與倫比的人脈，從長遠(yuǎn)角度了解科技。

我關(guān)心的是，從長遠(yuǎn)來看，這將如何改變我們，以及我們與他人的關(guān)系。我們與他人的許多互動(dòng)將由機(jī)器人代替我們進(jìn)行。機(jī)器人助手與人類助手不同的是：它們不會(huì)休息，它們可以立即秒回信息。我們使用它們的次數(shù)越多，我們就越容易離不開它們。

目前人工智能助手仍不完善。我們還沒有達(dá)到智能機(jī)器人能夠接管那些復(fù)雜且容易出錯(cuò)的事情，比如訂機(jī)票、預(yù)約醫(yī)生和管理金融投資組合。但這種情況將會(huì)改變，因?yàn)樗谶M(jìn)步。我們似乎注定要像長途航空公司的飛行員那樣生活——在設(shè)定了某條固定航線后，就可以讓人工智能駕駛飛機(jī)，從而解放我們的雙手。只有在必要時(shí)，切換到手動(dòng)模式即可。但令人擔(dān)心的是，最終決定飛機(jī)飛行方向的可能是人工智能機(jī)器人。

拋開世界末日論不談，我們所有人都將不得不應(yīng)對(duì)他人的超級(jí)聰明、可能具有操控欲的代理人。我們將把自己的日?；顒?dòng)和日常選擇的控制權(quán)，從購物清單到約會(huì)日程，交給人工智能助手，他們也將與我們的家人、朋友和陌生人的代理人進(jìn)行互動(dòng)。隨著它們?cè)絹碓骄哂歇?dú)立性，我們的智能助手可能最終會(huì)代表我們做出不好的決定或交易。

為了獲得對(duì)未來的樂觀看法，我咨詢了穆斯塔法·蘇萊曼(Mustafa Suleyman)。他是人工智能初創(chuàng)公司DeepMind的聯(lián)合創(chuàng)始人，現(xiàn)在是谷歌人工智能開發(fā)的核心，他現(xiàn)在是Inflection的首席執(zhí)行官。AI是一家開發(fā)聊天機(jī)器人的公司。最近，蘇萊曼的著作《即將到來的浪潮》(The Coming Wave)登上了《紐約時(shí)報(bào)》(New York Times)暢銷書排行榜，該書提出了人類如何應(yīng)對(duì)人工智能帶來的生存危險(xiǎn)。總的來說，他是一個(gè)樂觀主義者，當(dāng)然對(duì)軟件代理的前景也很樂觀。他將自己公司制造的機(jī)器人“派”（ Pi）描述為個(gè)人的“幕僚長”，不僅為人類提供智慧，還提供善解人意的鼓勵(lì)和支持。

蘇萊曼說：“如今，派不能幫你訂餐廳、安排汽車，也不能幫你買東西。但在未來，它將有合同和法律代理權(quán)限，這意味著你將授權(quán)派能夠代表自己簽訂合同，花你的錢，并將你約束在現(xiàn)實(shí)世界的實(shí)質(zhì)性協(xié)議中?！贝送?，派還將代表其所有者打電話，并與客戶服務(wù)代理進(jìn)行談判。

這似乎很公平，因?yàn)楝F(xiàn)在太多的服務(wù)代理已經(jīng)是機(jī)器人了，也許是被設(shè)計(jì)出來的？——不接受企業(yè)雇主欺騙自己客戶。不可避免地，在生活的各個(gè)領(lǐng)域，人工智能助手之間要進(jìn)行談判。蘇萊曼承認(rèn)，我們不希望這些機(jī)器人彼此之間過于親密，也不希望它們以人類無法知曉的方式互動(dòng)。蘇萊曼說：“我們實(shí)際上希望人工智能與人工智能之間的交流僅限于簡單的英語。這樣，我們就可以掌控它們?！?/p>

這是一個(gè)善意的擔(dān)憂，但它可能會(huì)迫使代理工作效率變慢，甚至可能阻止我們的超級(jí)智能助手可能提出的一些更具創(chuàng)新性的解決方案。我懷疑，讓人工智能與人工智能之間的交流變得高效和有效會(huì)壓抑這種美好的情感。

另一個(gè)潛在的危害是廣告資助的機(jī)器人將用戶引導(dǎo)到受贊助的產(chǎn)品和服務(wù)。蘇萊曼不喜歡這一點(diǎn)，但他似乎不排除這種可能性。他說，他器人能帶來巨大的價(jià)值，而且價(jià)值不菲。通常我們每小時(shí)付給律師數(shù)百美元，但出于某種原因，我對(duì)于每月支付超過10美元的任何在線服務(wù)都很敏感。這種情況必須改變。那么，那些負(fù)擔(dān)不起費(fèi)用的用戶是否會(huì)被提供無廣告版本呢？他承認(rèn)，并非所有人都愿意為這項(xiàng)技術(shù)付費(fèi)。蘇萊曼說，無論如何，信任和問責(zé)是至關(guān)重要的。他說：“我們還需要很多年才能對(duì)人工智能的自主行為完全放心和滿意，我認(rèn)為短期內(nèi)我們不應(yīng)該這么做。”

技術(shù)將使個(gè)人更強(qiáng)大——我擔(dān)心的一個(gè)問題是，人們會(huì)用這種力量做什么?

喬納森·格拉奇，Jonathan gratch，南加州大學(xué)

對(duì)我來說，這就是我所擔(dān)心的。一旦我們安于現(xiàn)狀了，我們就完蛋了。當(dāng)我在瀏覽研究論文時(shí)，我的注意力被標(biāo)題“傷害的力量：人工智能助手為不道德行為鋪平道路”吸引了。這篇論文由南加州大學(xué)科學(xué)家喬納森-格拉奇（Jonathan Gratch）和納塔內(nèi)爾-法斯特（Nathanael Fast）合著，假設(shè)智能代理可以將富人的不良習(xí)慣民主化，富人通過律師、發(fā)言人和惡棍下屬外包他們的不良行為。他們寫道：“我們回顧了一系列研究，這些研究說明了在廣泛的社會(huì)任務(wù)中，當(dāng)人們通過人工智能代理采取行動(dòng)時(shí)，他們的行為可能更不道德，也更愿意欺騙他人?！?/p>

我找到了格拉奇，他在德國維爾茨堡的一個(gè)會(huì)議上接受了我的采訪?！懊總€(gè)男人或女人都可以讓他們的私人助理代表他們做事，”他說，“我們的研究表明，人們可能更愿意讓助手去做一些道德上有問題的事情，而不是他們自己愿意做的事情?！?/p>

格拉奇多年來一直在研究智能代理可能產(chǎn)生的影響。在過去的一年里，這一領(lǐng)域發(fā)生了巨大的變化。他說：“過去，你要花整篇博士論文的時(shí)間來構(gòu)建你想測(cè)試的那個(gè)該死的代理。而現(xiàn)在，只要花兩天時(shí)間利用GPT或其他東西，你就能得到一些非常有價(jià)值的內(nèi)容信息”。格拉奇說，“他所在的領(lǐng)域現(xiàn)在充滿了興奮和擔(dān)憂?！?/p>

他說：“這項(xiàng)技術(shù)將使個(gè)人變得更加強(qiáng)大，從而為人們帶來更多的自由時(shí)間。我擔(dān)心的是，人們?nèi)绾卫眠@種力量？例如，他說，如果我指示代理人代表我給某個(gè)與打電話，就會(huì)失去潛在的人際聯(lián)系?！备窭嬲f："這些人際關(guān)系是我們保持友好和促進(jìn)共鳴的基礎(chǔ)。當(dāng)人工智能使其更多地涉及算法、法律和交易時(shí)，它就會(huì)削弱我們作為人的作用。”

格拉奇的領(lǐng)域曾經(jīng)以假設(shè)為中心，而現(xiàn)在卻能讓人感覺到，它就像一本指南，指引著即將到來的商業(yè)人工智能服務(wù)。請(qǐng)看維爾茨堡會(huì)議上的一些演講：“代理在人類代理談判中的體現(xiàn)效果”，“在保持虛擬酒精濫用顧問安全的同時(shí)適應(yīng)用戶表達(dá)”，“融洽關(guān)系對(duì)虛擬代理授權(quán)的影響”。令人欣慰的是，其他論文是關(guān)于在一個(gè)充滿智能代理的世界中如何保持道德。格拉奇最近在麻省理工學(xué)院參加的一次會(huì)議上也看到了類似的文章。他說，所有大型科技公司都在那里，他希望這些公司能雇用他的學(xué)生。

格拉奇介紹說，在本周的一次會(huì)議上，研究人員探討了人工智能軟件如何通過情感或非語言行為或手勢(shì)來操縱人們，并找到最有效的技術(shù)。他說：“你可以對(duì)ChatGPT進(jìn)行微調(diào)，讓它做到這一切，然后以更高的價(jià)格賣給你。你覺得自己被賦予權(quán)力了嗎？”

時(shí)間旅行

2010年12月，《連線》搶先一步宣布：“人工智能革命開始了?！痹谖业奈恼轮?，我談到了弄清楚人工智能產(chǎn)品的用途的困難，即使它們做得很好。

我們正在與機(jī)器進(jìn)行一場(chǎng)持久戰(zhàn)。然而，由于機(jī)器人的行為不是基于人類的思維過程，我們往往無力解釋它們的行為。由科學(xué)家斯蒂芬·沃爾夫勒姆創(chuàng)建的網(wǎng)站W(wǎng)olfram Alpha可以解決許多數(shù)學(xué)問題。它似乎也顯示了這些答案是如何得出的。但人類看到的邏輯步驟與網(wǎng)站的實(shí)際計(jì)算完全不同?！八蛔鋈魏瓮评?，”Wolfram說?！澳切┎襟E純粹是假的。我們想，我們?nèi)绾蜗蚰切┤私忉屵@一點(diǎn)?”

我們得到的教訓(xùn)是，人工智能有時(shí)不得不遷就我們，否則它們會(huì)把我們嚇壞。埃里克·霍維茨(Eric horvitz)現(xiàn)在是微軟(Microsoft)的高級(jí)研究員，也是人工智能促進(jìn)協(xié)會(huì)(Association for the Advancement of Artificial intelligence)的前。他在上世紀(jì)80年代幫助建立了一個(gè)人工智能系統(tǒng)，幫助病理學(xué)家進(jìn)行研究，分析每個(gè)結(jié)果，并建議下一步要進(jìn)行的測(cè)試。只有一個(gè)問題——它給出答案的速度太快了。霍維茨說：“我們發(fā)現(xiàn)，如果給它們加一個(gè)延遲時(shí)間，人們就會(huì)更相信它，就好像它是經(jīng)過認(rèn)真思考才想出的答案?！?/p>

但我們必須學(xué)會(huì)適應(yīng)。人工智能對(duì)一些系統(tǒng)至關(guān)重要，比如金融基礎(chǔ)設(shè)施，要擺脫它比簡單地?cái)嚅_HAL 9000的模塊要困難得多?！皬哪撤N意義上說，你可以說科幻中的場(chǎng)景已經(jīng)開始發(fā)生了，”思維機(jī)器公司的希利斯說?！半娔X掌控著一切，而我們只是生活在它們的世界里?！盬olfram說，隨著人工智能承擔(dān)新的任務(wù)，這個(gè)難題將會(huì)加劇，進(jìn)一步超出人類的理解范圍。他問道：“你監(jiān)管底層算法嗎?這太瘋狂了，因?yàn)樵诖蠖鄶?shù)情況下，你無法預(yù)見算產(chǎn)生什么后果。”

問答環(huán)節(jié)

香蒂（Shanti）問：“電子郵件還會(huì)有后繼者嗎？”

謝謝你的問題，香蒂。電子郵件已過時(shí)了?，F(xiàn)在，人們可以通過短信、社交網(wǎng)絡(luò)上的直接消息或Slack來接收信息。我認(rèn)為，其他軟件的出現(xiàn)將進(jìn)一步削弱電子郵件曾經(jīng)的地位。我記得比爾·蓋茨有一次到我在《新聞周刊》的辦公室拜訪我，告訴我垃圾郵件問題將在一年內(nèi)被解決。 再過幾個(gè)月，我將迎來拜訪的20周年紀(jì)念日，而我每天都會(huì)收到幾十封垃圾郵件，其中有很大一部分都躲過了垃圾郵件過濾器的攔截。

拋開垃圾郵件不談，我其實(shí)仍舊喜歡使用電子郵件接受信息。很難想象還有比這更簡單的方式發(fā)送或接收文件，或搜索互動(dòng)信息。

另一方面，如果有人建議對(duì)那些單方面將我加入郵件列表（尤其是商業(yè)郵件列表）的人處以強(qiáng)制性最低刑罰，我也不會(huì)反對(duì)。

寫在最后

除了提供建議和與客服人員爭論，機(jī)器人還能寫作。

Dall-E 3讓插畫家失業(yè)變得更容易。

發(fā)明CRISPR-Cas9基因組編輯方法對(duì)諾貝爾獎(jiǎng)得主詹妮弗·杜德納來說還不夠，她現(xiàn)在正研究微生物進(jìn)行基因編輯。

特斯拉創(chuàng)始人埃隆·馬斯克創(chuàng)辦的大腦芯片公司Neuralink被指控虐待猴子。

譯者：Araon_