·“在人工智能取代你所有的工作之前，它肯定會在垃圾郵件發(fā)送者手中造成很大的損害，這些人想要操縱選舉。”

·大型科技公司對AI研究的控制如此之大，以至于就職這些公司的許多科學(xué)家害怕表達(dá)他們的擔(dān)憂，因?yàn)閾?dān)心會損害職業(yè)前景。

美國監(jiān)管人工智能的行動上升到白宮層面。當(dāng)?shù)貢r間5月4日，美國副卡馬拉·哈里斯（Kamala Harris）將與頂級人工智能企業(yè)Alphabet（谷歌母公司）、微軟、OpenAI和Anthropic的首席執(zhí)行官會面，向企業(yè)施壓以圍繞AI實(shí)施保障措施。

同時，美國聯(lián)邦貿(mào)易委員會（FTC）莉娜·汗（Lina Khan）在《紐約時報》撰文稱，必須監(jiān)管人工智能，保護(hù)美國人免受不公平或欺詐行為的侵害。

美國聯(lián)邦貿(mào)易委員會莉娜·汗。

繼“人工智能教父”杰夫里·辛頓（Geoffrey Hinton）發(fā)出警報后，微軟首席經(jīng)濟(jì)學(xué)家邁克爾·施瓦茨（Michael Schwarz）當(dāng)?shù)貢r間5月3日表示，相信人工智能將被不良分子利用，造成真正的破壞。

英國也對AI市場展開審查

彭博社援引一位白宮官員的話稱，哈里斯和政府官員計劃告訴上述科技企業(yè)領(lǐng)導(dǎo)人，他們有責(zé)任減輕人工智能工具的潛在危害。

這次會面的邀請函稱，美國政府正在尋求“坦誠討論我們每個人在當(dāng)前和近期人工智能發(fā)展中看到的風(fēng)險、減輕這些風(fēng)險的行動，以及我們可以共同努力以確保美國人民受益于人工智能的進(jìn)步，同時免受其危害?！?/p>

除副外，白宮辦公廳主任杰夫·齊恩茨、商務(wù)部長吉娜·雷蒙多、國家安全顧問杰克·沙利文和拜登的技術(shù)顧問阿拉蒂·普拉巴卡爾預(yù)計將出席。拜登的經(jīng)濟(jì)顧問萊爾·布雷納德、高級顧問蘇珊·賴斯和布魯斯·里德以及白宮顧問斯圖爾特·德勒里也將參加會議。

白宮官員說，這次會議是讓企業(yè)、研究人員和民間社會參與進(jìn)來的更廣泛努力的一部分。

在ChatGPT發(fā)布后，最近幾個月全球生成式人工智能工具的使用激增，批評者對這項(xiàng)技術(shù)提出了擔(dān)憂，包括可能存在的偏見、侵犯隱私、導(dǎo)致錯誤信息或詐騙蔓延。

上周，七國集團(tuán)數(shù)字與技術(shù)部長會議同意對人工智能采取“基于風(fēng)險的”監(jiān)管。而歐盟立法者也就人工智能法案達(dá)成了初步協(xié)議。

據(jù)《金融時報》當(dāng)?shù)貢r間5月3日報道，英國競爭和市場管理局（CMA）將對人工智能市場展開審查。該機(jī)構(gòu)負(fù)責(zé)人薩拉·卡德爾（Sarah Cardell）表示，CMA將審查“基礎(chǔ)模型”以及“圍繞這些模型的市場如何發(fā)展”。CMA將評估“該領(lǐng)域的真正機(jī)會”，同時“在確保競爭有效運(yùn)作和消費(fèi)者得到保護(hù)方面，我們應(yīng)該制定什么樣的護(hù)欄措施和原則”。

而在美國，商務(wù)部4月曾表示正在考慮要求AI模型在發(fā)布前經(jīng)過認(rèn)證程序的法規(guī)。

“正面臨另一個選擇時刻”

當(dāng)?shù)貢r間5月3日，美國聯(lián)邦貿(mào)易委員會莉娜·汗撰文稱，“由于生成式人工智能的快速發(fā)展，我們中的許多人現(xiàn)在已經(jīng)體驗(yàn)了這種潛在的革命性技術(shù)，它對世界各地人們的生活、工作和交流方式產(chǎn)生了巨大影響。生成式人工智能的全部潛力仍有待商榷，但毫無疑問它將具有高度破壞性?！?/p>

汗回憶了2000年代中期Web 2.0時代的到來，像Facebook和谷歌這樣的新興創(chuàng)新公司徹底改變了通信方式，并為快速增長的用戶群提供了流行的服務(wù)。然而，這些創(chuàng)新服務(wù)的成本很高?！拔覀冏畛踉O(shè)想的免費(fèi)服務(wù)是通過對使用這些服務(wù)的人員和企業(yè)進(jìn)行廣泛監(jiān)控而變現(xiàn)的。其結(jié)果是出現(xiàn)了在線經(jīng)濟(jì)，在這種經(jīng)濟(jì)中，越來越多基本服務(wù)的獲取取決于我們個人數(shù)據(jù)的廣泛囤積和銷售?！?/p>

“這些商業(yè)模式驅(qū)使企業(yè)開發(fā)無休止的侵入性方式來跟蹤我們，聯(lián)邦貿(mào)易委員會后來找到理由確認(rèn)其中幾家公司違法了。再加上收購或鎖定威脅其地位的公司的激進(jìn)戰(zhàn)略，這些策略鞏固了少數(shù)公司的主導(dǎo)地位?！焙箤懙溃白畛跏且唤M革命性的技術(shù)，最終將巨大的私人權(quán)力集中在關(guān)鍵服務(wù)上，并鎖定了以我們的隱私和安全為代價的商業(yè)模式。”

而現(xiàn)在，正面臨另一個選擇時刻?！叭斯ぶ悄艿膹V泛采用存在進(jìn)一步鎖定現(xiàn)有大型科技公司市場主導(dǎo)地位的風(fēng)險。少數(shù)強(qiáng)大的企業(yè)控制著初創(chuàng)企業(yè)和其他公司開發(fā)和部署人工智能所需的必要原材料、工具，這包括云服務(wù)和計算能力，以及海量數(shù)據(jù)存儲?！焙箤懙?，占主導(dǎo)地位的公司可以利用對這些關(guān)鍵投入的控制來排除或歧視下游競爭對手，與此同時，AI企業(yè)用來為各種商品定價的工具可能會助長抬高價格的串通行為，以及精準(zhǔn)定位的價格歧視。

此外，汗表示，AI可能還沒有準(zhǔn)備好取代專業(yè)作家，但已經(jīng)可以比騙子更好地制作看似真實(shí)的信息，甚至指示機(jī)器人使用針對特定群體和社區(qū)的單詞或短語。例如，詐騙者可以根據(jù)個人用戶的社交媒體帖子起草針對性很強(qiáng)的網(wǎng)絡(luò)釣魚電子郵件。除了創(chuàng)建深度偽造視頻和語音克隆的工具外，這些技術(shù)還可用于促進(jìn)大規(guī)模欺詐和勒索。

汗表示，面對1960年代后期的反壟斷審查，計算機(jī)巨頭IBM將軟件從其硬件系統(tǒng)中分離出來，促進(jìn)了美國軟件行業(yè)的崛起并創(chuàng)造了數(shù)萬億美元的增長。政府行動要求AT&T開放其專利庫，同樣釋放了數(shù)十年的創(chuàng)新，并了無數(shù)年輕公司的擴(kuò)張。現(xiàn)在，聯(lián)邦貿(mào)易委員會正在密切關(guān)注，如何才能促進(jìn)公平競爭并保護(hù)美國人免受不公平或欺詐行為的侵害。

微軟經(jīng)濟(jì)學(xué)家也發(fā)聲

包括Twitter首席執(zhí)行官埃隆·馬斯克在內(nèi)的一些知名科技領(lǐng)導(dǎo)者，已經(jīng)呼吁美國聯(lián)邦政府實(shí)施新規(guī)定。辛頓5月1日加入批評者行列，稱大型科技公司在向公眾部署人工智能方面進(jìn)展太快，人工智能實(shí)現(xiàn)類似人類的能力的速度超過了專家預(yù)測，很快會對人類構(gòu)成威脅，他還宣布已辭去谷歌的研究工作。

被稱為“人工智能教父”的杰夫里·辛頓。

在5月3日的世界經(jīng)濟(jì)論壇活動上，微軟首席經(jīng)濟(jì)學(xué)家施瓦茨也發(fā)布了警告。他在一個關(guān)于生成式人工智能的小組會議上發(fā)言稱，“在人工智能取代你所有的工作之前，它肯定會在垃圾郵件發(fā)送者手中造成很大的損害，這些人想要操縱選舉?！?/p>

施瓦茨的警告值得關(guān)注，因?yàn)槲④?019年就向OpenAI投資了10億美元，今年1月又宣布對OpenAI進(jìn)行新的投資。OpenAI依靠微軟提供計算能力，這種關(guān)系可能會為微軟帶來高達(dá)300億美元的年收入。

但施瓦茨的態(tài)度仍然十分緩和，他說，人工智能顯然必須受到監(jiān)管，但立法者應(yīng)該謹(jǐn)慎行事，等到該技術(shù)造成 “真正的傷害”。

施瓦茨表示，所有新技術(shù)，甚至汽車，在首次進(jìn)入市場時都會帶來一定程度的風(fēng)險。 “當(dāng)人工智能讓我們更有生產(chǎn)力時，我們?nèi)祟悜?yīng)該過得更好。”他說，“因?yàn)槲覀兡軌蛏a(chǎn)更多的東西?！?/p>

彭博社專欄作家帕米·奧爾森（Parmy Olson）當(dāng)?shù)貢r間5月3日撰文稱，辛頓的警報如果早幾年出現(xiàn)會更有效。這一事件凸顯了AI研究中的一個長期問題：大型科技公司對AI研究的控制如此之大，以至于就職這些公司的許多科學(xué)家害怕表達(dá)擔(dān)憂，因?yàn)閾?dān)心會損害職業(yè)前景。

2018年，谷歌前研究經(jīng)理梅雷迪思·惠特克（Meredith Whittaker）在協(xié)助組織2萬名谷歌員工后，不得不花費(fèi)數(shù)千美元聘請律師。兩年后，谷歌AI研究人員蒂姆尼特·格布魯（Timnit Gebru）和瑪格麗特·米切爾（Margaret Mitchell）在發(fā)布了一篇強(qiáng)調(diào)大型語言模型風(fēng)險的研究論文后被解雇。

2015年，《紐約客》的一篇文章描述了辛頓當(dāng)時的態(tài)度。在被問到為什么還在從事AI研究時，他說，“發(fā)現(xiàn)的前景太美好了”，谷歌在部署人工智能方面表現(xiàn)得“非常負(fù)責(zé)任”。如今，辛頓的離職和警告，將有望激發(fā)大型科技公司的其他研究人員說出自己的擔(dān)憂。