人工智能的發(fā)展備受關注，它被喻為一把雙刃劍，在造福人類的同時，也帶來許多隱患?！都~約時報》日前刊發(fā)題為《人工智能將把我們帶往天堂還是地獄？》的文章，解析人工智能的利弊。文章的作者是該報專欄作家大衛(wèi)·布魯克斯（David Brooks）。

以下是文章全文：

OpenAI的優(yōu)點之一是，它建立在不信任的基礎上。它最初是一個非營利性的研究實驗室，因為它的創(chuàng)始人認為，人工智能不應該由主要受利潤驅動的商業(yè)公司來開創(chuàng)。

隨著發(fā)展，OpenAI變成了一個可稱為卓有成效的矛盾體的東西：一家由非營利董事會監(jiān)管的營利性公司，企業(yè)文化介于兩者之間。

公司里的許多人似乎同時受到三種激勵：科學家的探索欲望、資本家交付產(chǎn)品的欲望和行善者安全行事的欲望。

過去一周發(fā)生的事件——薩姆·奧爾特曼被解雇，經(jīng)歷各種跌宕起伏，被重新聘用——都圍繞著一個核心問題：這種卓有成效的矛盾體能否持續(xù)下去？

一個組織或一個人能否同時保持科學家的頭腦、資本家的動力和監(jiān)管機構的謹慎？或者，正如查理·沃澤爾在《大西洋月刊》(The Atlantic)上所寫的那樣，金錢總會勝出？

重要的是要記住，人工智能與科技界的其他領域有很大不同。它（或者至少曾經(jīng)是）更加學術化。人工智能這個領域的研究歷史可以追溯到幾個世紀前。即使在今天，該領域的許多巨頭也主要是研究人員，而不是企業(yè)家——比如揚·勒昆和杰弗里·辛頓這樣的人，他們在2018年一起獲得了圖靈獎（計算機領域的諾貝爾獎），但現(xiàn)在，對于人工智能將把我們帶往何方，他們意見不一。

直到最近幾年，學術界的研究人員才陸續(xù)離開大學，涌向工業(yè)界。谷歌母公司Alphabet；微軟；OpenAI；還有擁有Facebook的Meta這些公司的研究人員仍然通過發(fā)表研究論文的方式相互交流，就像教授們那樣。

但這個領域的激昂與進取，與別的熱門創(chuàng)業(yè)領域并無不同。在過去一年左右的時間里，當我與人工智能研究人員交談時，我經(jīng)常覺得自己站在每小時五公里的機場移動人行道上，而他們站在每小時6000公里的跑道上。研究人員不斷告訴我，人工智能歷史的這一階段之所以如此令人振奮，正是因為沒有人能預測接下來會發(fā)生什么?！白鳛槿斯ぶ悄苎芯咳藛T，重點是你應該了解正在發(fā)生的事情，我們不斷地感到驚訝?！彼固垢４髮W博士候選人里希·博馬薩尼告訴我。

從事人工智能的人似乎同時經(jīng)歷著完全不同的大腦狀態(tài)。我發(fā)現(xiàn)，要寫關于人工智能的文章非常困難，因為我們根本不知道這項技術會把我們帶到天堂還是地獄，所以我對它的態(tài)度會隨著我的情緒而改變。

播客主播、麻省理工學院科學家萊克斯·弗里德曼以科技界的懺悔之父形象出現(xiàn)，他表達了我曾多次遇到的那種急劇變化的情緒：“你坐下來，像父母一樣自豪，但幾乎是又驕傲又害怕，擔心這個東西會比我聰明得多。既像驕傲又像悲傷，幾乎像一種憂郁的感覺，但最終還是喜悅?！?/p>

當我在5月份參觀OpenAI總部時，我發(fā)現(xiàn)那里的文化令人印象深刻。我采訪的許多人都是在OpenAI還是一個非營利研究實驗室的時候來到這里的，在ChatGPT的喧囂之前——當時我們大多數(shù)人都沒有聽說過這家公司?！拔腋改覆⒉徽嬲私釵penAI是做什么的，”產(chǎn)品經(jīng)理喬安妮·姜告訴我，“他們說，‘你要離開谷歌？’”參與創(chuàng)造了可視化工具DALL-E 2的研究人員馬克·陳也有類似的經(jīng)歷?！霸贑hatGPT出現(xiàn)之前，我媽幾乎每周都會給我打電話，她會說，‘嘿，你知道，你別再四處游蕩了，該去谷歌之類的公司上班了。’”這些人的主要動機并非金錢。

即使在GPT成為頭條新聞之后，置身OpenAI就像身處颶風眼一樣。“這里感覺比世界上其他地方要平靜得多，”喬安妮·姜告訴我?！皬脑缙陂_始，它確實感覺更像是一個研究實驗室，因為我們主要只招聘研究人員，”招聘人員埃琳娜·查齊亞塔納西亞杜告訴我。后來，隨著我們的發(fā)展，每個人都開始意識到，工程和研究會帶來進步。”

我在那里沒有遇到任何“技術男”的氛圍，甚至沒有人有那種“我們正在改變世界”的不可一世——就是當我是一項技術的先驅時可能會有這種架勢。任人力副總裁的戴安·尹告訴我：“我想用熱忱這個詞來形容這個團隊……熱忱的感覺?！?/p>

通常，當我作為一名記者訪問一家科技公司時，我能見到的高管很少，而我能采訪到的那些人個個守口如瓶。而OpenAI只是拿出一張登記表，然后就讓人來跟我交談了。

我承認，過去我走進這些科技公司的時候，會擺出一種防御性的人本主義架子：我告訴自己，這些人可能懂代碼，但他們可能不懂真正重要的文學和哲學。

在OpenAI，我沒什么優(yōu)越感。戴安·尹從小跳舞，出演過莎士比亞戲劇。尼克·萊德是加州大學伯克利分校的一名數(shù)學家，在成為OpenAI的研究員之前，他對一種叫做有限微分卷積的東西很感興趣。幾個人提到了一個研究方面的同事，他本科學習物理學，在茱莉亞音樂學院學習了兩年鋼琴，然后獲得了神經(jīng)科學的研究生學位。還有人告訴我，他們最初的學術興趣是心靈哲學、語言哲學或符號系統(tǒng)。公司技術人員蒂娜·埃盧恩多在加入OpenAI之前學習過經(jīng)濟理論，并在美聯(lián)儲工作過。

盡管他們都給人留下深刻的印象，但我記得我當時告訴自己：這不會持續(xù)太久。我覺得到處都是金錢的氛圍。這些人可能是認真的研究人員，但不管他們是否意識到這一點，他們?nèi)栽跒橥瞥霎a(chǎn)品、創(chuàng)造收入和成為第一而競爭。

很明顯，人們在安全問題上存在分歧。一方面，安全是每個人都關心的問題。例如，我問馬克·陳在DALL-E 2發(fā)布那天的心情?！昂芏鄷r候都是這種憂慮的感覺。比如，我們是否能保證安全？”他說。另一方面，與我交談的每個人都致力于OpenAI的核心使命——創(chuàng)造一種能夠實現(xiàn)人工智能的技術，能夠在廣泛的任務中匹配或超越人類智能。

人工智能領域的卓越人物描繪出截然不同但又有說服力的前景。風險投資家馬克·安德森強調(diào)，它將極大地改變世界，讓世界變得更美好。認知科學家加里·馬庫斯描繪的場景同樣有說服力，他說了這一切可能會出怎樣的問題。

沒有人真正知道誰是對的，但研究人員只是繼續(xù)努力。他們的行為讓我想起了艾倫·圖靈在1950年寫的一句話：“我們只能看到前方很短的距離，但我們可以看到有很多事情需要做。”

我曾希望OpenAI能夠找到解決這種對立的辦法，然而即便在當時，就已經(jīng)存在著擔憂。正如OpenAI首席運營官布拉德·萊特卡普告訴我的那樣：“最重要的是，在我們成長的過程中保持公司文化和使命導向。真要說的話，真正讓我感到不安的是，如何在規(guī)模化的過程中保持這種專注。”

這些話很有先見之明。組織文化不容易建立，卻很容易被摧毀。這個問題關系到世界的安危：剛剛被解放出來的奧爾特曼能否保持這種卓有成效的矛盾體，抑或他會屈服于拼命向前的壓力？