人工智能（AI）正以驚人速度迭代向前。各界談?wù)撘丫玫腃hatGPT，其問世時(shí)間，也不過才幾個(gè)月時(shí)間。

從3月初OpenAI正式開放ChatGPT，到ChatGPT-4推出，再到3月底埃隆·馬斯克等領(lǐng)物聯(lián)名發(fā)表公開信呼吁暫停相關(guān)訓(xùn)練，以及多個(gè)國家收緊監(jiān)管要求，仿佛一個(gè)多月之內(nèi)，人工智能就走過了過往很多技術(shù)創(chuàng)新需要長(zhǎng)時(shí)間積累才能走完的歷程。

當(dāng)前人工智能到底發(fā)展到何種程度？能夠帶我們哪些便利，和哪些潛在的危險(xiǎn)？大廠針對(duì)“大模型”的一擁而上是否有效？人工智能的未來走向何方？

針對(duì)人工智能領(lǐng)域的熱點(diǎn)問題，第一財(cái)經(jīng)記者近日在北京與馬毅教授進(jìn)行了一場(chǎng)獨(dú)家對(duì)話。

馬毅是香港大學(xué)數(shù)據(jù)科學(xué)研究院首任院長(zhǎng)，香港大學(xué)計(jì)算機(jī)科學(xué)系講席教授，加州大學(xué)伯克利分校電子工程與計(jì)算機(jī)科學(xué)系教授，是AI機(jī)器視覺知名學(xué)者。近日他聯(lián)合神經(jīng)生物學(xué)家曹穎、計(jì)算機(jī)世界級(jí)專家沈向洋共同撰寫的論文《On the Principles of Parsimony and Self-Consistency for the Emergence of Intelligence 》正式發(fā)表，提出了人工智能發(fā)展的“簡(jiǎn)約”與“自洽”原則，并綜述了過去80年人工智能研究的歷史。

在馬毅教授看來，科技和網(wǎng)絡(luò)平臺(tái)的發(fā)展使得包括ChatGPT這樣的創(chuàng)新，時(shí)間軸被壓縮地非常非常緊湊。但也需要看到，當(dāng)大家在追逐區(qū)塊鏈、自動(dòng)駕駛、元宇宙、蛋白質(zhì)時(shí)，OpenAI數(shù)年來始終紋絲不動(dòng)。

馬毅認(rèn)為，現(xiàn)在擔(dān)心人工智能繼續(xù)發(fā)展就要世界末日還是杞人憂天。在他看來，過去十年大家集中研究的深度學(xué)習(xí)或深度網(wǎng)絡(luò)，跟真正的智能并沒什么關(guān)系?；乜?0年前，那才是智能研究真正的起源。

現(xiàn)有AI仍是人工為主，無法閉環(huán)學(xué)習(xí)

第一財(cái)經(jīng)：3月1日OpenAI開放ChatGPT，震動(dòng)各界。很快，ChatGPT-4推出，ChatGPT插件平臺(tái)發(fā)布，進(jìn)展迅速。但是僅僅到3月底，針對(duì)人工智能的監(jiān)管呼聲就在世界各地涌現(xiàn)。這相對(duì)于人工智能過去80年的發(fā)展歷程而言，是不是非常不同？

馬毅：是非常不一樣。我們回顧歷史可以看到，神經(jīng)網(wǎng)絡(luò)也經(jīng)過幾次起伏。但是現(xiàn)在的科技、網(wǎng)絡(luò)等，將現(xiàn)在一件事物的歷史進(jìn)程，包括ChatGPT這樣的創(chuàng)新，時(shí)間軸壓縮地非常非常快。在幾天之內(nèi)，就有天翻地覆的變化。

這確實(shí)也帶來了很多的顧慮。但我覺得，從技術(shù)的角度，我們對(duì)現(xiàn)有的AI本身的機(jī)理不用太擔(dān)心，因?yàn)樗皇亲詣?dòng)的，基本還是人工的方式為主。更不用擔(dān)心它有自主意識(shí)，甚至統(tǒng)治世界，甚至毀滅人類，這都是杞人憂天。當(dāng)真的有獨(dú)立自學(xué)習(xí)的能力的時(shí)候，當(dāng)機(jī)器人可以從開放的外部世界，閉環(huán)地學(xué)習(xí)對(duì)自己有用的東西的時(shí)候，我們?cè)僦匦聦徱曔@個(gè)問題不遲。

其實(shí)很多討論是針對(duì)這種機(jī)器具有的能力會(huì)對(duì)各行各業(yè)產(chǎn)生的影響。比如教育行業(yè)，我的學(xué)生已經(jīng)在用GPT編程了。再有就是這樣涉及千家萬戶的信息，哪怕只是“胡說一道”，如果傳遞的信息不是那么準(zhǔn)確，以后再糾正，也會(huì)造成很大的顧慮。

我覺得技術(shù)本身不會(huì)給社會(huì)帶來危險(xiǎn)，而是技術(shù)后面的人可能會(huì)帶來危險(xiǎn)。任何技術(shù)都是雙刃劍。這可能是我們需要考慮的問題。

GPT成功背后，要看到OpenAI的“紋絲不動(dòng)”

第一財(cái)經(jīng)：你認(rèn)為現(xiàn)在很多擔(dān)心都是杞人憂天，但是確實(shí)可以看到大家都非?！敖箲]”。很多大廠在星夜兼程地做自己的模型，投資領(lǐng)域“找項(xiàng)目的投資顧問比項(xiàng)目還多”。你怎么看待這種現(xiàn)象?有什么建議？

馬毅：大廠我覺得應(yīng)該有焦慮的地方。因?yàn)樗麄儽旧碓谶@些產(chǎn)業(yè)里面，比如微軟，集成了OpenAI的一些性能之后，對(duì)谷歌的影響最大。比如搜索，以自然語言呈現(xiàn)搜索結(jié)果，改變了搜索界面，更加友善。光是這一點(diǎn)，谷歌就要擔(dān)心。

另外就是所有的辦公軟件。包括中國的阿里、頭條，都有自己的釘釘、飛書等，如果不跟上的話，這些工具很快就會(huì)過時(shí)。因?yàn)槲④洺鰜淼倪@些工具會(huì)大大提升工作效率。出于生存，也必須要趕上。至于如何趕上，這是大家需要思考的。

比如完成一個(gè)深層模型的預(yù)訓(xùn)練，完成一個(gè)可以“胡說幾道”的模型還是可以實(shí)現(xiàn)的，因?yàn)橐呀?jīng)開源了。大廠只要有足夠的投入，運(yùn)作的好的話，這件事不難。

但實(shí)際上Meta也在焦慮。他們焦慮的是，OpenAI從GPT3.5就沒有開源，他們背后到底是做了什么，導(dǎo)致他們編程的水平能從5%提高到70%或80%以上，這是真的可以用了。這是他們真正焦慮的東西。這也很可能是他們?cè)谟么笠?guī)模集群在做的事情。

需要提醒的是，大廠去追，也要把問題搞清楚，而不是一味大干快上。而且我也不贊成所有大廠、實(shí)驗(yàn)室或者學(xué)校都去做這件事。否則同質(zhì)化很嚴(yán)重。

我們看OpenAI的成功，當(dāng)大家在炒區(qū)塊鏈、忙自動(dòng)駕駛、忽悠元宇宙、折騰蛋白質(zhì)的時(shí)候，他們紋絲不動(dòng)。即使燒了這么多錢，始終一代一代迭代。我們有沒有這種定力，這種風(fēng)氣、文化？包括Deepmind，也是紋絲不動(dòng)去實(shí)現(xiàn)它的使命，實(shí)現(xiàn)它的夢(mèng)想。所以大廠即使要去追，也要把戰(zhàn)略搞清楚。

做產(chǎn)業(yè)投資同樣也要把歷史和現(xiàn)狀搞清楚。如果不清楚，只是道聽途說，都是二手三手的信息，這樣投資會(huì)比較麻煩，一不小心投資的項(xiàng)目可能就會(huì)被大廠消滅。我認(rèn)為，大公司可以去做平臺(tái)性的東西，垂直領(lǐng)域?qū)π」径詣t是充滿機(jī)會(huì)。

大家一擁而上去追去搶，并非各個(gè)都適合。首先，現(xiàn)在技術(shù)路線還不是很清楚。其次，正面追擊資源耗費(fèi)巨大。當(dāng)然有的公司確實(shí)是需要去做的，但如果大家都去追，這是很不理智的。

原理是繞不開的，且往往是唯一正確道路

第一財(cái)經(jīng)：剛才你一直在強(qiáng)調(diào)，無論是人工智能的研究還是產(chǎn)業(yè)的投資，都要回到數(shù)學(xué)、信息論等原理性的起點(diǎn)。但是當(dāng)GPT-4可以自己給GPT-5寫代碼的時(shí)候，我們還來自己從頭開始，會(huì)不會(huì)一直落后，甚至差距越拉越大？

馬毅：這是絕對(duì)不會(huì)的。

不可能所有的事情都是大模型，小的機(jī)器人也需要去學(xué)習(xí)世界。這種機(jī)會(huì)其實(shí)是非常多的。當(dāng)你搞清楚來龍去脈，搞清楚歷史發(fā)展，學(xué)科、方法在干什么的話，你會(huì)發(fā)現(xiàn)有很多機(jī)會(huì)。

舉個(gè)很簡(jiǎn)單的例子。伯克利和斯坦佛過去幾年出了兩件工作，徹底改變了很多問題。一個(gè)是NERF，一個(gè)是DiffusionModel，都是年輕的教授做的。他們并沒有去跟隨所謂主流的東西。當(dāng)鋪天蓋地的對(duì)抗生成網(wǎng)絡(luò)出來的時(shí)候，幾萬篇文章，打得一塌糊涂，人家在老老實(shí)實(shí)根據(jù)更本質(zhì)的原理改進(jìn)方法。甚至剛開始文章都發(fā)不出來。但現(xiàn)在，徹底改變世界。這就是機(jī)會(huì)！

過去機(jī)器學(xué)習(xí)的十年，很多人擔(dān)心不跟隨就落后。但回頭看，當(dāng)時(shí)很可能是在往錯(cuò)誤的方向上跑?，F(xiàn)在炒作的很多東西，放在歷史上都不過是塵埃而已。而原理性的東西，十年、二十年、五十年甚至一百年，繞是繞不開的。而且往往是唯一正確的道路。希望現(xiàn)在年輕人多做些反思。

叫停智能研究是杞人憂天，AI監(jiān)管重在管人

第一財(cái)經(jīng)：人工智能現(xiàn)在確實(shí)還處于起步階段，但是“杞人憂天”的擔(dān)憂還是非常多。比如馬斯克最近就表達(dá)了擔(dān)憂，人為當(dāng)AI發(fā)展發(fā)展到真正智能的時(shí)候，再去做監(jiān)管很可能就為時(shí)已晚。在你看來，如何在人工智能最初期就建立好治理框架？

馬毅：我有不同看法?？茖W(xué)家或者研究人員，做任何事情，都不能用條條框框去框他們。比如核物理、生物研究等等都會(huì)有利有弊。對(duì)于人工智能，我們應(yīng)該規(guī)范的不是機(jī)器，也不是背后的客觀規(guī)律和事實(shí)，而是后面的人類。對(duì)目前的人工智能，在我們真正了解其機(jī)制之后，就會(huì)發(fā)現(xiàn)現(xiàn)在還不用過度擔(dān)心。

不過在另外的方面，我覺得有些焦慮是對(duì)的。比如對(duì)數(shù)據(jù)安全隱私，以及可能被利用于剽竊、作弊等的副作用，以及如何規(guī)范使用行為等，這是需要考慮的。

第一財(cái)經(jīng)：但是人工智能有其特殊性。比如你提到的“核”，核只涉及“我們?nèi)绾慰创钡膯栴}，但人工智能還要面對(duì)“他們?nèi)绾慰创覀儭钡膯栴}。這也不需要擔(dān)心？

馬毅：現(xiàn)在我們看到機(jī)器開始體現(xiàn)一些接近人的推理或者分析能力，盡管可能這只是模仿或者人授予的能力。但從本質(zhì)上，我認(rèn)為這還不是基于理解。除非OpenAI做了一些我們完全不知道的事情。如果沒有，那我覺得從技術(shù)層面，不用太擔(dān)心。

以后，如果我們真正找到了自主學(xué)習(xí)的機(jī)制的話，機(jī)器具有了這種能力，那大家可能需要提前考慮一些問題。比如，規(guī)?；螅斯ぶ悄苣芰Φ臉O限在哪里，是否能完全獨(dú)立的做一些事情。

第一財(cái)經(jīng)：現(xiàn)在還是可以充分享受人工智能便利的一個(gè)階段？

馬毅：我相信是這樣的。歷史上一個(gè)新技術(shù)出來，人們往往就會(huì)說很多工作就將失去了。蒸汽機(jī)出來，不需要體力勞動(dòng)了；計(jì)算機(jī)出來，就不需要人工了。很多革命性的技術(shù)出來，實(shí)際上提升了生產(chǎn)力，新的工種會(huì)出來，而且會(huì)以更高的效率產(chǎn)生更多的工種。

我相信，大家利用好新的技術(shù)發(fā)明，文明是會(huì)更快向前進(jìn)步的。

第一財(cái)經(jīng)：剛才你說到“某個(gè)時(shí)刻”我們是需要提前準(zhǔn)備的，人類是否有能力在“那個(gè)時(shí)刻”到來之前提前識(shí)別出來？如果面臨的是一個(gè)用偏見的數(shù)據(jù)訓(xùn)練出的有偏見的模型，怎么辦？

馬毅：能不能提前識(shí)別，我不知道。不過很多問題都是人的問題，不是機(jī)器的問題。

GPT的能力會(huì)不會(huì)造出信息層面的“病毒”？這是不為所知的。不過即使這樣，最后還是掌握技術(shù)或者公司的人，需要進(jìn)行很好的監(jiān)管和規(guī)范。包括使用產(chǎn)品的人，也需要充分理解所在使用的工具。

比如，香港的大學(xué)都在考慮，是否允許學(xué)生用ChatGPT。我是支持大家用的，就跟搜索引擎出來之后，也面臨過同樣的問題。但是我們還是找到了方法來解決這一問題。

第一財(cái)經(jīng)：去年有一個(gè)案例曾引起一定關(guān)注，但后來又被人淡忘。直到近期又被提出，并被認(rèn)為人類可能從那時(shí)候就已經(jīng)跨越了“奇點(diǎn)”時(shí)刻，那就是谷歌的“拉姆達(dá)”。你是否認(rèn)同？

馬毅：那個(gè)時(shí)候，我相信當(dāng)時(shí)的表現(xiàn)可能還不如ChatGPT。機(jī)器是否因?yàn)榫邆渥灾饕庾R(shí)才有這樣的能力，還是因?yàn)橛羞@樣的能力才被定義為自主意識(shí)，我相信這是不同的概念，大家可以去思考一下。

我認(rèn)為，現(xiàn)在大部分機(jī)器我們能看到，還是在模仿人的一些東西，還不是真正的自主學(xué)習(xí)。

教育迎來很大變革，智能學(xué)科亟待重建

第一財(cái)經(jīng)：你是香港大學(xué)數(shù)據(jù)科學(xué)學(xué)院的首任院長(zhǎng)。你打算如何打造這個(gè)學(xué)院，讓學(xué)生在數(shù)據(jù)科學(xué)領(lǐng)域有更好的發(fā)展，也讓我們?cè)谌斯ぶ悄茴I(lǐng)域有一個(gè)更好的提升？

馬毅：我們這個(gè)領(lǐng)域，不管是數(shù)據(jù)科學(xué)，還是人工智能，過去十年發(fā)生了很大的變化?，F(xiàn)在我認(rèn)為這個(gè)學(xué)科需要重新建設(shè)，以適應(yīng)產(chǎn)業(yè)與社會(huì)的新需求。

從基礎(chǔ)的課程設(shè)置，學(xué)生需要學(xué)習(xí)的工具、系統(tǒng)，以及這些工具、平臺(tái)的應(yīng)用，以及我們?cè)摻虒W(xué)生什么、如何教，都需要重新考慮。以后的發(fā)展，一定是需要原理才能把正確的框架、平臺(tái)、機(jī)制建立好，人工智能才能更上一步，才能接近真正動(dòng)物和人的智能。

我們也在考慮如何將跟智能相關(guān)的原理和思想更快地傳播給學(xué)生。現(xiàn)有介紹原理的課程很多內(nèi)容是有些過時(shí)的，傳統(tǒng)的信息理論、控制理論、信號(hào)處理、優(yōu)化方法等等可能都要重新設(shè)計(jì)。學(xué)科建設(shè)是非常重要的。學(xué)生只有對(duì)基礎(chǔ)原理真正理解，對(duì)計(jì)算工具、平臺(tái)真正掌握和使用，然后才能到各行各業(yè)去放大。

對(duì)學(xué)生的教育，也不能再是填鴨式教育了。我們不能再一味生硬地傳授學(xué)生知識(shí)了。因?yàn)閷淼玫街R(shí)會(huì)越來越容易，而如何去運(yùn)用這些知識(shí)，如何發(fā)展出新的知識(shí)，才是學(xué)生需要具備的能力，否則跟機(jī)器比將沒有任何競(jìng)爭(zhēng)力。所以這將是一場(chǎng)很大的變革。