·美國(guó)科技顧問(wèn)委員會(huì)成立的生成式AI工作組旨在幫助評(píng)估人工智能領(lǐng)域的關(guān)鍵機(jī)遇和風(fēng)險(xiǎn)，并就盡可能確保公平、安全、負(fù)責(zé)地開(kāi)發(fā)和部署這些技術(shù)向美國(guó)提供意見(jiàn)。

·AMD的首席執(zhí)行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個(gè)工作組的成員。

華裔數(shù)學(xué)家、菲爾茨獎(jiǎng)獲得者陶哲軒。

當(dāng)?shù)貢r(shí)間5月13日，華裔數(shù)學(xué)家、菲爾茨獎(jiǎng)獲得者陶哲軒公布消息，他和物理學(xué)家勞拉·格林（Laura Greene）共同領(lǐng)導(dǎo)美國(guó)科技顧問(wèn)委員會(huì)（PCAST）的生成式人工智能工作組。該小組將于當(dāng)?shù)貢r(shí)間5月19日在PCAST會(huì)議期間舉行公開(kāi)會(huì)議，AlphaGo之父、DeepMind創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis）及斯坦福大學(xué)教授李飛飛等將在會(huì)上演講。

美國(guó)科技顧問(wèn)委員會(huì)（PCAST）生成式人工智能工作組將于當(dāng)?shù)貢r(shí)間5月19日舉行公開(kāi)會(huì)議。

華裔數(shù)學(xué)家、菲爾茨獎(jiǎng)獲得者陶哲軒在自己的博客公布消息。

據(jù)陶哲軒在博客中透露，生成式人工智能工作組主要研究生成式人工智能技術(shù)在科學(xué)及社會(huì)領(lǐng)域的影響，包括ChatGPT等基于文本的大型語(yǔ)言模型，DALL-E 2、Midjourney等圖像生成器，以及蛋白質(zhì)設(shè)計(jì)或天氣預(yù)報(bào)等科學(xué)應(yīng)用模型。值得一提的是，AMD的首席執(zhí)行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個(gè)工作組的成員。

美國(guó)科技顧問(wèn)委員會(huì)（PCAST）生成式人工智能工作組成員。

據(jù)美國(guó)白宮在官網(wǎng)發(fā)布的文章介紹，PCAST成立的生成式人工智能工作組旨在幫助評(píng)估人工智能領(lǐng)域的關(guān)鍵機(jī)遇和風(fēng)險(xiǎn)，并就盡可能確保公平、安全、負(fù)責(zé)地開(kāi)發(fā)和部署這些技術(shù)向美國(guó)提供意見(jiàn)。

文章中將生成式人工智能定義為，在對(duì)大型數(shù)據(jù)集進(jìn)行訓(xùn)練后，可用于根據(jù)給定提示生成文本、圖像、視頻或其他輸出的一類(lèi)AI系統(tǒng)。這些技術(shù)發(fā)展迅速，有可能徹底改變現(xiàn)代生活的許多方面。在科學(xué)領(lǐng)域，這些工具被用于設(shè)計(jì)新藥、蛋白質(zhì)或材料，并有望加快科學(xué)發(fā)現(xiàn)的步伐。在醫(yī)學(xué)領(lǐng)域，生成式人工智能有可能為醫(yī)療保健專(zhuān)業(yè)人員提供建議。在工作場(chǎng)所，這些工具可以加快計(jì)算機(jī)代碼的編寫(xiě)速度，幫助撰寫(xiě)演示文稿和進(jìn)行總結(jié)。

但同時(shí)，文章指出，生成式人工智能模型也可被用于惡意目的，如制造虛假信息、推送錯(cuò)誤信息和冒充個(gè)人。如果在沒(méi)有保障的情況下使用，生成式人工智能可能會(huì)引發(fā)社會(huì)分化，加劇社會(huì)中的偏見(jiàn)和不平等，更普遍的是，通過(guò)讓公民難以理解世界上發(fā)生的事情來(lái)威脅民主。此外，生成式人工智能系統(tǒng)可能會(huì)侵犯隱私并破壞知識(shí)產(chǎn)權(quán)。

PCAST??生成式人工智能工作組通過(guò)確定額外的需求和機(jī)會(huì)，并就如何最好地解決這些問(wèn)題向提出建議。

在19日舉行的會(huì)議中，生成式人工智能工作組的兩個(gè)專(zhuān)家小組將介紹當(dāng)下該領(lǐng)域的情況，發(fā)言者包括：

人工智能賦能科學(xué)（AI Enabling Science）:

Anima Anandkumar （英偉達(dá)機(jī)器學(xué)習(xí)研究總監(jiān)、加州理工學(xué)院計(jì)算機(jī)與數(shù)學(xué)科學(xué)教授）

Demis Hassabis（DeepMind創(chuàng)始人）

李飛飛（斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授）

人工智能的社會(huì)影響（Al Impacts on Society）:

Sendhil Mullainathan（芝加哥大學(xué)布斯商學(xué)院計(jì)算與行為科學(xué)教授）

Daron Acemoglu（麻省理工學(xué)院經(jīng)濟(jì)學(xué)教授）

Sarah Kreps（康奈爾大學(xué)政府學(xué)教授）

陶哲軒表示，工作組正在就如何識(shí)別和促進(jìn)生成式人工智能的有益部署以及如何最好地降低風(fēng)險(xiǎn)征求公眾意見(jiàn)?！拔覀冏畛醯闹攸c(diǎn)是如何檢測(cè)、抵制和減輕人工智能生成的虛假信息和深度造假這一具有挑戰(zhàn)性的話題，同時(shí)又不犧牲健康民主運(yùn)作所需的言論自由和與民選官員的公眾參與；未來(lái)我們還可能會(huì)圍繞生成人工智能的其他方面發(fā)出進(jìn)一步的請(qǐng)求?！?/p>

在ChatGPT出現(xiàn)后，像陶哲軒這樣的頂尖數(shù)學(xué)家也對(duì)其極為關(guān)注，開(kāi)始探索人工智能如何幫助他們完成工作。在《自然》雜志的一篇《AI如何改變數(shù)學(xué)？聊天機(jī)器人的興起突出了對(duì)話的重要性》中，加拿大蒙特利爾大學(xué)的數(shù)論學(xué)家安德魯·格蘭維爾（Andrew Granville）也表示，“我們正在研究一個(gè)非常具體的問(wèn)題：機(jī)器會(huì)改變數(shù)學(xué)嗎？”數(shù)學(xué)家凱文·巴扎德（Kevin Buzzard）表示同意，“事實(shí)上，現(xiàn)在像菲爾茲獎(jiǎng)得主和其他非常著名的大數(shù)學(xué)家都對(duì)這個(gè)領(lǐng)域感興趣，這表明它以一種前所未有的方式變得‘熱門(mén)’。”

此前，陶哲軒在去中心化社交網(wǎng)絡(luò)Mastodon上寫(xiě)道，“我可以明確地說(shuō)，今天是GPT-4為我節(jié)省了大量繁瑣工作的第一天?！痹趪L試中，陶哲軒發(fā)現(xiàn)了ChatGPT的很多隱藏功能，如搜索公式、解析帶代碼格式的文檔、改寫(xiě)學(xué)術(shù)論文中的句子等，有時(shí)ChatGPT還可以對(duì)未完成的數(shù)學(xué)問(wèn)題進(jìn)行語(yǔ)義搜索以生成一些提示。

他還對(duì)比了自己和當(dāng)前生成式人工智能工具之間的比較優(yōu)勢(shì)：

對(duì)于每天執(zhí)行的任務(wù)，我已經(jīng)開(kāi)發(fā)了足夠的技術(shù)來(lái)優(yōu)化我的工作流程，人工智能工具對(duì)我來(lái)說(shuō)并沒(méi)有太多的增值價(jià)值。最明顯的是在研究數(shù)學(xué)方面，但也包括撰寫(xiě)電子郵件。我安裝了一個(gè)插件，讓GPT-4在我點(diǎn)擊按鈕時(shí)寫(xiě)電子郵件回復(fù)，但我?guī)缀鯊奈词褂盟?，因?yàn)榻?jīng)過(guò)幾十年的實(shí)踐，我已經(jīng)可以快速寫(xiě)出合適的電子郵件回復(fù)。

對(duì)于那些我有一些專(zhuān)業(yè)知識(shí)但很少實(shí)踐的任務(wù)，人工智能工具是有幫助的：通常我可以用它們來(lái)創(chuàng)建輸出的初稿，然后我可以驗(yàn)證和修改，或至少作為靈感來(lái)源使用。（在某些情況下，靈感是來(lái)源于AI的不足，這符合坎寧安法則的精神，但它仍然比我自己嘗試解決問(wèn)題更有成效。）這一類(lèi)的例子包括數(shù)據(jù)處理、翻譯，或以我很少使用的格式寫(xiě)文本（如公開(kāi)演講、規(guī)則文件等）。

對(duì)于那些我沒(méi)有什么專(zhuān)業(yè)知識(shí)也不需要極高質(zhì)量和可靠性的任務(wù)，可以簡(jiǎn)單地詢(xún)問(wèn)人工智能工具，并或多或少地聽(tīng)從其建議。在這里，人工智能的功能是作為傳統(tǒng)搜索引擎的一個(gè)稍微方便些的版本。

最后，對(duì)于那些我不具備專(zhuān)業(yè)知識(shí)但又需要質(zhì)量和可靠性的任務(wù)，人工智能和我自己都無(wú)法解決，我必須咨詢(xún)?nèi)祟?lèi)專(zhuān)家，如修理一個(gè)復(fù)雜、昂貴、精致的設(shè)備。

一個(gè)有趣的嘗試是，陶哲軒要求ChatGPT從描述中識(shí)別“庫(kù)默爾定理”（用于描述在約束條件下如何找到最優(yōu)解），雖然ChatGPT不能給出正確答案，但其還是能根據(jù)勒讓德公式（Legendre's formula）給出一個(gè)大概的答案。對(duì)于ChatGPT的表現(xiàn)，陶哲軒表示，人工智能在數(shù)學(xué)中發(fā)揮了作用，提供了一個(gè)初步的近似答案，再與傳統(tǒng)搜索引擎相結(jié)合就可以輕松找到正確答案。