原標(biāo)題：警惕失控！馬斯克等千名科技人士發(fā)公開信：暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)

馬斯克和1000多名人工智能專家及行業(yè)高管簽署聯(lián)名信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少六個月，理由是這種系統(tǒng)對社會和人類構(gòu)成潛在風(fēng)險。

未來生命研究所（Future of Life Institute）29日公布一封公開信，呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個月。“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton）、人工智能專家蓋瑞·馬庫斯（Gary Marcus）和馬斯克均簽署了這封公開信。未來生命研究所的這封公開信題為“暫停巨型AI實驗：一封公開信”，于29日解封。未來生命研究所的公開信已有1079人簽署。

信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險，這一觀點得到了頂級人工智能實驗室的承認(rèn)。

信中寫道：“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類相當(dāng)，我們必須捫心自問：我們是否應(yīng)該讓機(jī)器用宣傳（尤指福狹、誤導(dǎo)的）和謊言充斥我們的信息渠道？我們應(yīng)該自動化所有的工作，包括令人滿意的工作嗎？我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類思維？我們應(yīng)該冒險失去對我們文明的控制嗎？我們不應(yīng)該將此類決定交給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。”

“我們不應(yīng)該將此類決定交給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。只有當(dāng)我們確信 AI 大模型的影響是積極的并且風(fēng)險是可控的時，我們才能開發(fā)強(qiáng)大的人工智能系統(tǒng)。而且，這種判斷必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而跟進(jìn)?！?/p>

此前馬斯克此前曾多次表達(dá)對人工智能的擔(dān)憂，認(rèn)為人工智能是未來人類文明最大的風(fēng)險之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、泛濫等，甚至比核武器都危險得多。

來源:金融界