一位著名的機(jī)器學(xué)習(xí)和人工智能研究人員認(rèn)為，他的領(lǐng)域已經(jīng)偏離了科學(xué)和工程學(xué)的界限而變成了“ 煉金術(shù)”。他正在提供一條返回途徑。

為谷歌人工智能工作的阿里拉希米說(shuō)，他認(rèn)為自己的領(lǐng)域已經(jīng)取得了驚人的進(jìn)步，但他們認(rèn)為它的發(fā)展方式有些惡劣。在機(jī)器學(xué)習(xí)中，計(jì)算機(jī)通過(guò)反復(fù)試驗(yàn)的過(guò)程“學(xué)習(xí)”。在AI會(huì)議上發(fā)表的演講中的問(wèn)題是，在現(xiàn)場(chǎng)工作的研究人員 - 當(dāng)計(jì)算機(jī)由于試驗(yàn)和錯(cuò)誤的過(guò)程而“學(xué)習(xí)”時(shí) - 不僅不能準(zhǔn)確理解他們的算法如何學(xué)習(xí)，而且他們不會(huì)Rahimi在Matthew Hutson最近為“科學(xué)”雜志報(bào)道的人工智能會(huì)議上發(fā)表的演講中提出了一個(gè)很好的理解，他們理解他們用來(lái)構(gòu)建這些算法的技術(shù)是如何工作的。

早在2017年，Rahimi在人工智能的神秘方面敲響了警鐘：“我們產(chǎn)生了驚人的令人印象深刻的結(jié)果，” 他在博客中寫道。“自動(dòng)駕駛汽車似乎即將來(lái)臨;人工智能標(biāo)簽面臨照片，轉(zhuǎn)錄語(yǔ)音郵件，翻譯文件并為我們提供廣告。數(shù)十億美元的公司建立在機(jī)器學(xué)習(xí)的基礎(chǔ)上。在很多方面，我們處于更好的位置比起我們10年前的情況。在某些方面，我們的情況更糟糕。“

正如Hutson所報(bào)道的那樣，Rahimi表明，許多機(jī)器學(xué)習(xí)算法包含基本無(wú)用的附加功能，并且當(dāng)這些功能被剝離時(shí)，許多算法的工作效果更好。其他算法從根本上被打破，只是因?yàn)樵谠汲绦蛑隙逊e了大量的臨時(shí)修復(fù)程序。

Rahimi在博客中指出，至少在某種程度上，這是一個(gè)習(xí)慣于一種隨機(jī)的，反復(fù)試驗(yàn)方法的領(lǐng)域的結(jié)果。在這個(gè)過(guò)程中，研究人員完全不了解為什么一個(gè)解決問(wèn)題的嘗試有效，另一個(gè)嘗試失敗。人們實(shí)施和分享他們不能遠(yuǎn)程理解的技術(shù)。

Hutson在他的文章中指出，關(guān)注AI的人可能會(huì)被提醒“黑匣子”問(wèn)題 - 人工智能程序傾向于以人類創(chuàng)造者不理解的方式解決問(wèn)題。但目前的問(wèn)題不同：研究人員不僅不了解他們的AI程序的問(wèn)題解決技術(shù)，Rahimi說(shuō)，但他們也不了解他們用來(lái)構(gòu)建這些程序的技術(shù)。換句話說(shuō)，這個(gè)領(lǐng)域更像是煉金術(shù)，而不是現(xiàn)代的研究體系，他說(shuō)。

“有一個(gè)煉金術(shù)的地方。煉金術(shù)工作，”拉希米寫道。

“煉金術(shù)士發(fā)明了冶金學(xué)，制藥方法，紡織技術(shù)和現(xiàn)代玻璃制造工藝。然后，煉金術(shù)士也相信他們可以將賤金屬轉(zhuǎn)化為金，水蛭是治療疾病的好方法“。

Rahimi和幾位同事在加拿大溫哥華舉行的學(xué)習(xí)代表國(guó)際會(huì)議上 最近的一次演講(及隨附的論文)中提出了一些方法和協(xié)議，可以將機(jī)器學(xué)習(xí)推向煉金術(shù)世界之外。其中包括：根據(jù)組成部分評(píng)估新算法，一次刪除一部分算法，測(cè)試整個(gè)程序是否仍然有效，并對(duì)算法產(chǎn)生的結(jié)果進(jìn)行基本的“健全性測(cè)試”。

這一切都是因?yàn)槿斯ぶ悄?，拉希米在?017年的博客中提出的觀點(diǎn)，在社會(huì)中變得過(guò)于重要，無(wú)法以這種時(shí)尚的方式發(fā)展。

“如果你正在建立照片共享服務(wù)，煉金術(shù)是好的，”他寫道。“但我們現(xiàn)在正在構(gòu)建管理醫(yī)療保健和參與民事辯論的系統(tǒng)。我希望生活在一個(gè)系統(tǒng)建立在嚴(yán)格，可靠，可驗(yàn)證的知識(shí)而不是煉金術(shù)上的世界。”