“深度學(xué)習(xí)既不深入，也不學(xué)習(xí)，”IT服務(wù)巨頭Cognizant Technologies的“進(jìn)化AI”項目副總裁Babak Hodjat說。

Hodjat的批評是對IT服務(wù)公司Cognizant Technology Solutions的一次迷人探索的一部分，后者是一家位于新澤西州Teaneck的二十五年歷史的公司，去年為一些最大的公司提供了近160億美元的收入。在世界上。

多年來，這個IT巨頭已經(jīng)談到了“數(shù)字化轉(zhuǎn)型”，這是一個龐大而重要的事情，但也很難讓人想到，因為它經(jīng)?？雌饋砟：磺?。

然后在12月，Cognizant通過從11年前的AI創(chuàng)業(yè)公司Sentient Technologies獲得某些資產(chǎn)，為這項數(shù)字工作提供了全新的基礎(chǔ)和精確性。該公司由Hodjat共同創(chuàng)立，一直致力于所謂的“進(jìn)化計算”，其中許多算法，包括傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)，可以并行測試“適應(yīng)性”，以選擇最佳網(wǎng)絡(luò)執(zhí)行任務(wù)。

對于Hodjat來說，隨著知識產(chǎn)權(quán)的獲得而來到Cognizant，這項工作遠(yuǎn)遠(yuǎn)超出了主流深度學(xué)習(xí)的優(yōu)化。深度學(xué)習(xí)的重點是通過所謂的隨機(jī)梯度下降，通過稱為反向傳播的過程來優(yōu)化神經(jīng)網(wǎng)絡(luò)的“參數(shù)”或“權(quán)重”。

“這一切都只是爬山，”Hodjat在接受ZDNet采訪時表示深入學(xué)習(xí)。幾十年來，他正在對該領(lǐng)域提出批評，早在對麻省理工學(xué)院科學(xué)家Marvin Minsky和Seymour Papert的批評。在這種情況下，“山丘”是反向傳播導(dǎo)航的值的幾何斜率，以便找到最佳值，即山峰。(術(shù)語在這里可能有點滑。在常見的深度學(xué)習(xí)詞匯表中，梯度下降不會向斜坡上升到最佳點，它試圖在斜率中找到最低的“能量”點，這通常被稱為全局最小。細(xì)微差別很重要，但從某種意義上說，這些術(shù)語是互補(bǔ)的。)

Hodjat表示，能量函數(shù)支持反支撐在很多層面都很昂貴，這與其他人如芯片制造商英特爾公司的邁克戴維斯的評論相呼應(yīng)。他認(rèn)為，這與生物學(xué)習(xí)的效率不符。

相比之下，在人類發(fā)展中，“一個人類的孩子在沒有看到它的情況下觀察和學(xué)習(xí)某些東西，能量非常低。”

Hodjat在Cognizant的舊金山辦事處運(yùn)營著一個由15人組成的團(tuán)隊。進(jìn)化創(chuàng)新業(yè)務(wù)是Cognizant更廣泛的“認(rèn)知數(shù)字業(yè)務(wù)”的一部分，Hodjat向市場副總裁Karthik Krishnamurthy匯報。數(shù)字部門由全球Cognizant辦事處的數(shù)千人組成。

Cognizant的員工總數(shù)超過270,000，從某種意義上說，Evolutionary AI組只是一個小小的亮點，但它也是人工智能的矛頭：進(jìn)化計算的創(chuàng)新將廣泛地滿足數(shù)字化運(yùn)營，Cognizant希望。

不久前的一個下午，Hodjat和克里希納穆爾蒂和克里希納穆爾蒂的另一副，布雷特·格林斯坦，誰是AI的頭在為數(shù)字業(yè)務(wù)，在什么認(rèn)識到呼叫俏皮的辦公室坐了下來“協(xié)作實驗室”，在42街工作區(qū)在曼哈頓。

合作實驗室的設(shè)計是更有點像一個啟動環(huán)境，與客廳類型設(shè)置沙發(fā)，探索出一條樣的工作更熟悉的不是認(rèn)識到傳統(tǒng)的辦公室文化和千年的“數(shù)字原生”的員工。

雖然Krishnamurthy已經(jīng)在Cognizant工作了二十年，但Greenstein大約六個月前加入，并且之前是一個終生的IBM。

“就人工智能，數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的嚴(yán)肅投資而言，我們在過去的五年里一直在這方面，”Krishnamurthy說。“在此之前，Cognizant已經(jīng)做了很長時間的分析。”

格林斯坦指出，人工智能可以成為廣泛辯論的主題，就像Facebook AI大師Yann LeCun和英特爾戴維斯之間的類型一樣。但是，對于Cognizant幫助其客戶而言，此類辯論并不比探索所有選項重要。“在某些情況下，流程自動化對于客戶來說已經(jīng)足夠了，有些情況下需要更加適應(yīng)和學(xué)習(xí)。”

輸入Hodjat和Sentient。他們的工作的最新例子包含在Hodjat一周前發(fā)表的一篇論文中，“用于深度學(xué)習(xí)的進(jìn)化神經(jīng)AutoML”，該文章發(fā)布在Bioarxiv預(yù)打印服務(wù)器上。它與得克薩斯大學(xué)計算機(jī)科學(xué)教授Risto Miikkulainen合著，他是Hodjat的首席技術(shù)官。

本文描述了一種名為“CoDeepNEAT”的計算機(jī)系統(tǒng)，它通過在每一層中混合不同類型的功能來組裝人工神經(jīng)網(wǎng)絡(luò)的神經(jīng)元層，例如卷積神經(jīng)網(wǎng)絡(luò)(CNN)的卷積，或者“細(xì)胞”。典型的遞歸神經(jīng)網(wǎng)絡(luò)(RNN)。

CoDeepNEAT從這些層隨機(jī)組成的網(wǎng)絡(luò)開始，它在典型的機(jī)器學(xué)習(xí)培訓(xùn)中設(shè)置了多個彼此競爭的設(shè)計。監(jiān)督程序在Microsoft Azure上并行運(yùn)行這些多個網(wǎng)絡(luò)，并根據(jù)每個網(wǎng)絡(luò)在訓(xùn)練后的“驗證”階段的處理方式確定每個網(wǎng)絡(luò)的相對“適應(yīng)性”。通過這種方式，可以測試許多代可能的網(wǎng)絡(luò)，以找到導(dǎo)致最佳神經(jīng)網(wǎng)絡(luò)的理想的層組合。

在基準(zhǔn)測試中，包括自動評定維基百科評論的“毒性”或?qū)π夭縓射線圖像進(jìn)行分類，CoDeepNEAT方法“輕松擊敗”一些非常成熟的“發(fā)現(xiàn)”神經(jīng)網(wǎng)絡(luò)方法的表現(xiàn)，例如Google的“ Hodjat表示，AutoML“和微軟的”TLC“系統(tǒng)顯而易見。

從某種意義上說，CoDeepNEAT是一種AutoML機(jī)制。“我們正在與谷歌大腦的團(tuán)隊合作解決這些問題，我們在聯(lián)合論文上進(jìn)行討論，”Hodjat指出。

Hodjat指出，CoDeepNEAT的一個關(guān)鍵要素是，可以同時在多個不同的任務(wù)中比較多個網(wǎng)絡(luò)，而不是在單個任務(wù)(如分類器)上訓(xùn)練單個網(wǎng)絡(luò)的典型深度學(xué)習(xí)方法。

這很重要，因為多項任務(wù)培訓(xùn)不僅揭示了哪些網(wǎng)絡(luò)做得更好，而且最有效地產(chǎn)生了給定的測試結(jié)果。Hodjat指出，搜索數(shù)百種，也許是數(shù)千種可能的組合是一種獨(dú)特的進(jìn)化方法，這可以帶來更好的解決方案，而不是通過爬山在單個網(wǎng)絡(luò)上進(jìn)行優(yōu)化。

“進(jìn)化帶來了創(chuàng)造力和遍歷搜索空間的概念，它不是隨機(jī)梯度下降，也不是爬坡，”Hodjat說。雖然存在優(yōu)化的“適應(yīng)度函數(shù)”，但它不涉及反向傳播錯誤以改善單個網(wǎng)絡(luò)的權(quán)重。相反，CoDeepNEAT平衡“新奇搜索”并利用它所發(fā)現(xiàn)的東西。

“假設(shè)你去過Palo Alto，”Hodjat提供了一個類比，“你想去芝加哥。你可以在Palo Alto地圖上放一個小針，標(biāo)記你開始的地方。當(dāng)你移動通過地圖，您可以獲得這些標(biāo)記，指導(dǎo)您向前或向后或向左移動的位置。“機(jī)器學(xué)習(xí)中的一個典型例子是AI“代理”試圖從二維地圖中的一個房間到達(dá)另一個房間的問題。在任務(wù)的早期階段，通過強(qiáng)調(diào)新穎性來幫助代理人，從而突破了從未有過的方向。

“如果你在實現(xiàn)目標(biāo)方面取得了很好的進(jìn)展，那么你可能會淡化新奇，然后如果你陷入局部的最佳狀態(tài)就會轉(zhuǎn)回去，”Hodjat說。

“隨著新知識的出現(xiàn)，你改變了對世界的看法，”他解釋道。相比之下，“深度[學(xué)習(xí)]網(wǎng)絡(luò)不會以這種方式運(yùn)作。”

CoDeepNEAT如何平衡新穎性搜索與剝削是Hodjat及其團(tuán)隊已經(jīng)授予或申請的幾項專利的主題，正如他們所說的那樣。

所有這些的產(chǎn)品化將使Cognizant走向新的方向，擁有新的能力。Sentient通過名為“LEAF”的產(chǎn)品來到Cognizant，該產(chǎn)品將所有這些技術(shù)捆綁到一個生產(chǎn)系統(tǒng)中。

可以用LEAF來幫助公司找出“如何更好地經(jīng)營我的業(yè)務(wù)，??”格林斯坦說。例如，客戶會向Cognizant提出預(yù)測問題，以改善客戶轉(zhuǎn)換，或提高產(chǎn)品質(zhì)量或降低產(chǎn)品成本。

格林斯坦說：“我們可以進(jìn)入并影響你的預(yù)測率20%到30%。”“我們可以為客戶增加這個過程，這是別人無法做到的。”

Cognizant與兩家客戶進(jìn)行“遲交談”，使用該技術(shù)，包裝消費(fèi)品公司和保險公司。

“這絕對是高價值，”格林斯坦說。他堅持認(rèn)為，“我們預(yù)計肯定會超過兩位數(shù)的溢價”，高于Cognizant通常的收費(fèi)標(biāo)準(zhǔn)。

憑借LEAF背后的主要IT資源，Cognizant可能不僅僅賺錢，它可能會導(dǎo)致人工智能“工業(yè)化”的收費(fèi)，使其更加平易近人，并且只能在主導(dǎo)該領(lǐng)域的大型科技公司之外使用，例如谷歌和Facebook。

最后一個問題，可能不是立即關(guān)注Cognizant，是LEAF類型的進(jìn)化計算是否會導(dǎo)致“人工一般情報”，或AGI，機(jī)器學(xué)習(xí)的圣杯。

Hodjat知道如何創(chuàng)建計算機(jī)系統(tǒng)，似乎捕捉到自然理解的某些方面。他最出名的幾年前工作最終導(dǎo)致了在Apple的iPhone上運(yùn)行的Siri助手技術(shù)。根據(jù)與傳奇研究公司SRI International簽訂的合同，該項目是在他為一家名為Dejima，Inc。的軟件制造商工作時完成的。

“我不是AGI的忠實粉絲，”Hodjat說。“這是我們努力的神話，我們甚至不知道它意味著什么，但它是有抱負(fù)的。”他說，歸根結(jié)底，智能是“基于人口的”，它是“一群智慧而獨(dú)立的思想家，他們正在合作并經(jīng)常競爭，這些演員的新興行為就是我們。”人類知識的普遍性，“非常廣泛地應(yīng)用我們的智能”的能力，成為人類在許多任務(wù)中學(xué)習(xí)的許多行為的現(xiàn)象。

但這一切對另一天來說是一個挑戰(zhàn)。目前，Hodjat的老板對LEAF如何為實際目的增強(qiáng)Cognizant的工具包感到滿意。

“人工智能是一種技術(shù)，利用算法來學(xué)習(xí)和生成比我們傳統(tǒng)做法更準(zhǔn)確，更具可擴(kuò)展性的輸出，”Krishnamurthy說。“我們可以利用它來真正幫助客戶解決問題。”