高通周二推出了第一個(gè)用于云計(jì)算“邊緣”服務(wù)器的AI處理器系列，名為“AI 100”。總裁克里斯蒂亞諾·阿蒙(Cristiano Amon)解釋了高通公司如何重新回歸移動領(lǐng)域以及對人工智能的新投資，將有助于它贏得以前失敗的服務(wù)器。

“你是否感到驚訝我們進(jìn)入了云端?”高通公司總裁克里斯蒂亞諾·阿蒙在視頻會議聊天期間問道。

Amon指的是移動芯片巨頭高通公司現(xiàn)在希望如何在數(shù)據(jù)中心的機(jī)器學(xué)習(xí)“推理”方面做出重大貢獻(xiàn)。

確實(shí)令人驚訝。高通不是數(shù)據(jù)中心的存在。它在2014年以很多熱情進(jìn)入了這個(gè)市場，但去年才退出。當(dāng)Amon在2017年12月成為總裁時(shí)，他的團(tuán)隊(duì)研究了與服務(wù)器CPU王，英特爾競爭的巨大成本，以及它在高通的實(shí)際出貨量中所產(chǎn)生的成本。

“我們說，這沒有任何意義，”阿蒙反映道。“關(guān)注云空間的CPU太難了。”

相反，該公司將在今年晚些時(shí)候開始采樣的是一臺專用處理器，用于不運(yùn)行操作系統(tǒng)或主服務(wù)器應(yīng)用程序的服務(wù)器計(jì)算機(jī)。相反，它只是用于執(zhí)行預(yù)測，AI的推理部分。

周二在圣地亞哥舉行的一次活動中宣布稱為“AI 100”的芯片系列將進(jìn)入云計(jì)算邊緣的數(shù)據(jù)中心，在那里他們將與智能手機(jī)等客戶端設(shè)備進(jìn)行協(xié)調(diào)，連接的物聯(lián)網(wǎng)設(shè)備，需要幫助執(zhí)行基于訓(xùn)練的AI模型產(chǎn)生預(yù)測的矩陣乘法。

另外：

今天的市場由英特爾主宰，英特爾的服務(wù)器CPU執(zhí)行絕大多數(shù)推斷。英特爾希望在人工智能推理中利用這一優(yōu)勢，在人工智能的“培訓(xùn)”部分中占據(jù)一席之地，即使Nvidia希望從推特中獲取市場份額，Nvidia一直占據(jù)主導(dǎo)地位。換句話說，所有東西似乎都在爭奪，為什么高通呢?

高通認(rèn)為這些邊緣服務(wù)器必須具有極高的能源效率。該公司每年銷售數(shù)億個(gè)芯片，這些芯片必須在移動設(shè)備的能源限制下運(yùn)行。該公司認(rèn)為，為什么不將這種能源效率擴(kuò)展到那些沒有運(yùn)行遺留應(yīng)用程序負(fù)擔(dān)的服務(wù)器上。

“所以我們只是把握整個(gè)努力，”Amon總結(jié)了公司的支點(diǎn)。

高通公司表示，AI 100的每瓦能耗將是今天的CPU和GPU的十倍以上。

此外：

微軟是該公司為支持這項(xiàng)工作而引用的知名客戶。然而，Amon引用谷歌上個(gè)月宣布其“Stadia”游戲服務(wù)的最新相關(guān)數(shù)據(jù)。

“這是一個(gè)完美的用例，”阿蒙說。“云是新的控制臺，”意思是，游戲機(jī)，他說。在邊緣服務(wù)器中執(zhí)行的節(jié)能推理可以給移動設(shè)備帶來比他們自己更多的功能。因?yàn)橛螒虻葢?yīng)用程序必須具有低延遲，“您將不得不靠近設(shè)備并遠(yuǎn)離傳統(tǒng)的大型數(shù)據(jù)中心大樓。”

Qualcomm喜歡AI推理是一個(gè)綠色領(lǐng)域市場，專注于支持TensorFlow等AI框架，而不是數(shù)據(jù)中心CPU必須支持的傳統(tǒng)軟件。

但是，為什么高通公司應(yīng)該在英特爾占據(jù)主導(dǎo)地位以及Nvidia所具有的巨大影響力?

Amon說，高通公司正在其Snapdragon移動處理器內(nèi)部使用其“神經(jīng)處理單元”或NPU，該公司專用的AI處理邏輯，并將其“擴(kuò)展到云端”。此時(shí)缺少技術(shù)細(xì)節(jié);Qualcomm計(jì)劃在今年晚些時(shí)候舉辦一次活動，其中將介紹AI 100的技術(shù)細(xì)節(jié)以及相關(guān)的性能基準(zhǔn)規(guī)范。

NPU是圖形處理單元或GPU與數(shù)字信號處理器或DSP的組合，Amon觀察到。Amon沒有在這次聊天中詳細(xì)介紹，但NPU的常見之處在于它將Qualcomm的“Hexagon”DSP與其“Adreno”GPU結(jié)合在一起。加載到客戶端設(shè)備上的神經(jīng)網(wǎng)絡(luò)模型根據(jù)這三個(gè)功能塊中的每一個(gè)的能力，在DSP，GPU和Snapdragon中的“Kryo”CPU上運(yùn)行浮點(diǎn)和整數(shù)運(yùn)算的一些組合。

Amon表示，功能塊的組合在移動版本中實(shí)現(xiàn)了性能和能效之間的平衡，并且是AI 100的一種初始藍(lán)圖。

“AI 100的架構(gòu)100%是基于我們?yōu)镾napdragon mobile設(shè)計(jì)NPU的方式，”他說。“這給了我們一個(gè)特定的設(shè)計(jì)點(diǎn)優(yōu)勢，我們只是復(fù)制并粘貼它。”