原標(biāo)題：并行科技董事長(zhǎng)陳健談算力荒：漲價(jià)不可持續(xù)，國(guó)產(chǎn)芯片要在軟件算法上尋求突破

出品 | 搜狐科技

作者 | 梁昌均

今年以來(lái)，AI算力持續(xù)緊缺。物以稀為貴，漲價(jià)也成了必然。自11月份以來(lái)，國(guó)內(nèi)不少算力服務(wù)公司開啟調(diào)價(jià)，漲價(jià)50%，甚至直接翻倍。

算力概念股也頗受資本市場(chǎng)關(guān)注，11月初在北交所掛牌的并行科技，作為第一家提供超算和智算服務(wù)的A股上市公司，股價(jià)也迎來(lái)暴漲。

近日，并行科技董事長(zhǎng)陳健在與搜狐科技的獨(dú)家對(duì)話中認(rèn)為，算力漲價(jià)將是短期行為?！八懔ψ罱K是靠成本定價(jià)，供需關(guān)系是局部因素。”他表示，算力成本未來(lái)會(huì)越來(lái)越低，核心在于制程和設(shè)計(jì)架構(gòu)的進(jìn)步。

陳健判斷，當(dāng)計(jì)算需求的量足夠大的時(shí)候，訓(xùn)練和推理都會(huì)有專用芯片，GPU也許會(huì)被淘汰?！盀槭裁从ミ_(dá)還在瘋狂往前跑？因?yàn)橛胁簧偃嗽谧鰧Ｓ眯酒@對(duì)它來(lái)說(shuō)是很大的威脅?！?/p>

談及今年以來(lái)的算力荒，陳健最直接的感受是來(lái)尋求合作的企業(yè)變多。“算力需求爆發(fā)式增長(zhǎng)，ChatGPT之后，算力需求出現(xiàn)了量級(jí)增長(zhǎng)，導(dǎo)致已有算力不夠，供需關(guān)系失衡。”

不過(guò)，陳健強(qiáng)調(diào)稱，目前市場(chǎng)并不是所有的算力都缺，缺的只有大規(guī)模并行計(jì)算的算力需求。通用大模型訓(xùn)練即是標(biāo)準(zhǔn)的大規(guī)模并行計(jì)算，而這方面目前對(duì)國(guó)外芯片依賴較大。

今年10月底，美國(guó)收緊出口管制，A800/H800供應(yīng)被掐斷。早前報(bào)道稱，英偉達(dá)將為中國(guó)市場(chǎng)開發(fā)三款特供算力芯片——HGXH20、L20PCle和L2PCle，但何時(shí)量產(chǎn)還未確認(rèn)。

“這不會(huì)阻礙我們訓(xùn)練大模型的步伐，但可能不得不付出更高的成本去解決?！标惤”硎荆拔覀兛隙〞?huì)往前走，相信差距會(huì)隨著時(shí)間而縮短。”

陳健認(rèn)為，目前市場(chǎng)頭部算力需求在變大，從千卡到萬(wàn)卡，而國(guó)內(nèi)能跑萬(wàn)卡規(guī)模的算力集群基本集中在頭部互聯(lián)網(wǎng)企業(yè)，它們都是優(yōu)先供自己去訓(xùn)練通用大模型。不久前，阿里云就暫停對(duì)外提供A100云服務(wù)器的算力服務(wù)。

在陳健看來(lái)，通用大模型有看得見、摸得著的資金門檻，而行業(yè)模型、推理需求都在快速增長(zhǎng)，未來(lái)算力需求也必然會(huì)從訓(xùn)練端轉(zhuǎn)向推理端。

“我們期待國(guó)產(chǎn)芯片盡快進(jìn)入主流?！标惤≡趯?duì)話中呼吁。他認(rèn)為，目前國(guó)內(nèi)芯片在大模型大規(guī)模訓(xùn)練上尚有差距，而推理更多是性價(jià)比的競(jìng)爭(zhēng)，對(duì)國(guó)內(nèi)來(lái)說(shuō)不是卡脖子的地方。

在先進(jìn)芯片受限的情況下，國(guó)內(nèi)也需要找到更多的突破點(diǎn)。陳健提到，國(guó)產(chǎn)芯片在軟件、算法等層面存在優(yōu)化機(jī)會(huì)。

“軟件和硬件的問(wèn)題，其實(shí)都是時(shí)間問(wèn)題?！标惤≌J(rèn)為，國(guó)產(chǎn)化現(xiàn)在遇到的最大問(wèn)題是沒有市場(chǎng)，沒有機(jī)會(huì)去迭代?！斑@個(gè)是雞生蛋、蛋生雞的問(wèn)題，這事有解但不好解決?！?/p>

英偉達(dá)如今的市場(chǎng)地位，正是得益于建立了完整的軟硬件生態(tài)。陳健強(qiáng)調(diào)稱，軟件跟硬件適配，一定要有人去做這件事，而華為在這方面最有希望勝出。

以下是對(duì)話精編：

搜狐科技：今年算力持續(xù)短缺，全球都在搶算力，您是什么樣的感受？現(xiàn)在最缺哪種算力？

陳?。簭奈覀兊慕嵌葋?lái)說(shuō)，叫算力需求爆發(fā)式增長(zhǎng)。算力荒跟供求失衡直接相關(guān)，ChatGPT出現(xiàn)之后，尤其是2月爆火后，算力需求發(fā)生了量級(jí)的增長(zhǎng)，可能不止十倍的增長(zhǎng)，所以會(huì)顯得市場(chǎng)上缺算力。隨著時(shí)間推移，算力供給會(huì)持續(xù)上升。對(duì)我們來(lái)說(shuō)，預(yù)示著大量的新的機(jī)會(huì)，這幾個(gè)月找我們合作的企業(yè)變多。

其實(shí)市場(chǎng)上也有大量閑置算力，小規(guī)模計(jì)算、大規(guī)模超算等還是供大于求，中小規(guī)模模型的訓(xùn)練不缺算力，現(xiàn)在只缺大規(guī)模并行計(jì)算的算力，有幾家訓(xùn)練大模型的企業(yè)需要上萬(wàn)卡的規(guī)模，而現(xiàn)在全國(guó)范圍內(nèi)能跑萬(wàn)卡的算力集群屈指可數(shù)，都集中在頭部的互聯(lián)網(wǎng)企業(yè)，但真的拿出來(lái)做算力服務(wù)的基本沒有。

搜狐科技：最近不少算力公司漲價(jià)，甚至翻倍，能持續(xù)嗎？算力高成本的情況能否緩解？

陳?。憾际嵌唐谛袨?，原因就是供給變化。算力最終是靠成本定價(jià)，特別大量的東西是靠成本定價(jià)，供需關(guān)系永遠(yuǎn)都是局部的因素。算力供給會(huì)持續(xù)上升，各種各樣的新算力也會(huì)不斷出現(xiàn)，實(shí)現(xiàn)供需平衡很難，而且大概率最終是供大于求，因?yàn)楣┎粦?yīng)求的時(shí)候，就有商業(yè)價(jià)值，會(huì)有無(wú)數(shù)人蜂擁而上。

隨著時(shí)間推移，算力成本越來(lái)越低，核心就是制程和設(shè)計(jì)架構(gòu)的進(jìn)步。從CPU到GPU，到專用的FPGA，再到專用的AISC芯片，速度會(huì)迎來(lái)越快。現(xiàn)在有很多企業(yè)在做訓(xùn)練和推理的專用芯片，GPU也許有一天會(huì)被淘汰。

當(dāng)計(jì)算需求的量足夠大的時(shí)候，用不了多久專用芯片就會(huì)出現(xiàn)，市場(chǎng)足夠大就會(huì)有人用。但為什么英偉達(dá)還在瘋狂往前跑？因?yàn)橐延胁簧偃嗽谧鰧Ｓ眯酒?，這對(duì)它來(lái)說(shuō)是很大的威脅。

搜狐科技：現(xiàn)在很多大廠都說(shuō)對(duì)外提供算力服務(wù)，但阿里云前面暫停了A100服務(wù)，怎么看大廠在算力市場(chǎng)中的角色？

陳?。侯^部互聯(lián)網(wǎng)企業(yè)的算力實(shí)際上是優(yōu)先供自己去訓(xùn)練通用大模型。算力服務(wù)就像供水供電的基礎(chǔ)服務(wù)，想象空間有多大？盈利空間是擠出來(lái)的，客觀來(lái)說(shuō)不是特別高大上。但大模型太有想象空間，更具商業(yè)價(jià)值，所以對(duì)于大廠來(lái)說(shuō)，算力為什么要給競(jìng)爭(zhēng)對(duì)手用？這也可以算是一種競(jìng)爭(zhēng)策略。

今天國(guó)內(nèi)還在瘋狂投入通用大模型的企業(yè)，一年能投十億級(jí)別算力的基本就頭部這幾家。大家已經(jīng)看得很明白，誰(shuí)有錢？大廠，還有幾家拿了幾十億的頭部創(chuàng)業(yè)公司，這就是看得見、摸得著的資金門檻，中部企業(yè)已經(jīng)知道在通用大模型競(jìng)爭(zhēng)中沒有機(jī)會(huì)勝出，但行業(yè)模型、推理的算力需求還在快速增長(zhǎng)。

搜狐科技：現(xiàn)在買不到高性能的芯片，英偉達(dá)稱會(huì)再推出合規(guī)芯片，這對(duì)國(guó)內(nèi)AI大模型的發(fā)展會(huì)有什么影響？

陳?。河斜葲]有好，英偉達(dá)通過(guò)這種方式，多掙好幾倍的錢，我們期待國(guó)產(chǎn)芯片盡快進(jìn)入主流。禁售不會(huì)阻礙我們訓(xùn)練大模型的步伐，但可能不得不付出更高的成本，需要花更多的錢買更多的卡，比如原來(lái)100張就行，但現(xiàn)在可能要300張或500張才行。

搜狐科技：除了要買更多的卡，技術(shù)上有什么辦法能夠解決算力不夠的問(wèn)題？

陳健：當(dāng)然有辦法，有很多軟件技術(shù)可以使用。性能是硬件上跑在軟件表現(xiàn)出來(lái)，硬件往前走，軟件往前走，算法也在往前走，這些共同組合后，達(dá)到最后的優(yōu)化效果?，F(xiàn)在有效計(jì)算比較低，還有大量?jī)?yōu)化的空間，這是軟件工程師的機(jī)會(huì)。做大規(guī)模并行也有極限，到一定規(guī)模后加速比曲線到頂，這跟應(yīng)用程序直接相關(guān)，取決于什么算法。

搜狐科技：國(guó)內(nèi)包括大廠和不少創(chuàng)業(yè)企業(yè)都在做AI芯片，您認(rèn)為替代水平如何？現(xiàn)在面臨的主要問(wèn)題是什么？

陳?。捍竽Ｐ陀?xùn)練是標(biāo)準(zhǔn)的大規(guī)模并行計(jì)算，對(duì)算力要求很高，是GPU超級(jí)計(jì)算機(jī)的綜合比拼，國(guó)內(nèi)在這塊差距比較明顯。千卡規(guī)模以上涉及到的技術(shù)點(diǎn)很多，還有失效率等很多問(wèn)題需要解決。這已經(jīng)不是科學(xué)問(wèn)題，更多是工程化方面的難題。中小規(guī)模的訓(xùn)練，海量小規(guī)模計(jì)算的推理，更多是性價(jià)比的競(jìng)爭(zhēng)，不是卡脖子的地方，國(guó)內(nèi)替代都沒問(wèn)題。

天下技術(shù)，無(wú)堅(jiān)不破，唯快不破，時(shí)間問(wèn)題，人家做到3納米，我們?nèi)绻霾坏?納米，那就退到14納米。我們肯定會(huì)往前走，相信差距會(huì)隨著時(shí)間而縮短。對(duì)我們的封鎖，會(huì)讓我們更強(qiáng)大。

軟件和硬件的問(wèn)題，我們肯定搞得定，是個(gè)時(shí)間問(wèn)題。現(xiàn)在國(guó)產(chǎn)化遇到的最大問(wèn)題是沒有市場(chǎng)，沒有機(jī)會(huì)去迭代。這個(gè)就是雞生蛋、蛋生雞的問(wèn)題，用的人多就會(huì)變得好用，好用的話用的人就多，這事有解但不好解決。

搜狐科技：從企業(yè)角度來(lái)看，這個(gè)問(wèn)題應(yīng)該怎么解決？國(guó)內(nèi)誰(shuí)能夠跑出來(lái)？

陳健：我原來(lái)在英特爾做軟件工程師，一款新芯片出來(lái)之后，在生態(tài)就緒的情況下，依然有1萬(wàn)名工程師在推廣，去給所有軟件公司做適配。國(guó)內(nèi)誰(shuí)有？我個(gè)人認(rèn)為華為有可能勝出。所有的能用、好用都是用出來(lái)的，軟件要跟硬件適配，一定需要有人去做這件事。

以前說(shuō)花10億做一款芯片，但需要花100億解決推廣過(guò)程中的所有問(wèn)題。大家準(zhǔn)備好了前面那10億，沒有準(zhǔn)備好后邊的100億。我個(gè)人認(rèn)為，華為準(zhǔn)備好了。我們也在2018年加入鯤鵬的凌云計(jì)劃，堅(jiān)定不移支持國(guó)產(chǎn)算力發(fā)展。

搜狐科技：業(yè)內(nèi)呼吁建立全國(guó)算力一張網(wǎng)，這能解決算力不足的問(wèn)題嗎？對(duì)國(guó)家支持算力發(fā)展方面有什么樣的希望？

陳?。喝珖?guó)不少地方都在建智算中心，去支持自己的企業(yè)，因?yàn)榭吹酱竽Ｐ推髽I(yè)未來(lái)比較強(qiáng)的商業(yè)價(jià)值。但如果供給和市場(chǎng)需求脫節(jié)，智算中心可能做不好，做好了也許能收回成本。

全國(guó)一張網(wǎng)肯定是對(duì)的，但很難解決頭部萬(wàn)卡需求的問(wèn)題，它更多還是技術(shù)問(wèn)題。一個(gè)可能的解決辦法是聯(lián)合多家企業(yè)投資，共同投資運(yùn)營(yíng)，相當(dāng)于共享模式。如果國(guó)家想支持人工智能產(chǎn)業(yè)的發(fā)展，盡量投資到需求端，不要投到供給端，因?yàn)榉浅Ｓ锌赡茉黾拥墓┙o不是需求端需要的算力，要讓需求端用腳投票，誰(shuí)做得好投給誰(shuí)，市場(chǎng)自然就活了。