日韩免费在线观看成人,骚碰成人免费视频,电影院 摸 湿 嗯…啊h

    1. <span id="um726"><blockquote id="um726"></blockquote></span>

        <span id="um726"><blockquote id="um726"></blockquote></span>
        1. 您的位置:首頁>要聞 >內(nèi)容

          記者實探:一臺英偉達AI超算售價高達200萬元 AIGC時代的算力瓶頸如何破解?

          2023-05-26 16:07:26來源:
          導讀 2016年,英偉達創(chuàng)始人黃仁勛將全球首款 DGX 交給了 OpenAI,加速了生成式AI革命的到來。如今,在ChatGPT這一現(xiàn)象級產(chǎn)品的帶動下,全球科...

          2016年,英偉達創(chuàng)始人黃仁勛將全球首款 DGX 交給了 OpenAI,加速了生成式AI革命的到來。如今,在ChatGPT這一現(xiàn)象級產(chǎn)品的帶動下,全球科技公司紛紛入場開發(fā)各自的大模型,預訓練和推理所需的算力需求也呈現(xiàn)指數(shù)級增長。

          來自OpenAI的分析報告顯示,2012 年至2018年的6年間,人工智能訓練任務中使用的算力需求便增長了約30萬倍。這一趨勢下,GPU被廣泛應用于加速芯片,也讓全球GPU市場82%份額的英偉達成為其中的受益者。

          “一臺包含8張A800的DGX超算,現(xiàn)在市面上的價格可能要到230萬元到250萬元之間,價格還在持續(xù)上漲?!蔽挥谏虾埥囊患覕?shù)據(jù)公司內(nèi),公司負責人陳運文正在向技術(shù)負責人紀達麒詢問算力設備的采購情況。


          上海張江一家初創(chuàng)公司 內(nèi)部正在商討英偉達DGX的采購計劃

          自從今年3月份發(fā)布了面向垂直領域的“曹植”大語言模型,龐大的算力規(guī)模需求,讓英偉達DGX的采購計劃,出現(xiàn)在了公司每周的日程表內(nèi)。

          算力成本高企

          國內(nèi)大模型開發(fā)者期待國產(chǎn)解決方案

          “我們的算力平臺是自建的,像國內(nèi)的云服務廠商,還沒有這么大的算力服務。我們現(xiàn)在采購的是DGX的高性能的一些解決方案,單套8張GPU價格接近200萬元,現(xiàn)在已經(jīng)采購了很多套?!痹陉愡\文看來,現(xiàn)在市面上英偉達A800的供應還是有保障的,就是得排隊,真正難買的是存量的A100產(chǎn)品。

          不過,無論哪種解決方案,算力成本短期內(nèi)將給這些從事大模型開發(fā)的初創(chuàng)公司,帶來極大的困擾。陳運文表示,現(xiàn)在公司算力設施主要依賴于進口產(chǎn)品,他們也很期待,國內(nèi)的GPU廠商能夠推出與之媲美的產(chǎn)品,來有效降低算力成本的投入。

          而國內(nèi)的GPU廠商,其實也已經(jīng)看到了AIGC帶來的算力機遇。國內(nèi)GPU廠商燧原科技,早在兩年前就落地了國內(nèi)第二個千卡集群的訓練項目,那時候AIGC還未引發(fā)關注。


          燧原科技工作人員正在對產(chǎn)品進行測試

          而現(xiàn)在AIGC火了,燧原科技看到了大模型預訓練之上的市場機會。燧原科技創(chuàng)始人、董事、CEO趙立東告訴記者,在大模型預訓練之上,還有一層Fine-tune精調(diào)層,再上面是推理應用層。

          當有了基礎模型以后,還可以針對場景做一些精調(diào)的訓練,而這些訓練需要的算力需求就小了很多,準入門檻也低了很多,會有大量的開發(fā)者涌入這個賽道。針對這樣的需求變化,國內(nèi)GPU廠商也在調(diào)整自身的產(chǎn)品路線圖,使得它更加符合AIGC時代的人工智能算力需求。

          上海人工智能研究院院長助力、行業(yè)賦能中心主任楊浩也表示,國內(nèi)通用芯片廠商目前有數(shù)十家,可能未來有一兩家脫穎而出,而更多的廠家會在FPGA、ASIC等專用芯片領域,找到新的市場機會。

          新型算力研發(fā)提速

          國內(nèi)首條光子芯片中試線有望明年建成

          傳統(tǒng)電子芯片技術(shù)已經(jīng)逼近物理極限,在AIGC時代,誰來承接人工智能計算需求的指數(shù)級增長?

          以光子計算、量子計算為核心的新型算力技術(shù),可能成為新的接棒者。

          “傳統(tǒng)的電子芯片,包括英偉達的GPU,再早的CPU,一直沿著摩爾定律向前發(fā)展,而我們現(xiàn)在新型架構(gòu)的芯片,是沿著滿足人工智能計算需求的方向發(fā)展,它的增長曲線一定是更陡峭的。” 圖靈量子創(chuàng)始人、上海交大教授金賢敏對記者表示。


          上海交大金賢敏團隊將建成國內(nèi)首條光子芯片中試線

          自從2014年帶團隊從事光子芯片研發(fā)以來,從在校學術(shù)成果積累,到創(chuàng)辦公司進行產(chǎn)業(yè)化應用,金賢敏團隊即將迎來階段性成果——國內(nèi)首條光子芯片中試線有望在明年年中建成,預計產(chǎn)能可達上萬片。

          金賢敏非常自豪地告訴記者,如果在無錫的產(chǎn)線建成,他們將是全球范圍內(nèi)唯一一個擁有光芯片流片中試線的團隊。

          在AIGC時代,算力已經(jīng)成為大模型開發(fā)的短期瓶頸,而要解決算力短缺的問題,將是一個系統(tǒng)性的工程。上海社科院信息所研究員、互聯(lián)網(wǎng)研究中心主任惠志斌表示,現(xiàn)在不光要看到國外GPU廠商的一些先進的產(chǎn)品,更要立足長遠,在光子計算、量子計算等一些顛覆性技術(shù)的領域,也要加強科技攻關。

          免責聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!

          猜你喜歡

          最新文章