ChatGPT已經(jīng)從下游人工智能應(yīng)用程序“流行”到上游芯片領(lǐng)域。除了將GPU等人工智能芯片推向高峰外，它還極大地推動了市場對新一代內(nèi)存芯片HBM(高帶寬內(nèi)存)的需求。據(jù)報(bào)道，自2023年初以來，三星和SK海力士的HBM訂單迅速上漲，價格也上漲。一些市場參與者透露，HBM3規(guī)格DRAM的價格最近上漲了5倍。這也給冬季的內(nèi)存市場帶來了一絲春天的痕跡。

  ChatGPT爆紅提升HBM需求

  ChatGPT作為一種自然語言人工智能應(yīng)用，不僅對芯片計(jì)算能力有很大的需求，而且對內(nèi)存技術(shù)也有很高的需求。例如，自ChatGPT推出以來，高速數(shù)據(jù)傳輸速度的HBM內(nèi)存芯片幾乎已成為ChatGPT的必要配置，市場需求激增。據(jù)報(bào)道，自2023年初以來，三星和SK海力士的HBM訂單迅速上漲，價格也上漲。

  一些市場參與者透露，英偉達(dá)已經(jīng)將SK海力士的HBM3安裝在其高性能GPU H100上，H100已經(jīng)開始提供ChatGPT服務(wù)器。最近，最新一代高帶寬內(nèi)存HBM3的價格上漲了5倍。

  SK海力士HBM設(shè)計(jì)團(tuán)隊(duì)項(xiàng)目負(fù)責(zé)人樸明宰寫道，HBM是一種高附加值DRAM產(chǎn)品，可實(shí)現(xiàn)高帶寬，適用于超級計(jì)算機(jī)、人工智能加速器等性能要求高的計(jì)算系統(tǒng)。隨著計(jì)算技術(shù)的發(fā)展，機(jī)器學(xué)習(xí)的應(yīng)用越來越廣泛，機(jī)器學(xué)習(xí)的基礎(chǔ)是神經(jīng)網(wǎng)絡(luò)模型，自20世紀(jì)80年代以來一直是研究的熱點(diǎn)。HBM作為最快的DRAM產(chǎn)品，在克服計(jì)算技術(shù)的局限性方面發(fā)揮著關(guān)鍵作用。

  此前，HBM雖然性能優(yōu)異，但與普通DRAM相比，其應(yīng)用較少。這是因?yàn)镠BM需要復(fù)雜的生產(chǎn)過程，平均價格至少是DRAM的三倍。然而，人工智能服務(wù)的擴(kuò)張正在扭轉(zhuǎn)這種局面。據(jù)報(bào)道，已有2.5萬多張英偉達(dá)計(jì)算卡參加了深度學(xué)習(xí)培訓(xùn)。未來，隨著對ChatGPT等生成人工智能需求的不斷增加，對HBM的需求也將急劇增加。三星內(nèi)存副總裁Kim Jae-joon指出，基于自然語言技術(shù)的交互式人工智能應(yīng)用的發(fā)展，如ChatGPT，有利于提高內(nèi)存需求。高效、大量的計(jì)算能力和高容量的內(nèi)存是人工智能學(xué)習(xí)和推論模型的基礎(chǔ)。

  存儲巨頭齊爭高性能市場 

  自去年以來，由于消費(fèi)電子產(chǎn)品需求下降等因素，存儲行業(yè)已進(jìn)入下行周期。SK海力士的年凈利潤降至2.4萬億韓元，同比下降75%。去年第三季度和第四季度，三星電子存儲業(yè)務(wù)的收入和營業(yè)利潤也同比下降。Trendforce集邦咨詢公司預(yù)計(jì)，2023年第一季度DRAM價格將繼續(xù)下跌。其中，PC和服務(wù)器DRAM的下降仍然接近20%。HBM的熱需求相當(dāng)于一個“強(qiáng)心針”。在這種情況下，SK海力士、三星電子、美光等內(nèi)存制造商表示，他們將致力于HBM的發(fā)展。企業(yè)之間的產(chǎn)品開發(fā)競爭也在升溫。

  2013年，SK海力士將TSV技術(shù)應(yīng)用于DRAM，成功開發(fā)了第一代HBM芯片。此后，SK海力士推出了HBM2、HBM2E、HBM3數(shù)代產(chǎn)品。據(jù)報(bào)道，SK海力士正在開發(fā)HBM4，預(yù)計(jì)新一代產(chǎn)品將在高性能數(shù)據(jù)中心、超級計(jì)算機(jī)和人工智能領(lǐng)域得到更廣泛的應(yīng)用。SK海力士首席財(cái)務(wù)官金友賢表示，該公司正在關(guān)注基于人工智能的新服務(wù)器替換存儲器需求的積極信號。該公司計(jì)劃繼續(xù)投資DDR5/LPDR5、HBM3等主要產(chǎn)品的量產(chǎn)和未來的高增長。

  雖然三星電子在HBM的發(fā)展上落后一步，但它也在尋找新的突破。據(jù)報(bào)道，三星電子正在開發(fā)新一代集成人工智能處理器存儲計(jì)算芯片HBM-PIM。北京大學(xué)信息科學(xué)技術(shù)學(xué)院微納電子系副教授葉樂表示，存儲計(jì)算芯片將人工智能引擎引入存儲庫，將處理操作轉(zhuǎn)移到HBM本身，有效增加數(shù)據(jù)傳輸帶寬，提高存儲處理速度。存儲計(jì)算技術(shù)正在產(chǎn)品化。目前，基于SRAM的存儲計(jì)算已進(jìn)入產(chǎn)品化前夕。DRAM存儲計(jì)算適用于大計(jì)算力人工智能芯片，因此還需要解決一系列其他技術(shù)問題。

  上下游發(fā)力搶占先機(jī)

  與HBM相關(guān)的上下游企業(yè)也在努力抓住機(jī)遇。AMD為HBM的誕生和發(fā)展做出了巨大貢獻(xiàn)。AMD首先意識到DDR的局限性，并產(chǎn)生了開發(fā)堆疊內(nèi)存的想法，然后與SK海力士合作開發(fā)了HBM，并在其Fury顯卡中使用了世界上第一個HBM。ISSCC2023年國際固態(tài)電路會議，AMD考慮在Instinct系列加速卡集成包裝HBM高帶寬內(nèi)存，繼續(xù)堆疊DRAM內(nèi)存，可以直接在集成內(nèi)存中執(zhí)行一些關(guān)鍵算法核心，而不是CPU和獨(dú)立內(nèi)存之間的往復(fù)通信，以提高人工智能處理的性能，降低功耗。

  英偉達(dá)也非常重視處理器和內(nèi)存之間的協(xié)調(diào)，并一直要求SK海力士提供最新的HBM3內(nèi)存芯片。據(jù)報(bào)道，已有2.5萬多張英偉達(dá)計(jì)算卡參加了深度學(xué)習(xí)培訓(xùn)。如果所有互聯(lián)網(wǎng)公司都在搜索引擎中添加ChatGPT等機(jī)器人，對計(jì)算卡和相應(yīng)服務(wù)器的需求將達(dá)到50萬元，這也將推動HBM的需求大幅增長。

  IP制造商也首先布局了HBM3。去年，Synopsys推出了第一個完整的HBM3IP解決方案，包括2.5D多芯片包裝系統(tǒng)的控制器PHY(物理芯片)和IP驗(yàn)證。HBM3PHYIP基于5nm工藝，每個引腳率可達(dá)7200mbps，內(nèi)存帶寬可提升至921GB/s。Rambus還推出了支持HBM3的內(nèi)存接口子系統(tǒng)，包括完全集成的PHY和數(shù)字控制器，數(shù)據(jù)傳輸速率為8.4Gbps，可提供1TB/s以上的帶寬。

  RambusIP核產(chǎn)品營銷高級總監(jiān)FrankFero在接受采訪時指出，HBM仍處于相對較早的階段，未來還有很長的路要走?？梢灶A(yù)見，隨著越來越多的制造商在人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的不斷努力，內(nèi)存產(chǎn)品設(shè)計(jì)的復(fù)雜性迅速上升，對帶寬提出了更高的要求，寬帶需求的上升將繼續(xù)推動HBM的發(fā)展。