隨著生成式人工智能和大模型技術的快速發展，AI處理器需求呈“井噴”式增長，具有高帶寬、大容量、低延遲等特點的HBM成為AI行業的主流存儲方案，但目前這一產品的產能仍存在很大缺口。今年5月，三星就已宣布2024年高帶寬內存（HBM）產能售罄；SK海力士也表示2024年和2025年產能均已售罄；美光科技在第二季度財報中披露2024年的HBM產能已售罄，2025年絕大多數產能已分配完畢。這樣一則消息，足以見得當下AI市場對HBM需求的強勁。接下來，小編將為大家詳細分析HBM將會給材料行業帶來怎樣的機遇。

圖源：全球半導體觀察

HBM是什么？

HBM（高性能高帶寬內存）是一種新型的存儲芯片技術，它利用微凸點和硅通孔（TSV）技術將多個存儲芯片堆疊在一起后和GPU封裝，從而實現大容量和高速數據傳輸，以滿足高性能計算、人工智能、大數據等領域的需求。HBM技術增加了存儲堆棧的數量和位寬，縮短了存儲芯片和邏輯芯片之間的距離，降低了工作電壓并減少了信號線的數量和長度，因此，具備高帶寬、低延遲和低功耗的優勢。

HBM堆疊結構（圖源：文獻1）

HBM發展現狀

HBM最初是美國超微半導體（AMD）和韓國SK海力士于2014年共同提出的，時至今日，HBM技術已經從HBM1升級到了HBM3E。HBM3E作為新一代高帶寬內存技術，可以提供9.6GB/s的擴展數據速率，相較前一代HBM3的6.4GB/s有顯著提升，這一提升使得HBM3E能夠提供更高的內存帶寬，來滿足高性能計算和人工智能應用對數據傳輸速度的需求。在功耗方面，HBM3E憑借先進的電源管理技術（如降低內核電壓和I/O信號電壓），功耗相較競爭對手的產品降低30%。HBM3E的容量也有所提升，如三星電子開發的36GBHBM3E12HDRAM性能和容量均比前代產品提升50%以上。目前，三星、SK海力士和美光均在積極布局HBM4，預計在2026年前實現HBM4的量產。

HBM技術性能指標對比（圖源：文獻1）

HBM對AI產業有何重要意義？

當前生成式人工智能和大模型技術的快速發展，使其對于算力的要求逐漸提升。雖然GPU可以為AI模型訓練和推理提供強大的算力支撐，但如果僅提升算力而忽視帶寬，將會造成數據堆積，無法達到理想的數據處理速度。帶寬作為提升數據計算效率的重要保障，會直接影響數據吞吐量，數據吞吐量越大，模型在單位時間內能夠處理的數據便越多，響應速度就會越快。GDDR（一種用于圖形處理器和高性能計算模塊的顯存類型）和HBM具有的高帶寬、低功耗和低延遲等特性，正可以滿足AI產業對于高帶寬的需求。GDDR作為一種為高端顯卡服務的高性能存儲器，與現有的GPU架構兼容性較好，制造成本相對較低，可以較為容易的集成到現有的系統設計中去。而HBM技術通過堆疊內存芯片并利用硅中介層直接連接到GPU的方式，大幅度提高了內存帶寬，這對于需要大量數據吞吐量的AI模型訓練和推理極為重要，同時基于其設計和堆疊技術，HBM能夠在提供高帶寬的情況下，消耗較少的能量，對于減少AI計算中的能耗非常的關鍵。兩者雖都可以在AI產業有所應用，但HBM在高性能數據中心、超級計算機和人工智能等領域更具優勢。

圖源：EDA學習

HBM將會引領哪些材料發展？

1、先進封裝材料

（1）環氧塑封料：環氧塑封料是一種用于半導體封裝的熱固性化學材料，它主要由環氧樹脂作為基體樹脂，具有良好的絕緣性、耐熱性，可以在保護半導體芯片不受外界環境影響的情況下，起到導熱、絕緣、耐壓、支撐等復合作用。HBM的封裝過程需要使用高質量的環氧塑封料，因為這種材料可以適應HBM高帶寬、高頻率的工作環境，有效保護內部的芯片和電路，以確保信號的穩定傳輸和芯片的正常工作。

（2）底部填充膠：底部填充膠主要用于倒裝芯片封裝（Flip Chip）和其他形式的芯片封裝。在HBM的封裝中，它可以用于填充芯片與基板之間的間隙，起到增強連接強度、提高抗震性能和散熱性能的作用，防止由于熱循環造成的焊點疲勞和裂紋。隨著HBM技術的不斷發展，對底部填充膠的性能要求也越來越高，如需要高填充效率、良好的流動性和低熱膨脹系數。硅酸鹽、鋁氧化物常用作底部填充膠的填料來進行使用。

2、基板材料

HBM中需要用到大量的基板材料，這些材料需要滿足高帶寬、高速信號傳輸、高密度互連、良好熱管理、低介電常數、低熱膨脹系數等要求，以有效減少信號延遲、信號能量損耗、維持互連的穩定性。如在PCB基板方面，可以使用FR-4、聚酰亞胺、液晶聚合物。

3、散熱材料

（1）熱界面材料：HBM在工作時會產生大量的熱量，因此需要高效的散熱材料來保證其正常運行。熱界面材料是用于填充和改善內存芯片與散熱器之間熱接觸的材料。它們可以有效減少熱阻、提高熱傳導效率，從而將芯片產生的熱量有效的傳出。在HBM應用中，具有高導熱系數、低粘度、良好的柔韌性、低熱阻、良好的化學穩定性的熱界面材料是發展的重點，如高導熱的硅膠、石墨片等材料。

（2）散熱基板：散熱基板是散熱系統的重要組成部分，它主要是將內存芯片產生的熱量分散到更大的面積上，從而降低單位面積的熱流密度。在HBM的應用中，散熱基板通常是與散熱器、液冷系統等散熱系統協同工作，以確保內存模塊可以在高負載的情況下保持穩定的溫度。在選擇材料時，需要選擇具備高熱導率、良好的機械強度和加工性能的散熱基板材料，如金屬基復合材料、陶瓷基復合材料等。

4、硅通孔（TSV）材料

（1）絕緣材料：TSV技術是通過在芯片與芯片之間、芯片與晶圓之間、晶圓與晶圓之間制作垂直導通路徑，以實現芯片之間互連的技術，屬于HBM制造中一大關鍵技術。其中絕緣材料用于填充TSV孔的側壁，起到絕緣和隔離的作用。在AI時代，隨著TSV技術的不斷發展和HBM性能的不斷提升，對絕緣材料的要求也越來越高，如更高的絕緣性能、更好的耐高溫性能、更低的介電常數等。

（2）導電材料：TSV中的導電材料用于實現芯片之間的電氣連接，其性能直接影響著HBM的信號傳輸速度和帶寬。因此，具有高導電性、良好的抗電遷移性能和可靠性的導電材料，如銅、鎢等金屬材料，將會在HBM的TSV技術中得到廣泛的應用。

5、存儲材料

（1）DRAM芯片材料：HBM是由多個DRAM芯片堆疊而成，因此DRAM芯片的材料性能對HBM的整體性能有著重要的影響。在AI時代，為了滿足HBM對高帶寬、大容量、低功耗的要求，DRAM芯片的材料需要不斷改進和優化，如采用更先進的半導體材料、優化芯片的結構設計等。

（2）新型存儲材料：除了傳統的DRAM芯片，研究人員也在探索新型的存儲材料用于HBM，如相變存儲器（PCM）、磁性隨機存儲器（MRAM）、電阻式隨機存儲器（RRAM）等。這些新型存儲材料具有更高的存儲密度、更快的讀寫速度和更低的功耗，有望在未來的HBM技術中得到應用。

小結

生成式人工智能市場的迅速擴張，使得全球市場對AI服務器內存需求急劇上升，具有高帶寬、高性能的HBM已成為當下炙手可熱的產品。HBM市場的供不應求，使三大存儲巨頭三星、SK海力士、美光科技積極擴產，有望帶動上游先進封裝材料的需求。

參考文獻：

1、陳煜海,余永濤,劉天照,等.高帶寬存儲器的技術演進和測試挑戰[J].電子與封裝.

2、鐘偉軍,吳迪,孔憲偉.高帶寬存儲器測試技術研究[J].信息技術與標準化.

3、薛爽.基于高帶寬存儲器的圖計算加速機制的研究[D].中國科學技術大學.

4、倪雨晴.存儲市場回暖巨頭搶灘HBM高地[N].21世紀經濟報道.

5、許子皓.下一代HBM技術搶先戰拉開序幕[N].中國電子報.

粉體圈 Alice