對 HBM 的需求激增，強烈推薦給材料方面的公司

AI產生了巨大的算力需求，HBM晶元需求呈爆發式增長，上游材料企業迎來了新的發展機遇。

2022 年 11 月底，OpenAI 發布了一款名為 ChatGPT 的對話式聊天機械人模型，該模型一經推出就迅速在網際網絡上走紅。 2024年3月，OpenAI正式推出大規模多模態模型GPT-4，引領AI大模型突破。 2024年12月，谷歌AI模型Gemini發布，再次引發市場關注。

海量資料產生巨大的計算能力需求，而 HBM 晶元具有更高的頻寬、更高的位寬、更低的功耗和更小的外形尺寸，使其成為 GPU 晶元的記憶體解決方案。

HBM 已成為 GPU 晶元記憶體解決方案，需求井噴。

HBM有效解決了“記憶體牆”和“電源牆”的問題，成為GPU晶元的記憶體解決方案，需求進入井噴階段。 HBM 代表高頻寬記憶體（HBM），是一種新興的 DRAM 解決方案。 HBM 採用基於 TSV（矽通孔）和晶元堆疊技術的堆疊 DRAM 架構，只需將記憶體晶元堆疊成矩陣，然後堆疊在 CPU 或 GPU 旁邊，通過 UBUMP 和 Interposer（中介層，用作互連的矽）實現超快速連線。然後，轉接板通過BUMP和Substrate連線到Ball，最後BGA Ball連線到PCB。 HBM 的優點是：1）更高的頻寬;2）更高的位寬;3）更低的功耗4）更小的外形尺寸。

HBM晶元的不斷迭代是視訊記憶體未來的發展方向，滲透率有望持續提公升。 最初，AMD 與 SK 海力士和 Amkor 合作開發高記憶體、低功耗視訊記憶體。 2013 年，海力士宣布成功開發 HBM1，定義了這一記憶體標準2024年，三星宣布開始量產4GB HBM2 DRAM，同年內開始量產8GB HBM2 DRAM2024年，海力士宣布量產HBM2，三星宣布開始量產第二代8GB HBM2產品“Aquabolt”。2024年，海力士研發出新一代HBM2E，三星宣布推出16GB HBM2E產品“Flashbolt”;2024年，海力士研發出全球首款HBM3，美光HBM2E產品上市2024年，海力士將量產全球首款HBM3 DRAM晶元，並供應給英偉達，三星HBM3技術將實現量產2024年，海力士率先推出HBM3E，三星將發布全新HBM3E產品“Shinebolt”。未來，隨著AI伺服器需求的快速增長，由於HBM滲透到普通伺服器和個人PC中，市場規模將迅速增長。

封裝技術不斷發展，對配套材料的需求也在同步發展

先進封裝是延續摩爾定律的重要手段，異構整合+高速互聯塑造了小晶元的里程碑。在小晶元技術的背景下，大型單片晶元可以分為多個相同或不同的小晶元，這些小晶元可以使用相同或不同的工藝節點製造，然後通過跨晶元互連和封裝技術在封裝層面進行整合，以降低成本並獲得更高的整合度。它的出現離不開兩大趨勢：

1）計算機系統的異構性和整合度越來越高

2）資料通路頻寬和晶元間延遲問題已被業界解決（先進封裝）。

Chiplet的核心是實現晶元之間的高速互聯，同時兼顧多晶元互聯後的重新佈線。根據UCIE聯盟發布的小晶元***，它支援市面上主流的四種封裝方式，分別是：

1）標準封裝，將晶元之間的金屬線嵌入封裝基板中;

2）使用矽橋連線晶元，將矽橋嵌入封裝基板中，如Intel的EMIB解決方案

3）使用矽中介層連線晶元並重新佈線，然後將矽中介層封裝到基板上，例如：台積電Cowos解決方案;

4）使用扇出式中介板進行重新佈線，在晶元連線處只使用矽橋連線，如：ASE FOCOS-B方案。

TSV 和 25D 封裝技術賦予 HBM 卓越的效能

CoWO封裝是HBM的底層技術，台積電緊張的產能限制了AI計算卡的數量。目前，HBM晶元的封裝是通過COWOS技術完成的，CODOS=COW（正面封裝）+OS（背面封裝），其中COW=晶圓上的晶元，這是通過技術和矽中介層連線晶元晶元的過程，OS=ON襯底，這是通過顆粒和凸塊線將堆疊的晶元和矽中介層連線到襯底的過程，最後將其整合到電路板中。CODOS是乙個複雜的製造過程，而台積電目前是主要的供應商，因為CODOS的產能很大程度上限制了AI計算卡的數量，包括NVIDIA、AMD、AMAZON、Broadcom等，都在等待台積電釋放CODOS產能。 2024年6月，台積電宣布在竹南連續開產六端晶圓廠，占地14座3公頃的土地足以滿足每年100萬片晶圓的3DFABRIC產能，包括CODOS、SOIC和INFO技術。