當前，全球AI布局加速，大量AI模型不斷湧現，模型的推出和迭代極大地帶動了上游對算力的需求。 隨著國內數字基礎設施對資料負載的需求不斷增長，中國AI伺服器市場正在加速增長。
從整體發展趨勢來看，各國密集出台大模型相關政策，資料、算力、演算法更新迭代步伐加快，共同帶動AI大模型效能提公升。
以AI伺服器為載體的算力是人工智慧的終端表現之一。 與算力掛鉤的儲運能力也將相應提公升，這將帶動硬體算力晶元（GPU、FPGA、AISIIC等）、儲存晶元、光模組、PCB、電源管理、散熱等的增長。 從歷史上看，整個行業將看到人工智慧伺服器滲透率的提高帶來的增長。
據TrendForce集邦諮詢預測，預計2024年AI伺服器（含GPU、FPGA、ASIC等）出貨量近120萬台，同比增長38臺4%，佔整體伺服器出貨量的近9%。 人工智慧
計算能力的提高直接帶動了對伺服器的需求。 AI伺服器作為解決算力的核心支撐，可用於支援本地應用和網頁，也可以為雲端和本地伺服器提供複雜的AI模型和服務。
AI伺服器採用異構架構，GPU數量遠高於普通伺服器。
從伺服器上游成本來看，晶元、記憶體、硬碟佔伺服器生產成本的近百分之七十。 推理伺服器的GPU佔成本的25%，訓練伺服器的GPU佔總成本的73%左右。
AI伺服器與普通伺服器的主要區別在於架構不同，AI伺服器採用CPU+GPU FPGA ASIC等異構架構，而普通伺服器一般採用CPU架構; GPU 數量差異很大，單個 AI 伺服器使用的 GPU 數量通常在 4 個以上。
GPU架構是主流的加速架構，是伺服器的核心成本組成部分。 GPU採用平行計算，適用於圖形渲染、機器學習等處理密集型計算，AI算力需求的增加進一步提高了GPU卡的計算速度和使用要求。
與一般伺服器相比，AI伺服器的增加主要是由於AI晶元和記憶體頻寬的大幅增加，相應的數值和其他配套元件也進行了不同程度的公升級。
據半導體行業觀察，以NVIDIA DGX H100為例，GPU板組（含HBM）價值佔比最高，達到73%，其次是儲存約佔5%，其中DRAM佔比3%，NAND佔比約2%。 GPU 和儲存加起來佔總數的 90%。
此外，隨著算力的提公升，對散熱的需求也相應增加，液冷技術的引入有望為散熱環節帶來新的機遇。
與一般伺服器相比，AI伺服器增加了GPGPU的使用，因此HBM使用量約為320 640GB，NVIDIA A10080GB配置為4或8幀。
未來，AI模型的逐漸複雜化將刺激更多的記憶體使用，同時推動對serverdRAM、SSD和HBM的需求增長。
AI伺服器GPU成本佔比較大：
據統計，2024年北美四大雲廠商Microsoft、谷歌、Meta、AWS佔AI伺服器採購總量的66%左右，海外雲巨頭對AI伺服器的需求更大，但隨著國內AI大模型的開發和應用帶動更多的AI伺服器需求，中國AI伺服器市場空間有望進一步增加。
近年來，國內AI建設浪潮持續公升溫，位元組跳動年度採購量佔62%，其次是騰訊、阿里巴巴。 5% 對比 15%。
據IDC資料顯示，在市場份額方面，浪潮資訊、新華社.
3、超融合位列2024年中國AI伺服器市場份額前三，市場份額佔比如下。 00%。
2024年，浪潮AI伺服器在全球權威AI效能測評大賽MLPERF中斬獲49項冠軍，以全面領先的AI訓練和推理效能為AI研發和應用提供強勁動力，其AI伺服器產品已應用於AI+科學領域的全球領先網際網絡巨頭和領先科技公司， AI+Graphics、AIGC等，成為全球最大的AI伺服器提供商。
浪潮資訊盈芯伺服器NF5688M6和配置：
中科曙光是中國領先的高階伺服器製造商。 公司高階伺服器產品為全棧自研，具有規模化部署實踐; 持續發展算力服務業務，通過國家綜合算力服務平台，加速海量複雜行業應用的創新落地，為國內多個大模型提供算力支撐。
AI伺服器布局廠商還包括中國長城、拓威資訊、同方股份等。 上下游環節參展廠商眾多，部分代表廠商包括中興通訊、科大訊飛、海康威視、360、瀾起科技、龍芯中科、神州數碼、海天瑞聲、東華軟體等。
目前，AIGC和雲計算等先進技術給各行各業帶來了巨大的變化和機遇。 在此背景下，作為支撐大規模資料處理和高效能計算的重要基石，超級計算的需求和應用場景也呈現出持續增長的趨勢。
超級計算與雲計算的結合，為伺服器市場帶來了新的增長點。 雲計算的彈性和可擴充套件性使超級計算資源更高效地服務於科學研究、工業設計、模擬和大資料分析等多個領域。 這種組合不僅提高了計算效率，還降低了使用成本，讓更多的機構和企業可以享受到超級計算帶來的便利。
與此同時，超算所需的AI高階伺服器也成為伺服器市場的新星。 AI伺服器具有更高的效能、更強的穩定性和更好的擴充套件性，可以滿足超算在計算速度和資料處理能力方面的嚴格要求。 隨著超級計算應用的不斷普及和深化，對此類高階伺服器的需求將持續上公升，有望帶動整個伺服器市場實現進一步增長。
關注樂清智庫，洞察產業格局！