Server Expert Exchange AI 伺服器市場仍在上公升

Mondo 科技 更新 2024-03-08

總結:

1.伺服器行業趨勢及前景分析

2023年,國內伺服器市場將受到普通伺服器的擠壓,雖然AI伺服器的需求將增長,但會受到外部環境帶來的不穩定因素的影響。

全球AI伺服器增長呈現不規則節奏,23年底國產AI伺服器卡市場份額有所提公升,2024年一般伺服器市場仍在上公升。

2024年通用伺服器銷量預計為20.022億台,佔網際網絡行業的40%; AI伺服器市場以國產卡為主,國產訓練卡數量**約25萬張。

2.分析 AI 伺服器市場和 NVIDIA 動態

預計2024年中國AI伺服器市場需求量為50萬台H800,但英偉達的市場份額因出口限制而減半,剩餘的25萬台由HW和海光共享。

英偉達2023年實際出貨量約為203萬張AI和H系列訓練卡,預計2024年將接近400萬張,其中H100為主,預計為300萬張; A100 大幅減少到 200,000 張。

預計到2024年,AI伺服器的整體銷售額將增長約30%,而隨著主要客戶轉向推理伺服器和卡,第四季度訓練伺服器的購買量將放緩。

3.英偉達市場管控與戰略分析

英偉達面臨激烈的競爭,但北美市場的訓練卡基本處於壟斷地位,AMD和英特爾的產品很難構成威脅,網際網絡廠商自主研發的GPU主要在內部使用。

在國內市場,由於HW等公司的競爭,英偉達H20的價格已經下調,利潤也不高; 海外市場利潤可達50-70%。

Nvidia 已將 H100 的定價調整為 22,000 美元,並為 B 和 HR 版本**預留了空間,因此 B100 和 H200** 不會低於客戶的期望。 今年H100不會再降價,因為量產已經開始,市場接受度不錯。

4.ODM市場占有率及盈利能力分析

北美市場穩定:台灣三大ODM代工在北美市場占有率相對穩定,不降價搶占市場份額維持高利潤,在產能範圍內維持訂單市場份額。

盈利能力變化:去年,F7平台伺服器的初期量產有補貼,今年隨著產量的增加和成本的降低,毛利率有所下降。

新平台產品將繼續實現高毛利率:H200和B100平台預計將於2025年開始量產,雖然單價有所下降,但由於前期補貼等因素,毛利率仍然很高。

5.電路板和模組市場發展前景

伺服器卡及模組市場現狀:2024年,H100板仍100%由FII代工,其30%的模組由FII代工,其餘70%由臺偉創代工。 預計2025年這種情況將持續下去,B100板模組將繼續由這些工廠共享。

H20板效能及**變化:2021年11月H20第一版效能與H800相當。 由於美國要求降低計算能力,H20 效能降低到 H800 的 70%,*s 也相應降低。 從英偉達伺服器非法渠道走私的數量非常少,老客戶不會購買沒有保修的產品。

AMD對伺服器市場的估計:AMD預計在2024年出貨35萬張訓練卡,但仍處於測試階段。 AMD 的成功取決於從 NVIDIA 生態系統到 AMD 平台的遷移。

2024年**和市場對HW Ascend系列的預測:910B**約為85,000元,整個訓練伺服器約為150,160萬元人民幣; 910c**預計將達到17,180,000元人民幣。 HW在國內培訓卡市場的市場份額預計將達到30%至40%。

會議紀要**:溫八沽研究]小程式

q&a

問:2023年中國伺服器行業市場表現如何? 包括銷售、出貨量、市場結構和下游客戶特點? 而2024年初的市場展望,通用伺服器和AI伺服器之間的趨勢變化?

答:2023年整體而言,伺服器行業在AI伺服器領域經歷了快速增長,而通用伺服器則遭遇了市場份額的擠壓。 這種現象主要由幾個因素造成:一是終端客戶在固定預算下購買AI伺服器花費較多; 其次,隨著平台的切換,終端客戶購買通用伺服器的積極性減弱; 此外,隨著英特爾等公司發布下一代平台,相關元件的成本仍然居高不下,這使得通用伺服器的購買量難以增加。 2023年,國產AI伺服器將快速增長,但增長不會有固定的節奏,部分原因是GPU卡廠商受到了美國制裁的影響,尤其是Nvidia GPU卡,極不穩定。 然而,隨著美國對其產品實施制裁,HW的鯤鵬、海光等國內替代品開始獲得市場份額,為國內AI伺服器領域提供了新的增長點。 相比之下,通用伺服器在2023年將出現約15%的下滑,而且這種下滑可能會持續到2024年。

總體而言,通用伺服器市場仍處於負增長狀態,估計出貨量為20.022億台。 主要影響包括網際網絡公司的衰落和國內政策對網際網絡行業的控制。 2024年初,AI伺服器市場有望繼續增長,但由於英偉達效能卡效能下滑,國內市場訓練伺服器數量預計在3萬台左右。

問:2024年中國伺服器市場將面臨哪些挑戰和變化?

答:2024年,中國伺服器市場面臨的主要挑戰是通用伺服器的負增長趨勢。 感謝 PC50 平台元件,如 DDR 5 記憶體和 CPU** 不降反公升,市場總體上有所改善。 預計國內通用伺服器市場將保持10%左右的負增長。 網際網絡行業是最大的市場份額,其次是運營商、金融等行業。

AI伺服器市場正處於成長期,但受國際政策和晶元制裁的限制,硬體產品等國產卡產品或將獲得更多市場機會。 另一方面,英偉達宣布在中國市場推出效能較低的H20替換卡,估計數量約為25萬張。

整體來看,AI伺服器市場依然看好,但通用伺服器的挑戰較大,市場格局或將發生變化。 需要特別關注的是英偉達與中國本土顯示卡廠商之間的市場競爭,以及國內替代品對市場結構的影響。

據研究測算,最初預計2024年H800卡在中國大陸AI伺服器市場的份額約為50萬張。 不過,由於美國的限制和H20卡的普及不足,英偉達在中國市場的份額下滑至約25萬張,主要由HW和海光共享。 預計2023年國內AI伺服器市場總量在12萬至14萬台之間,同比增長近30%,表明AI伺服器市場整體呈現大幅增長。

問:英偉達近年來是如何出貨訓練卡的?

答:2023年,英偉達A、H系列訓練卡實際出貨量約為203萬張,其中A卡100萬張,H卡103萬張。 預計2024年出貨量近400萬張,其中H卡為主,預計出貨量約為300萬份,A100出貨量約為20萬件。

問:您能否提供英偉達每季度出貨量的估計?

答:英偉達預計在2024年第一季度出貨7萬台A100和85萬台H100。 第二季度,A100的出貨量為6萬台,H100的出貨量為90萬台。到第三季度,A100 將降至 30,000 張,而 B100 和 H200 將開始小批量生產**。 第四季度A系列和H系列卡的出貨量基本持平,而B100和H200繼續增長。

隨著客戶需求在第三季度開始轉向推理伺服器和卡,以及新型號 B100 和 H100 準備進入市場,預計下半年增長將放緩。 季度出貨量可能會有所調整,預計將在3%左右波動。

問:英偉達訓練卡在全球市場的地位如何?

答:從2023年第三季度開始,台電科華將恢復產能,全球市場培訓卡情況將有所改善,北美市場**將相對正常。 中國市場正在緩慢復甦。

問:新款 Nvidia B100 和 H200 的定價是多少?

答:B100 和 H200 卡在北美的預期接受度**分別在 37,000 美元至 39,000 美元和約 29,000 美元和 31,000 美元之間。 **將根據客戶接受度和市場反饋確定。

這兩款新卡目前處於測試階段,計畫於 2024 年第三季度逐步推向市場,H200 最遲於 6 月開始,B100 最遲於 8 月開始**。

問:英偉達在當前市場上的競爭狀況如何? 他們的產品在國內和國外市場的效能和盈利能力是否存在差異?

答:英偉達在北美市場的訓練卡基本處於壟斷地位,無論是AMD產品還是英特爾產品,都無法對英偉達構成威脅。 國外市場的控制力遠高於國內市場,海外利潤率可以保持在很高的百分比,甚至可能達到70%)。然而,在中國,由於HW等公司的競爭,英偉達的本土**已經下滑,利潤也不高。 總的來說,英偉達的訓練卡沒有理由在海外下調,因為他們對海外市場的控制力很強。

Q:Nvidia H100卡的**調整情況如何? 未來還有降價空間嗎?

答:Nvidia H100卡今年1月的售價在2.4萬元至2.5萬元之間,1月底調整為2.2萬元。 此次價格調整為B版和HR版預留了空間。 預計 B100 和 H200** 的放置位置不會比客戶預期的低太多。 提到之前未下單的產品將按新**發貨,已經下單但尚未發貨的產品將按舊**發貨。 至於H100,相信今年不會降價,因為已經開始量產,市場已經接受了這款產品,沒有必要降價。

問:您如何看待資訊創新市場的現狀? 目前國內晶元市場的換代情況如何?

答:在資訊創新市場,運營商已基本完成換代,預計到2025年,金融行業也將完成近100%的換代,儘管資料庫等部分核心技術未必完全替代。 目前,中國移動等大型網際網絡公司的框架招標大多使用國產晶元。 在運營商方面,HW盛騰約佔60%的份額,海光約30%屬於寒武紀等其他廠商。 在金融領域,海光約佔50%的份額,HW約佔40%。 整體來看,初創產業的推動為國內一些主要晶元廠商提供了支撐,包括HW、海光、飛騰、寒武紀等。

問:今年伺服器COEM市場的競爭會有什麼變化嗎? 例如,北美市場的情況,以及OEM的份額和盈利能力的變化。

答:從北美市場來看,台灣三大主機廠富士康、廣達和英業達的份額非常穩定,因為這些主機廠通常不會通過降價策略來爭奪市場份額。 相反,它更專注於保持穩定的高利潤。 至於盈利能力,去年確實有一些對早期平台研發的補貼,導致額外的研發費用轉化為主機廠的利潤,比如H100平台的AI訓練伺服器去年售價在27-29萬美元左右,毛利率在7%-8%左右,而今年的單價跌至23-25萬美元, 毛利率約為5%至6%。儘管如此,北美客戶在小批量生產方面仍然有更好的利潤率,而大批量生產的利潤率雖然被降級,但仍高於通用伺服器。

問:關於新平台H200和B100,今年的生產情況如何? 在這些新平台上,有沒有補貼和產業團聚的情況?

答:今年,隨著客戶需求的增長、現有客戶的增加和新客戶的增加,OEM的情況將有所改善。 例如,富士康已經搶走了大約5%的市場份額,它還佔據了蘋果所有Effie Chey伺服器的市場份額。 至於新平台,H200和B100的補貼情況將持續下去,因為在新車型的研發和小批量生產階段,通常會有雲廠商提供的補貼。 就B100而言,新平台使用液冷系統,成本可能接近50萬美元。 預計將於第三季度開始試生產,並將於2025年1月開始量產,並進行新的批量生產**。

問:H100板卡和模組的OEM現狀和未來變化如何?

答:目前,H100元件代工100%負責FII**,至於元件,H100模組代工份額由Barka模組產業聯合體承擔30%,其餘70%由台灣偉創負責。 未來,即2024年,預計情況仍將如此,但到2025年,可能會推出新的板卡B100板,模組代工廠仍有望由產業聯盟和偉創聰共享。 至於H800板,以後就不再生產了。

問:H20板的效能有什麼變化?

答:h20 的 ** 約為 12,000 至 14,000 美元,而渠道提供商的 ** 高出約 1,000 美元,約為 15,000 美元。 在效能方面,因為英偉達在11月推出H20時,其效能和**都保持在較高水平,但隨後由於美國的要求,英偉達在12月底降低了H20的算力,導致其效能下降,**也有所下降。 目前的 H20 效能比 H800 低約 20% 到 30%。

問:關於 AM DH 100 主機板的生產和市場需求,以及 AMD 對 2024 年的出貨量預測,有哪些資訊?

答:AMD仍處於測試階段,AMD給出的M 300效能與NVIDIA H 100相當,並預計下一代M350將超過H100。 但是,由於軟體平台的遷移尚未完全完成,客戶測試仍在進行中。 至於出貨量,根據客戶測試,AMD 內部預計 2024 年出貨量約為 350,000 臺 M 300。

問:關於昇騰系列產品 910 和 920 的**和預計出貨量的資訊是什麼?

答:在昇騰系列產品**中,910B大約是85000元,整個訓練伺服器大約是150到160萬元。 對於2024年的910c,單體價格預計將達到17至18萬元。 從市場容量來看,假設每年的訓練卡市場在50萬台左右,硬體可能佔據15-20萬台,成為市場的主要份額。

問:FII在晶元代工方面的優勢是否有可能被谷歌或AMD的新晶元所取代?

答:FII在2025年的市場預測中已經考慮到了英偉達晶元的市場份額,因為訓練卡的增長從今年第四季度開始放緩,預計到2025年增長會更小。 因此,FII正在考慮如何利用可能可用的產能,並已與AMD接洽,討論未來的晶圓代工情況,以彌補產能缺口。 此外,雖然FII是大陸註冊企業,但其晶元和伺服器代工廠分別不在大陸,分別位於台灣和墨西哥,因此不會受到美國制裁的影響。

問:FII和Taina的兩家OEM公司有什麼優勢?

答:在英偉達晶元代工方面,FII在訓練卡方面有很大的優勢,但在推理卡代工方面的份額還沒有達到廣大水平。 目前,大多數是伺服器處理領域實力最強的,其次是工業財富聯盟。 未來英偉達對推理卡的需求會增長,而對訓練卡的需求會減少,除非出現與廣大財富聯盟的嚴重問題,否則英偉達不會輕易改變**業務。

會議紀要**:溫八沽研究]小程式

相關問題答案

    裸機伺服器與租用伺服器

    在當今的網際網絡時代,隨著雲計算技術的不斷發展,裸機伺服器和租用伺服器已成為企業和個人使用者在構建網路基礎設施時經常面臨的選擇。它們中的每乙個都有自己獨特的優勢和應用場景,下面我們將深入探討裸機伺服器和租用伺服器之間的區別,以幫助您更好地了解和選擇適合您需求的解決方案。首先,讓我們來看看BMS。裸金...

    apex Legends 伺服器無法進入、伺服器掉線和連線中斷的最新解決方案

    解像度。.網路優化 檢查本地網路環境,確保網路連線穩定,無丟包。重新啟動路由器,清除 DNS 快取,或嘗試切換到有線連線,以減少來自無線網路的可能干擾。解像度。.使用工具。面對因Apex Legends伺服器不進入 伺服器掉線 連線中斷而導致的連線中斷的最新解決方案,我們可以使用 迅易易友 解決問題...

    國產伺服器網絡卡與進口晶元伺服器網絡卡效能測試

    伺服器網絡卡的主要功能是管理和處理網路流量,這需要穩定 可靠和出色的資料傳輸。受近兩年缺芯浪潮影響,國產晶元快速推進,不斷取得新突破 新進展,成為工業乙太網控制器領域的一顆冉冉公升起的新星,為使用者提供了更多選擇。一些使用者在購買網絡卡時,在國產產品和進口產品之間猶豫不決,甚至傾向於購買進口產品,認...

    伺服器和雲伺服器哪個更安全?

    隨著雲計算技術的不斷發展,越來越多的企業選擇使用雲伺服器來儲存和處理資料。但是,對於某些企業來說,他們可能更喜歡使用傳統伺服器。在這種情況下,安全性成為乙個重要的考慮因素。那麼,伺服器和雲伺服器哪個更安全?傳統伺服器是通過本地硬體和軟體實現的,而雲伺服器是通過雲計算技術實現的虛擬伺服器。這意味著可以...

    伺服器除塵對伺服器維護的好處

    作為伺服器除塵專家,我知道伺服器除塵對伺服器維護的重要性。伺服器作為企業重要的資訊處理和儲存裝置,在資料中心和機房中發揮著至關重要的作用。但是,隨著時間的推移,伺服器不可避免地會積聚灰塵和汙垢,這會對其效能 穩定性和使用壽命產生負面影響。因此,定期對伺服器進行除塵至關重要。.提高伺服器效能 伺服器的...