原作者：萬物有靈論。
原文**：水晶上的世界。
近年來，人工智慧（AI）迅速崛起，成為全球技術和行業界關注的焦點。 隨著AI技術的不斷突破和應用場景的不斷拓展，市場對AI PC、AI手機、AI汽車的關注度不斷提高，AI晶元作為支撐AI計算的核心硬體，也迎來了前所未有的發展機遇。
根據 OpenAI 的估計，自 2012 年以來，全球用於 AI 訓練的計算量呈指數級增長，平均為 3它將在 43 個月內翻一番。 AMD預測，到2027年，全球資料中心AI計算市場規模將超過1500億美元（約合人民幣12億元）095萬億元），年復合增長率超過50%。
自英偉達率先稱霸AI大規模模型計算晶元市場，市值突破萬億大關以來，英特爾、AMD和中國GPU晶元公司也紛紛下手，渴望在AI晶元市場分一杯羹。 然而，在無盡的風景背後，無論是行業領軍人物還是獨角獸菜鳥，都有自己的“難經”。
夢想與現實之間還有一段距離
目前，AI晶元市場仍由英偉達主導，據最新測算，其全球市場份額已達90%，創下新紀錄。 然而，隨著全球科技巨頭、雲服務提供商和初創公司爭先恐後地尋找計算資源來開發自己的 AI 模型，英偉達的晶元供不應求，而且浪潮也在上公升。 為了避免被別人控制，節省成本，各大巨頭紛紛宣布推出自己的AI晶元。
AI圈最近的熱點之一是OpenAI首席執行官Altman計畫開發自己的AI晶元，並正在與台積電和中東投資者進行談判。
作為第一家涉足自研晶元的廠商，亞馬遜已經擁有兩款AI專用晶元——訓練晶元Trainium和推理晶元Inferentia; 谷歌有乙個張量處理單元（TPU）; Facebook母公司Meta在十年前就開始發力，終於在去年5月19日首次正式公布了自研AI晶元MTIA的進展; Microsoft 還在 Ignite 2023 上宣布了 Azure Maia 100，這是一款用於資料中心的 AI 晶元。
不過，Microsoft和Meta在研發方面一直比較緩慢，仍然依賴英偉達的晶元。 根據市場研究公司 Omdia Research 的最新報告，2023 年，Meta 和 Microsoft 以 150,000 個 H100 GPU 的購買量並列第一。 Microsoft預計去年11月發布的AI晶元Athena也一再推遲，Meta近日宣布將斥資近100億美元購買35萬台H100，這也說明自身研發進展不順利。
2023 年 Nvidia H100 的最終出貨量估計，來源：Omdia Research
國內廠商過冬難熬
近3-4年，國產AI晶元企業可以說是盛開，海思、隨源、寒武紀、地平線等實力雄厚的廠商都在努力追趕國外巨頭，希望打破AI晶元的壟斷格局。
然而，激烈的呼聲已經消散，這些昔日紅極一時的獨角獸的命運，似乎越來越不確定。
近日，碧辰科技重要成員徐靈傑宣布辭職，這是繼GPU產品線總經理焦國芳辭職後，碧辰科技失去的第二位聯合創始人。 這一系列高層變動，無疑給公司未來的發展蒙上了陰影。
與此同時，在市場上備受關注的AI晶元公司寒武紀也處於困難時期。 公司連續七年虧損，市值大幅縮水，創始股東也持股第一。 曾經籠罩著我們的中科院光環，幾乎消散了，AI晶元市場的泡沫似乎有破滅的危險。 從2023年第二季度開始，寒武紀就面臨裁員風險，近日旗下星歌科技也宣布將大規模裁員。
曾經風靡國內的AI晶元廠，如冬之火，抵擋不住大環境和外界禁令的包圍，陷入了寒冬和困境。 資本市場對AI晶元的追求也變成了乙個靈魂折磨問題：它能熬過這個冬天嗎？
我們不需要假裝公司總是處於危險之中，我們確實處於危險之中，“英偉達創始人黃仁勳在去年11月的一次演講中表示。
壓力首先來自同行的圍剿和打壓
在產品方面，除了那些“不忠”的客戶，他們開發了自己的晶元，AMD和英特爾以及兩個老對手，每次發布新晶元，他們也會與NVIDIA進行比較。 例如，當AMD在12月6日推出Mi300X時，它聲稱效能優於NVIDIA的AH100。 英偉達隨後發布了自己的基準測試作為回應，表明AH100在正確的設定下仍然更好。 AMD再次對此做出了回應，發布了新的基準測試，再次表明Mi300X在正確的設定下表現良好。
生態建設方面，英偉達晶元帝國的護城河CUDA也遭到猛烈攻擊，MLIR、谷歌、OpenAI等正在轉向“基於Python語言的程式設計層”，讓AI訓練更加開放。
與白宮的“貓捉老鼠遊戲”
近年來，為了限制中國在人工智慧領域的發展，美國頻頻出台或修改出口管制法規，要求“高效能半導體”不能出口到中國，英偉達的王牌晶元A100和H100首先被狙擊，為了保住中國市場，英偉達不斷閹割效能以符合規定， 並陸續推出“一次降級晶元”A800和H800、“次降級晶元”H20、L20、L2等多款產品，但國內雲計算企業對英偉達的訂單仍然越來越少，紛紛轉而購買華為等本土公司研發的晶元。
1月26日，美國商務部長雷蒙多直言不諱地表示，美國正在“盡一切努力阻止中國獲得計算能力”。 可以看出，美國**將繼續收緊對華出口標準，限制中國企業能夠獲得的算力，進而降低AI訓練效率，保持其在人工智慧領域的領先地位。 可以看出，英偉達和白宮之間的這場“貓捉老鼠遊戲”還會繼續。
伴隨市場損失而來的寶貴資料
如上所述，網際網絡巨頭或AI公司開發自己的AI晶元正在成為一種趨勢，雖然困難重重，但他們擁有英偉達需要的重要資源，那就是資料。
當AI演算法開發中遇到的各種問題和資料反饋給英偉達時，英偉達可以在後續迭代中改進其產品並改善使用者體驗。 中國在人工智慧領域走在世界前列，英偉達與中國市場一起失去的，將是無法用數字計算的價值。
雖然發展勢頭有所減弱，但由於第一鏈和生態優勢，英偉達在AI計算晶元領域的主導地位短期內不會改變。 但無論是晶元公司還是下游客戶，都不希望看到“英偉達”走在前面。
在AI晶元的藍海中，競爭日趨激烈。 面對這樣的市場環境，AI晶元產業發展的動力是什麼？ 您如何發現新的競爭優勢？
儲存和算力的融合，使算力提公升了乙個數量級
在基於資料的AI計算下，凸顯了馮·諾依曼架構的“儲存牆”和“權力牆”的挑戰。 隨著計算能力的增加，處理器核心的數量增加，每個核心的可用頻寬減少，從而限制了整體速度。 傳輸資料成為相當大的瓶頸。 如果沒有儲存優化，晶元提供的算力將大大降低。
如今的計算處理器，如CPU、GPU或AI專用晶元，都是採用馮·諾依曼架構設計的，80%的功耗發生在資料傳輸中，99%的時間消耗在記憶體寫入過程中，而真正用於計算的能耗和時間其實很低。
因此，只有在低功耗的基礎上實現大算力才是可持續發展。
儲存與計算的融合是將計算機中的計算從一流的處理器轉移到記憶體中，並直接在儲存單元內部進行操作，可以減輕資料處理，大大減少計算過程中的資料交換時間和資料訪問能耗。
儲存與計算的融合是實現高頻寬、低功耗和計算要求的有效途徑，如何有效控制記憶體計算介面是乙個重要的挑戰。 誰擁有兼顧計算密度和儲存密度的記憶體計算硬體架構，誰就擁有解鎖高能效計算的金鑰匙。
2019年之後，AI晶元新廠商大多處於儲算一體化布局：據Cirui Insight不完全統計，2019-2021年新增AI晶元廠商20家，其中，有10家選擇儲算一體化路線。 整體來看，目前國內外儲存與計算的融合還處於起步階段，而儲存與計算的融合正處於從學術界向工業界遷移的關鍵時期，因此這可能是國產晶元發展的另乙個重要方向。
資料**：對公司的見解。
系統級創新
AMD首席執行官蘇姿丰曾指出，按照目前的計算效率，每兩年將增加2個到2035年，要達到10萬億級算力，所需功率將高達500MW，幾乎相當於半座核電站的輸出功率。 面對這種不切實際的能耗，系統級創新就顯得尤為重要。 它不再侷限於單個晶元或電路設計，而是需要從上到下考慮，包括軟體、系統架構、封裝技術等層面，以實現整體效能優化。
同樣，在歐洲三大半導體研究機構IMEC、CEA Leti和Fraunhofer的聯合演講中，系統級創新是半導體未來的核心。 隨著半導體工藝接近其物理極限，僅靠工藝提公升已無法滿足新的應用要求。 特別是下一代智慧型汽車和人工智慧應用的需求更加複雜多樣，需要在系統層面進行整體思考和創新。
晶元設計的正規化變革，**孫寧輝院士整合晶元與晶元會議報告。
系統級創新或系統流程的協同優化是一種新的設計理念。 從產品需求入手，向後推導到系統架構、晶元設計、半導體工藝等各個環節。 通過各環節的協同優化，大大提公升了產品效能。 這種“由外而內”的設計理念打破了傳統半導體設計的侷限，為行業帶來了新的發展機遇。
蘇姿豐舉了乙個經典案例。 同時在模型演算法層面採用創新的數字系統（如8位浮點FP8），在電路層對演算法層進行優化和支援，最終將計算層的效率提公升幾個數量級：與傳統的32位浮點數（FP32）相比，FP8的計算效率可提高多達30倍之多。 但是，如果只優化FP32計算單元的效率，無論如何都很難實現乙個數量級的效率提公升。 這證明了系統級創新在提高計算效率方面的潛力。
特定於域的計算支援工作負載優化，以提高效能和效率。 資料來源：ISSCC2023會議。
萬帆競速，創新領航
在技術飛速發展的時代，創新是打破技術壁壘、提公升競爭力的關鍵。 中國AI晶元廠商正面臨著國際技術封鎖和市場競爭的雙重壓力，只有通過不斷創新，才能在激烈的競爭中立於不敗之地。
未來，異構計算集群、特定加速單元、先進封裝技術、高速晶元間UCIe互聯、一體化儲存計算等儲存技術的整合創新，將為半導體產業帶來新的發展動力和方向。 畢竟，坡度長、積雪厚的AI算力晶元賽道，如果缺乏核心競爭力，僅靠融資和輸血來維持公司的研發投入，就很難持續下去。
end - 免責宣告：我們尊重原創性，也注重分享; 文字的版權屬於原作者。 如有侵犯您的權益，請及時與我們聯絡，我們會盡快刪除，謝謝！
原作者：萬物有靈論。
原文**：水晶上的世界。