生成式AI技術浪潮，給雲計算產業鏈、資料中心等基礎設施帶來了多維度、大規模的需求。 然而，AI不僅僅是資料中心的場所，從業者正在將AI功能載入到邊緣和終端中。 在不久的將來，人工智慧將深入全球數十億臺裝置，惠及每一位消費者的工作和生活。
傳統上，人們所指的人工智慧是基於伺服器的人工智慧或生成式人工智慧。 但我們相信，AI也可以存在於邊緣，存在於網路中，從傳統的資料端一直到儲存和伺服器，並融入到每乙個計算過程中。 在上月底舉行的ARM技術研討會年度技術大會上，ARM高階副總裁兼基礎設施業務部總經理Mohamed Awad告訴記者。
Mohamed Aad，ARM 高階副總裁兼基礎設施業務部總經理
從雲服務和資料中心的基礎設施端，到手機等智慧型裝置，再到讓物聯網資料更貼近資料來源和使用者的邊緣端，Arm在AI領域已經或正在部署的每個節點都推出了解決方案。
AI市場的競爭本質上是開發者生態的競爭。 為了支撐AI時代使用者的定製化和專有化需求，ARM以完整、全面的計算平台全方位賦能開發者生態，成為產品發布和產業創新的“加速器”。
將 AI 功能引入雲邊緣
在傳統的基礎設施架構中，該中心是乙個標準的現成CPU，記憶體和多個加速器連線到CPU。 因此，每個加速器都需要通過 CPU 訪問記憶體。 在人工智慧時代，很明顯，這樣的架構無法應對人工智慧所需的資料量和計算量。 大多數雲服務提供商和資料中心基礎設施提供商迫切需要定製 CPU，以便每個 CPU 核心可以直接連線到每個加速器，以實現系統級記憶體一致性。
Arm的獨特之處在於，它使晶元設計人員能夠按需定製晶元架構，並基於強大的ARM軟體生態系統為整個開發過程賦能，從而加快產品上市時間。 這也是為什麼英偉達、亞馬遜、阿里雲、Microsoft等國內外領先的雲廠商都選擇開發自己的基於ARM架構的算力晶元。 NVIDIA GH200 Grace Hopper 超級晶元使用的架構由 NVIDIA 和 ARM 聯合定製。 該架構由 72 個 ArmNeoverse 核心組成，結合 NVIDIA 的 GPU，每個核心直接連線到每個加速器，與基於 x86 的系統相比，AI 效能提高了 10 倍。
在智慧型終端領域，圍繞手機的技術和場景創新進入了白熱化階段。 手機不僅是消費者最常用的通訊娛樂裝置，也成為移動辦公的載體，甚至是大機型的部署目標。 手機製造商迫切需要乙個能夠根據各種消費者需求進行擴充套件的計算基礎。
在選擇CPU集群的配置時，手機廠商往往會根據其最終目標受眾的使用者場景選擇合適的CPU配置，這也是Arm的CPU戰略的一部分，使合作夥伴能夠為其客戶選擇合適的CPU效能。 在當下的高階智慧型手機市場，我們經常可以看到很多不同的想法，每家公司都有不同的策略，這正是Arm所期望看到的ARM IP靈活配置帶來的多元化和差異化。 Arm今年推出了2024年整體計算解決方案（TCS23），該解決方案集物理IP、架構、工具和軟體於一體，為SoC開發提供一站式、極簡的技術支援。 作為 TCS23 的一部分，Armv9 Cortex 計算集群已連續第三年實現了兩位數的效能提公升。 Arm 旗艦 GPU Immortalis 不僅率先將光線追蹤和可變速率著色能力引入手機，而且全新的第五代 GPU 架構還優化了 TCS23 中外部記憶體、CPU 集群和系統級快取之間的互動，以提高整體效能。
我們面向移動平台的 ARM 綜合計算解決方案支援在移動裝置上實現 AI。 此外，我們的 ARM Cortex-M52 和 Cortex-M55 是支援 AI 的產品，並持續賦能和支援 AI 開發。 穆罕默德·阿哈德說。
當AI進入邊緣時，物聯網不僅是裝置資訊的採集和傳送者，還可以利用AI實現高階維護、感測器融合、工業控制等功能。
ARM 為物聯網領域提供全面的物聯網解決方案，通過結合硬體 IP、平台軟體、機器學習 （ML） 模型、工具等來簡化開發並加速產品設計。 Arm Helium 技術是 Cortex-M 處理器系列的向量擴充套件，可顯著提高小型嵌入式裝置的機器學習和數字訊號處理能力。 在 ARM 最新的 Cortex-M52 中，ARM Helium 是 ARMV8Cortex-M52 在 1M 架構系列中增加了 150 條新的標量和向量指令，使其能夠實現 2 種數字訊號處理能力7 倍提公升和 5 種機器學習功能6 倍提公升。 面對物聯網裝置場景細分化、多樣化的特點，ARM Corstone解決方案提供了關鍵的IP整合配置，使能不同效能要求的物聯網產品的快速開發，真正將AI計算推向邊緣。
以全面的計算平台賦能開發者生態系統
人工智慧在為全球計算行業帶來無限商機的同時，也帶來了嚴峻的計算挑戰。 一方面，互聯裝置和資料流量的指數級增長給資料中心等計算基礎設施帶來了沉重壓力另一方面，隨著先進製造工藝接近其物理極限，摩爾定律的發展速度放緩，使得在效能和功耗之間取得平衡變得越來越困難。
面對計算行業的最新趨勢和需求，ARM已經從最知名的IP提供商轉型為計算平台公司，專注於IP授權業務的同時，也專注於通過完整而全面的解決方案為合作夥伴提供靈活的選擇，幫助他們更快地將產品推向市場。 從移動平台到基礎設施、物聯網和汽車，Arm 推出了簡化開發過程的計算平台，同時為晶元設計人員提供了更大的自由度，可以針對自己的場景和用例定製晶元。
除了 ARM Total Compute Solution、ARM Neoverse Platform、ARM Corstone 和 SOAFEE 等一系列計算平台外，Arm 最近還推出了 ARM Neoverse 計算子系統 （CSS） 和 ARM Total Design，以進一步啟用生態系統的力量。
Neoverse 是 ARM 的伺服器和基礎設施產品線，Neoverse CSS 為使用者提供優化效能所需的系統管理、電源管理、軟體和開發工具，包括 Neoverse 核心、CMN 網狀結構和系統 IP，使使用者能夠以更低的成本、更短的時間和更低的風險交付定製晶元。
Arm Neoverse CSS 為工程團隊節省了相當於 80 名工程師一年工作的時間。 一位客戶報告說，在使用 Neoverse CSS 後，他們的專案在短短 13 個月內就完成了從概念定義到流片的整個過程。 穆罕默德·阿哈德說。
Microsoft 的 Azure Cobalt 100 CPU 基於 Arm Neoverse CSS 構建，包含 128 個 Neoverse 核心。 Neoverse CSS 和 ARM 平台軟體生態系統的優勢使 Microsoft 有更多時間專注於獨特的創新和優化，同時節省大量開發工作。 Arm預計，2024年，將有更多國內外雲計算和資料中心相關廠商將第一代CSS設計投入生產。
在 Neoverse CSS 的基礎上，Arm 推出了 Arm 綜合設計生態專案，使得包括 AI、雲、網路、邊緣在內的基礎設施應用能夠廣泛使用 Arm Neoverse 架構。 Arm將與Arm合作，提供來自Cadence、RAMBUS和Synopsys等合作夥伴的預整合和驗證的IP和EDA工具，來自AdTechnology、AlphaW**e Semi、Broadcom、Capgemini和Faraday等合作夥伴的設計服務，來自Intel Foundry Services和TSMC等供應商的代工服務，以及來自基礎設施韌體**供應商（如Ammann Technologies）的商業軟體和韌體。
Cortex產品線，包括終端和邊緣側產品，也一直秉承軟硬體緊密耦合的生態建設邏輯，為開發者提供整體支撐。 就 Cortex-M52 而言，開發人員以前必須經歷乙個複雜的開發過程，將三個計算單元（CPU、DSP 和 NPU）與三個不同的軟體工具包相結合，以在低功耗處理器中實現數字訊號處理和機器學習功能。 ARM 為使用 Cortex-M52 的開發人員提供單一工具鏈，以一致的開發流程處理傳統計算任務、數字訊號處理和機器學習工作負載，從而改善開發體驗，同時顯著縮短上市時間。
對於ARM來說，中國是乙個重要的高增長市場，也是ARM最具創新性和潛力的市場之一。 ARM 在全球擁有 1500 萬開發人員，其中 400 萬在中國。
在伺服器和基礎設施方面，ARM Neoverse 正在全面擁抱本地生態系統和開源社群建設。 ARM中國全球副總裁鄒婷表示，ARM Neoverse在中國市場擁有眾多客戶，尤其是基礎設施領域。 ARM積極參與資料中心、雲計算等本地生態建設，以及Dragon Lizard等開源軟體社群建設，幫助這些社群更好地融入全球ARM生態。 在終端和邊緣端，ARM還為本地開發者提供一站式服務和豐富的生態資源。
鄒婷，ARM中國區全球副總裁。
在ARM技術的支援下，在全球數十億臺裝置上執行的推理將發生轉變。 同時，需要業界共同努力，加速資料中心和裝置之間AI訓練和推理的共享，從而在提高AI安全性的同時，提高AI的效率和成本效益，最終使AI無處不在。
作者丨張欣怡編輯丨趙晨梅編輯丨Maria製片人丨連曉東