**:內容來自半導體產業觀察(ID:icbank)綜合,謝謝。
在乙個科技巨頭主導技術演進程序的世界裡,Meta 在美國 RISC-V 峰會上對 RISC-V 的擁抱意義重大。 該公司透露了在一系列產品中實施RISC-V的計畫。 “我們已經將RISC-V確定為我們推進路線圖中所有產品所需的方式。 這不僅包括下一代轉碼器,還包括下一代推理加速器和訓練晶元。 Meta 高階工程總監 Prahlad Venkatapuram 說。 這個決定不僅僅是為了跟上趨勢;這是應對重大挑戰的戰略舉措。
Meta 強調關鍵業務任務需要加速,僅靠傳統 CPU 無法滿足。 對能效、效能、低延遲、靈活性和架構彈性的追求是 Meta 採用 RISC-V 的驅動力。 但這就是情節變得更加複雜的地方——即使在重大定製之後,Meta 也發現自己需要從其現有的 IP 選項中獲得更多收益。 “很少有產品能夠將自定義指令和資源無縫整合到 RTP、模擬器、軟體工具和編譯器中,”Venkatapuram 解釋道。 這就把我們帶到了問題的核心。 Meta指出了市場上的乙個關鍵缺口:允許將自定義指令無縫整合到關鍵軟體工具(如模擬器和編譯器)中的產品稀缺。 我們完全同意。 事實上,這個前提是我們定製計算產品的基礎。
Meta 的 RISC-V 之旅,特別是在使用可擴充套件處理器 (MSVP) 進行轉碼領域,為 RISC-V 定製的成功提供了真實世界的示範。 通過利用 RISC-V,Meta 已將其大部分 CPU 替換為其定製處理器,從而實現了顯著的效率提公升。
Venkatapuram表示,在過去的四年裡,他們一直在積極策劃整合RISC架構,不僅推出了生產硬體,還為未來定製RISC-V晶元和標準化的RISC-BASED晶元奠定了基礎。 控制系統並使其具有可擴充套件性,因此為任何域開發的任何 IP 元素都可以進行調整並輕鬆連線到 NOC。
換句話說,Meta 有乙個模板可以快速將任何此類新晶元投入生產,這對於那些尋求大規模 RISC-V 成功故事的人來說是一件大事。 所有這一切都發生在高階GPU短缺的情況下**--*也反映出來。
Venkatapuram 表示,Meta 之所以選擇 RISC,是因為需要加速所有“我們在 CPU 上無法完成的關鍵業務任務”,以及“伺服器上的能效、效能和絕對低延遲”。 他補充說,支援不同工作負載的靈活性和架構的彈性也至關重要。
無論何時我們設計或部署,我們都希望它能夠持續 3-4 年,因此它必須具有彈性和可程式設計性——我們希望軟體對我們如何使用硬體資源負責。 ”
他補充說,64 位定址至關重要,核心中的向量和 simd 功能也至關重要,強調了深度定製的必要性。 “很明顯,RISC-V可以做所有這些事情;它是開放的,有強大的支援,有多個 IP 提供商,在過去的 4-5 年裡,我們看到了乙個不斷發展的生態系統。 但歸根結底,定製是關鍵。
Meta 是僅基於 RISC-V 構建的轉碼硬體,為自定義部分提供了上下文。 根據 Venkatapuram 的說法,Meta 的可擴充套件處理器 (MSVP) 是 Meta 生產 RISC 之旅的起點,該 RISC 現已投入生產,可處理其 Facebook、Messenger 和 Instagram 服務上 100% 的所有上傳。 “我們過去在 CPU 上這樣做,但現在我們更換了 85%,所以我們只使用了 15% 的 CPU。 ”
應該引起處理器世界注意的真實故事是,Meta 正在跳過無處不在的 GPU,並在 RISC-V 上構建 AI 推理和訓練晶元。 正如我們在這裡介紹的那樣,這家 Facebook 巨頭在 5 月份透露了其中一些工作,該專案自 2020 年以來一直在進行。
目前,RISC-V AI處理器致力於加速推薦模型的推理和訓練。 該架構對 8 8 處理單元網格並不陌生,每個單元託管 2 個 RISC-V 核心(乙個標量,乙個向量)和乙個用於控制的核心。 標量和向量核心與命令處理器同步,命令處理器與 Meta 開發的內建固定功能結合使用。
除此之外,我們不知道,但我們會要求更多的見解,包括 Meta 的 RISC-V 架構的產量。
雖然所有這些都很有希望,但也有一些挑戰確實令人猶豫不決,儘管它們似乎並沒有削弱Venkataplam的樂觀情緒。
儘管進行了大規模定製,但 Meta 仍然需要更多現有的 IP 選項。 “很少有產品能夠將自定義指令和資源無縫整合到 RTP、模擬器、軟體工具和編譯器中,”他解釋道。 另乙個挑戰是供應商之間缺乏互操作性,但他沒有提供深入的細節。 歸根結底,感覺挑戰並非不可克服。
最大的障礙之一是對矩陣擴充套件的支援,尤其是在 Meta 尋求在 RISC-V 上構建更多生產 AI 工作負載時。 他解釋說,矩陣數學是人工智慧的關鍵組成部分,雖然RISC-V有向量擴充套件,但矩陣沒有標準擴充套件。 他列舉了這一領域正在做的工作(許多供應商,包括流計算和T-head SEMI),但最終,無論他們提出什麼建議,都應該標準化。
Venkatapuram 首先強調了更廣泛的生態系統支援的重要性,從支援所有主要庫和工具到硬體生態系統
由於其開放標準性質,RISC-V有可能吸引更多的第三方工具、軟體、外設提供商,而不僅僅是專有的ISA,但這種潛力尚未完全實現。 ”
大國的科學技術在