隨著以算力和網路為核心的新型基礎設施體系建設的加快,算力的多樣化和泛在化已成為必然趨勢,分布式異構算力的管理和高效靈活的排程將進一步釋放硬體資源優勢,提公升算力整體利用率。 在異構算力的管理和排程方面,仍需持續研究,如異構算力的測評、跨異構算力的應用適配等問題,逐步形成從硬體到軟體的異構算力開放生態,提公升行業應用能力, 持續有效賦能智慧型計算產業發展。
(1)異構算力的發展
異構算力通常是指CPU、GPU、FPGA、ASIC等多種計算處理系統,可以滿足不同場景的應用需求,最大限度地提高計算效率。 異構算力通常以AI晶元的形式整合到計算機中,AI晶元是AI計算的核心基礎設施之一。 近年來,針對特定領域架構的定製晶元也應運而生,成為AI算力發展的主流趨勢。 目前,異構算力有以下幾種型別:
gpu:NVIDIA GPU 的發展可以追溯到 1999 年,當時 Nvidia 發布了第一代 GPU 架構 GeForce 256,標誌著 GPU 時代的開始。 隨後,NVIDIA 的 GPU 架構不斷發展,從 TNT、RAGE 到 GeForce 256,再到特斯拉、費公尺、克卜勒、麥克斯韋等。 隨著 GPU 技術的不斷發展,NVIDIA 的 GPU 架構已經演進以滿足不斷增長的計算需求,GPU 架構不斷突破圖形渲染、人工智慧和高效能計算的界限。
apu:APU(Accelerated Processing Unit)中文名稱為Accelerated Processor,AMD將**處理器和獨立圖形核心整合在乙個晶元上,它兼具高效能處理器和最新的獨立顯示卡處理效能,支援DX11遊戲和最新應用“加速計算”,大大提高了計算機的執行效率。
tpu:TPU是Tensor Processing Unit,是谷歌推出的一款人工智慧晶元。 從那時起,已經推出了幾代 TPU 和 TPU Edge,例如 TPUv4。 TPU 是 Google 為優化其 TensorFlow 機器學習框架而構建的計算神經網路晶元。
fpga:FPGA作為乙個靈活可程式設計的硬體平台,具有較高的計算效能和可定製性,可以提供AI演算法的加速和優化。 在AI應用中,可用於實現神經網路加速器、高效能計算單元等,為計算密集型AI任務提供高效能、低時延的算力。
asic:與CPU和GPU等通用晶元相比,ASIC晶元的定製提供了更高的效率。 ASIC 的興起引起了 NVIDIA、AMD 和 Intel 等科技巨頭的注意。 該行業可能會採用混合技術來推動創新和進步。 例如,英偉達一直在開發自己的人工智慧專用晶元,稱為Tensor Cores。
dpu:DPU服務於雲計算,其主要作用是提高資料中心等計算基礎設施的效率,減少能源浪費,從而降低成本。 隨著資料中心的建設、網路頻寬的提公升和資料量的快速增長,由於CPU效能增長放緩,DPU被催生出來尋找更高效的計算晶元。 例如,NVIDIA 將 Mellanox 的 ConnectX 系列高速 NIC 技術與自身現有技術相結合,於 2020 年正式推出兩款 DPU 產品,即 BlueField-2 DPU 和 BlueField-2X DPU。
(二)異構算力主要應用場景
異構計算利用不同型別處理器的獨特優勢,如GPU的平行計算能力和FPGA定製硬體設計的能力,提高計算效能和能效。 它在許多領域都有廣泛的應用,例如人工智慧領域的深度神經網路訓練,科學計算、物理**和計算機視覺領域的模擬和資料處理等。 此外,異構計算可以應用於移動裝置和嵌入式系統等領域,在這些領域,功耗和效能是重要因素。 異構計算可以使這些裝置變得越來越智慧型,同時提高了效能和能效。 綜上所述,異構算力的主要應用場景包括:
機器學習和深度學習:異構計算可以利用AI算力的並行處理能力,加速機器學習和深度學習的訓練和推理過程。 例如,使用GPU進行大規模矩陣運算可以大大提高訓練速度和模型準確性。
高效能計算(HPC)等科學計算場景:在科學研究、工程等領域,需要處理的資料量巨大,傳統的CPU計算已經無法滿足需求。 異構計算可以利用CPU和GPU的組合,實現更高的計算效能和效率。
圖形渲染和遊戲開發:異構計算可以利用AI算力的並行處理能力,實現影象的實時渲染和處理。 例如,在遊戲開發中,GPU卡加速可以實現更逼真的燈光效果和更高的幀率。
物聯網 (IoT):物聯網裝置數量巨大,需要大量的資料處理和管理。 通過異構計算,可以實現物聯網裝置的智慧型管理和資料處理,提高物聯網應用的效率和可靠性。 異構計算可以使用CPU+GPU或CPU+FPGA+GPU等異構計算能力來實現更高的計算效能和效率。
區塊鏈:區塊鏈技術需要保證交易的安全性和可靠性,同時需要處理大量的交易資料。 異構計算可以使用FPGA進行密碼計算,以提高區塊鏈的計算速度和安全性。
《2023年分布式異構智慧型算力管理與排程技術研究報告》目錄如下:
本文僅供參考,不代表我們的任何投資建議。 奇幻電影的世界整理和共享資訊僅供使用者閱讀獲得的資訊僅供個人學習,請參閱報告原件使用。