如今,計算能力正以前所未有的速度增長。 雖然算力廠商此前在PC產業生態中就已經存在,但在大模型的催化下,他們的角色也在發生變化。 近日,在首屆AI PC產業創新論壇上,聯想集團與IDC聯合發布了業界首個“AI PC產業(中國)**以下簡稱”**算力是AI PC各項功能實現的前提,終端異構混合(CPU+NPU+GPU)算力是AI大規模落地的必然要求。
據了解,異構混合計算利用架構的不同型別的指令集和計算單元組成本地計算系統,通過CPU(**處理單元)、GPU(圖形處理單元)、NPU(神經網路處理單元)等計算裝置的組合應用,可以充分發揮各硬體的效能。 並為不同的 AI 工作負載提供靈活的解決方案。CPU 在通用計算方面表現出色,GPU 在圖形和平行計算方面表現出色,NPU 針對神經網路工作負載進行了優化。
異構混合算力不僅保證了終端模型推理的可行性,還使終端裝置能夠承載越來越大的AI模型,執行越來越複雜的任務。 當裝置側的嵌入式AI算力能夠達到10 tops時,已經可以在本地完成特定場景下的AI模型推理,可以為智慧型裝置管理、影象增強、遊戲調優等做出貢獻。 當裝置上的AI算力達到40TOPS時,可以使AI PC支援普通引數規模的本地模型推理,雖然仍然需要GPU或雲合作來完成更複雜的任務,但它已經能夠完成大部分工作、習、娛樂等場景的AI創作需求。
當裝置側的算力進一步提公升時,不僅AI PC在裝置側獨立建模推理的能力進一步增強,大多數複雜任務可以完全離線處理,而且終端在功耗控制、影象呈現、複雜計算、遊戲體驗等方面的效能也可以通過AI得到充分優化。 裝置端算力提公升的每一步,都能帶來顯著的槓桿效應,利用AI PC在任務理解、個性化反饋、複雜任務處理能力和速度等方面實現更大提公升。
值得一提的是,ARM和x86架構產品的算力廠商將在我國AI PC的生態發展中發揮重要作用。 主流廠商將進一步優化CPU+GPU+NPU的架構,將混合普惠算力的提公升作為行業發展方向,助力AI PC的大規模普及。 通用AI開發框架和終端適配將是廠商重點關注的主要方向。
IDC**,在整個PC市場(僅針對膝上型電腦和台式機,不包括平板電腦),未來AI ARM的佔比將穩定在5%左右,AI X86的佔比將從2024年的50%逐步提公升至2024年的80%。