12月15日,英特爾在第一代酷睿至尊官方發布會上宣布,阿里雲通益千問模型成功適配英特爾酷睿至尊平台。 這意味著,在未來,這種強大的大型語言模型可以部署在PC和其他裝置上。 得益於英特爾酷睿至尊平台(代號Meteor Lake)的離散模組架構和首個整合神經網路處理單元(NPU),部署在英特爾酷睿至尊平台裝置上的通易千文大模型可以顯著縮短模型推理響應時間,平均加速高達3倍。
此前,英特爾還在無網路的裝置端測試了Meta的LLAMA2-7B大模的良好效能,這讓AI PC的概念逐漸清晰起來。 自去年年底ChatGPT發布以來,大語言模型支援的AIGC應用有了很大的發展,而這波AI浪潮的主要位置已經發生在PC上,因為PC在互動和呈現方面更適合大多數AIGC應用。 但不管是ChatGPT還是Midjourney,都需要連線網際網絡,一旦沒有網路,那麼我們就會和AI斷線。
因此,一台 PC 想要真正進化成 AI PC,不僅可以輕鬆執行其 AIGC 應用程式,還需要具備強大的 AI 處理能力。 阿里雲通益千問大模QWEN-7B成功適配Intel Core Ultra平台,未來可部署在PC等裝置上的訊息,無疑為PC的發展帶來了新的可能性。
在今年9月於矽谷舉行的ON技術創新大會上,英特爾提出了乙個革命性的PC——AI PC概念。 英特爾CEO帕特·基辛格(Pat Gelsinger)表示,如果想高效地進行AI計算,在PC上執行AI應用,傳統的CPU+GPU架構並不是最佳解決方案。 於是,在第一代酷睿超平台上,英特爾創新性地採用了分立模組架構,這也是英特爾歷史上最大的處理器結構變化。 該處理器將由四個獨立的模組組成:計算模組、SOC模組、圖形模組和IO模組,並將通過FoverOS 3D封裝技術進行連線。
其中,新的NPU模組將主要承擔AI計算的職責,因為它是人工智慧加速的專用計算單元,而AI計算在NPU模型中的優勢是高效能和低功耗。 此外,低延遲、高響應的CPU和高效能、高吞吐量的GPU也將提供對AI算力的需求,三者的結合將在裝置上形成強大的AI算力。 英特爾表示,酷睿Ultra 7 165H的整體AI算力不僅擊敗了其前身酷睿i7-1370P,還碾壓了競爭對手AMD 7840U。
就Core Ultra 7 165H處理器(TDP 28W)而言,英特爾表示其多執行緒效能是高通驍龍8CX Gen 3和直接競爭對手AMD 7840U的1倍以上11次。 同時,英特爾表示,酷睿Ultra 7 165H在各種場景下的能效方面也優於其競爭對手AMD 7840U,多執行緒效能更好。 此外,低功耗島是乙個非常有趣的設計,有 2 個 LPE 核心超低功耗核心,可以執行響應速度要求較低的任務,例如 *** 等,進一步降低功耗。
現在我們可以在PC上進行各種AI操作,包括但不限於文生溫、文生圖、文生**,以及AI摳圖、手勢識別、動作捕捉等。 其中一些是基於大型語言模型的新體驗,而另一些則已經在 PC 上可用。 例如,像通益千問這樣的大模型已經具備了一定的通用能力,可以為各行各業的開發者提供多種選擇**。
華東理工大學X-D Lab團隊基於通益千文的Qwen-7B和QWEN-14B開源模型,開發了多個行業模型,包括心理健康模型MindChat、醫療健康模型Sunsimiao、教育考試模型GradChat(錦鯉)。 浙江大學和高等教育出版社基於QWEN-7B開發了知海-三樂教育的垂直模式,已在全國12所高校應用。 浙江優路機械人***在路面清掃機械人中整合了QWEN-7B,使機械人能夠用自然語言與使用者實時互動。
2024年度回顧 總之,AI的階段不僅在PC上,PC也不僅僅是在AI應用中,它們之間有著巨大的交集。 每個擁有AI PC的使用者都會逐漸面臨選擇和習習慣的變化。 AI PC的概念正在逐漸清晰,PC想要真正進化成AI PC,不僅AIGC應用可以在上面輕鬆執行,還需要具備強大的AI處理能力。 阿里雲通益千問大模QWEN-7B成功適配Intel Core Ultra平台,未來可部署在PC等裝置上的訊息,無疑為PC的發展帶來了新的可能性。