為所有手機製造商開啟長達數年的軍備競賽的最後一條賽道是成像,而下乙個這樣的機會是人工智慧。
溫有勇。 周陸平編輯。
2月8日上午,OPPO正式發布海報,預告明天......將發生大事
三天前,OPPO發布了央視春晚彩排後台預告,春晚主持人Nigmaiti、任魯豫、馬凡樹特別體驗了OPPO手機的AI功能,包括AI消除、AI通話總結、新年問候
OPPO將通過春晚的舞台,在全國人民面前展示AI的能力,同時也宣告手機行業將進入AI的新時代。
乙個時代的帷幕正在拉開
ChatGPT在AI領域的深遠影響持續發酵。 如果說前期更像是雲廠商的狂歡,他們已經推出了通用的大語言模型,並開始在千行百業尋找落地應用。
然後在過去的六個月裡,隨著底層晶元平台的成熟和模型量化壓縮的進步手機、PC等硬體終端廠商加快步伐,推動大模型在裝置端應用。
去年年底,高通和聯發科最新的旗艦平台都支援了端側大機型的部署。 例如,驍龍 8Gen3 作為首款專為生成式 AI 打造的移動平台,支援終端側執行 100 億個引數的模型,為 70 億個引數的大語言模型每秒生成多達 20 個代幣。 聯發科天璣 9300 還搭載了第七代 APU 790 的 AI 效能引擎,可支援終端執行 10 億、70 億、130 億、最高 330 億引數的 AI 大型語言模型。
在底層晶元平台的加持下,OPPO、小公尺、vivo、榮耀和三星都已推出或即將推出70億引數的端側機型。 手機作為智慧型體,在端端大模型的應用中發揮著越來越重要的作用。 大型模型也被認為是未來帶來革命性使用者體驗的關鍵,這反過來又將導致裝置更換。基於這種認識,投身研發AI成為手機廠商的策略。
據悉,一向謹慎的蘋果也有望在今年6月的全球開發者大會上,為Siri等產品推出一系列基於大模型的AI體驗。
PC行業也在全速向AI電腦演進。英特爾首席執行官亨利·基辛格直言不諱地表示,“人工智慧代表著乙個新時代的到來。 AI將通過雲端與PC的緊密協作,從根本上改變、重塑和重塑PC體驗,釋放人們的生產力和創造力,我們正在邁向AI PC的新時代。 ”
英特爾特別發布了酷睿超處理器,首次將CPU、GPU和NPU合二為一,滿足AI電腦的需求。 AMD和高通也推出了整合AI模組的CPU。 基於英特爾的AI處理器,聯想推出了首款支援AI的膝上型電腦,宣布全面轉型為AI電腦。
IDC中國區總裁霍金傑指出,AI PC不僅僅是乙個新產品,更代表著整個行業即將進入乙個新時代——乙個行業巨變的時代,乙個歷史性突破的時代。 Counterpoint的觀點是,預計到2025年,AI膝上型電腦將分享50%的銷售額,至少有乙個NPU或AI加速器來補充其主要CPU和GPU的功能。
無論是PC還是手機,都是在日常生活和工作中扮演著重要角色的行業,但也面臨著增長困難,現在它們都巧合地將AI置於極其重要的戰略地位。
在新時代到來的背後,當下的PC和手機行業面臨著很多增長困難。 根據IDC最新統計,2023年中國智慧型手機市場出貨量約為271億台,同比下降50%,為近10年來最低。 這背後有很多因素,包括智慧型手機本身缺乏創新,使用者更換週期從前兩年增加到現在的三四年。
如今,手機行業的潮流正在轉變,人工智慧將成為刺激行業創新和銷售增長的最佳催化劑。
2024年被認為是AI手機的第一年。 一位業內人士判斷,讓所有手機廠商開啟長達數年的軍備競賽的最後一道賽道是成像,比如更多的鏡頭、更大的感測器等,而這幾年,手機的成像能力有了實質性的提公升。 下乙個這樣的機會是人工智慧,但與成像相比,人工智慧是乙個更長的旅程,是的對技術積累和研發投入的要求會更高
搶占大型手機機遇
如果不布局大模型的手機廠商,就沒有戲了! OPPO高階副總裁劉作虎說得非常直率有力,這種觀點也代表了目前手機行業的普遍情緒。
根據 Counterpoint** 的資料,2024 年將是 GenAI(生成式 AI)智慧型手機的關鍵一年,出貨量將超過 1 億台; 到2027年,Genai智慧型手機市場份額,出貨量將取決於。 22億台。
雖然業內對AI手機的定義沒有統一的標準,但也從側面進行了解釋AI將是未來手機的標準配置,而這個標準配置不僅僅是乙個獨立的應用和場景,而是從系統底層對手機體驗的重構讓AI的能力在系統端無處不在,“未來的手機將是AI代理”。
今年1月初,OPPO的年度旗艦Find X7系列在深圳發布。 這次新聞發布會與之前的新聞發布會有很大的不同,之前的新聞發布會是從介紹影象或手機設計開始的。 但這一次,OPPO花了將近半個小時的時間,在端側演示了大機型帶來的應用落地。 其他廠商在發布會上也做了類似的調整,各自將裝置端大模型的優先順序提公升到了最重要的位置。
OPPO Find X7是業界首款落地7B端側大模型的車型。劉作虎在發布會上特別演示了在裝置側大模型中實現的幾個場景,比如通話總結,大模型會根據通話記錄生成簡潔但重點突出的總結,然後生成待辦事項列表,甚至在使用者沒有時間回答的時候幫助使用者記錄關鍵點,這樣在工作和生活場景中就不會遺漏任何重要資訊。 此外,與 1b 模型相比,7b 模型在摘要上的表現明顯更好。
除了語言模型之外,OPPO的AndesGPT還擁有功能全面、強大的生成視覺模型,能夠準確理解影象的語義,並在此基礎上實現了對120多種主體的識別和分割支援,使用者可以選擇抹去路人、雜物甚至頭髮級別的分割**, 並填充消除後的細節和紋理,將相簿中的“廢片”變成令人滿意的“好畫面”。
除了OPPO,三星也開始探索大機型在端端的應用。 相較於OPPO的通話彙總能力,Galaxy S24展現了通話翻譯的場景,雙方可以跨語言實時交流,相當於身邊有同聲傳譯,很搶眼。
整體來看,三星和OPPO在端側大機型的應用方向上比較相似,都在切口和通話場景下都展現了AI應用。 但是,兩者的實現路徑和重點不同,例如:三星在端端大機型上的能力主要來自谷歌的Gemini Nano機型,而OPPO則是其自練的大機型。
一位手機圈人士告訴數智前方,市面上聲稱已經實現7B裝置側大模型的廠商大部分功能,其實都是在雲端實現的,因為雲端的速度足夠快,端端受限於功耗、記憶體等因素。 據他介紹,目前,只有國內手機廠商的OPPO真正做到了端端大模型的效果,一是通話總結,二是智慧型消除,其他廠商基本都在雲端處理。
目前,在裝置側部署大型模型的最大問題在於模型的壓縮和量化,以及裝置側儲存效能的提公升。
據另一位熟悉手機廠商的人士透露,端端大機型最大的瓶頸不在GPU或NPU,而是在記憶體頻寬。 目前最強大的記憶體LPDDR5X的實際頻寬在每秒50GB以上,而7B型號在量化稀疏度後佔了4G記憶體左右,其效能需要達到每秒40GB以上才能達到10個以上的代幣,這正好是LPDDR5X的頻寬極限。
為了實現大機型在端側的落地,OPPO將7B大機的記憶體占用降低到4GB以下,效能達到10Token S以上,功耗現在已經達到了800mAh的水平,“在這種情況下是可以接受的,不會讓手機發燙。 “據了解,oppo的RENO系列產品也將在端側大型車型上實現
但是,裝置端大模型處理的更多的是一些簡單的任務,大多數場景仍然在雲中推斷。 端雲協同是目前移動應用中大型模型的主流
因此,除了70億引數的裝置側大模型外,OPPO還訓練了700億引數的Andesgpt-Turbo和1800億引數的Andesgpt-Titan,可以滿足高度複雜任務的深度推理,並且兩個模型都部署在雲端。
據OPPO稱,未來,OPPO將繼續在兩個方向上發展大尺寸手機的技術:一是繼續攻克大尺寸手機的端到端部署,以獲得更好的效能和更強的處理能力; 二是用更通用、更先進的架構來解決端雲協同的問題。
抵禦冬季的創新向善
現在任何看起來具有前瞻性的布局都不會在真空中發生。 事實上,OPPO在大機型的研發方面並不短。
早在2020年,OPPO就已經啟動了預訓練語言模型的探索與實踐,自主研發了1億、3億、10億引數的大模型。
但BERT 和 GPT 都基於 Transformer 架構這也為OPPO後續的AndesGPT培訓打下了堅實的基礎,也積累了豐富的經驗。 如今,AndesGPT在一般問答和對話方面表現出色,並在C-ENAL全球中文榜單中名列前茅。
OPPO正在加大技術投入,確保自己在這個紅海市場的競爭中不落後,這也成為OPPO抵禦行業寒冬最有效的法寶。
如果說OPPO過去在營銷上花了很多錢,但近幾年的乙個直觀變化是,OPPO越來越願意在技術和產品研發上投入。 外界也看到了OPPO越來越多的創新領先優勢,包括業界首款端大機型、業界首款雙潛望鏡旗艦,以及通訊和晶元底層技術的突破。 在好風創新的理念下,OPPO正在從單一的手機公司向生態科技公司轉型。
不久前,OPPO與諾基亞正式宣布簽署5G專利交叉許可協議,之後雙方將結束所有司法管轄區的所有未決訴訟。 這場長達近三年的專利糾紛以和解告終。
這一事件的意義不僅限於OPPO本身,也是國內企業面對不合理專利許可的好榜樣
當然,實力是面對不合理的力量。 OPPO在研發上的鉅額投入和多年來積累的大量專利,為其全球業務和安全運營保駕護航。 目前,OPPO約60%的員工是研發人員。 截至 2023 年 12 月 31 日,OPPO 已在全球提交了超過 98,000 項專利申請。 其中,發明專利申請量超過8.9萬件,佔比超過90%,位居全球第6位,在國內僅次於華為。 在這些外界不容易關注的地方,OPPO正在積蓄能量。
正是多年來對研發的投入和專利的積累,讓OPPO有信心選擇對國際廠商採取強硬態度。 據悉,隨著OPPO與諾基亞的和解,也為OPPO未來重返部分歐洲市場鋪平了道路。
而這些技術和專利最終被用於產品體驗中。 以新發布的Find X7系列為例,除了上述實現的端側大模型外,在通訊技術、晶元底層架構、安全性等方面也有優化。
這一次,第乙個“潮汐架構”,解決了SoC的儲存和讀寫速度遠低於計算速度的問題。潮汐架構將晶元效能優化到L3快取級別,並通過識別應用場景需求來動態調節系統資源。 例如,如果有很多計算任務,則會主動向 CPU 分配更多的快取。 面向渲染的任務往往會將資源傾斜到 GPU。 這種架構使 SoC 的平均能效節省了 8%。
此外,OPPO全套自主研發的通訊技術解決方案Super Signal Engineering,包括天線技術、智慧型通訊、近場通訊的整體突破,還可以提供“使用者場景下最佳的通訊和網路連線體驗”。
如今,人工智慧和成像已成為OPPO技術的兩大支柱。 劉作虎透露,不久前,OPPO將公司所有AI相關合作夥伴召集在一起,成立了“AI中心”,由集團技術負責人獨立管理和協調。 過去,這些職位分散在各個部門,沒有系統性,“我們決定集中所有資源,成立乙個AI中心,讓AI成為OPPO的核心競爭力。 劉作虎說。
從目前來看,大型模型在裝置端的應用才剛剛開始。 未來,有沒有大模型,如何深入使用,將決定產品是否具有競爭力。
當然,正如比爾·蓋茨(Bill Gates)經常引用的名言一樣——我們總是高估未來兩年會發生什麼,而低估未來十年會發生什麼。 這句話也適用於AI,無論是AI手機還是AI PC,其實還處於起步或準備階段,需要經歷比較長的迭代和演進期才能實現真正的革命性體驗。 但這是毫無疑問的2024年成為AI手機的重要時刻
《花》裡有一句話很貼切:目標從不遙遠,一步一步,一天一天。 全力以赴,剩下的留給時間。