大模型引爆AI算力需求,青雲“下一站”。

Mondo 娛樂 更新 2024-01-30

“對於青雲來說,AI時代將是乙個新的機遇,10年將帶來比過去10年更大的市場需求和機遇。 青雲科技總裁林遠說。 在這一輪AI大模型的技術進步中,支撐人工智慧所需的算力自然成為關注的焦點。 基於對AI算力需求的洞察,青雲發布了青雲AI算力服務平台、青雲AI算力雲等產品和服務。

隨著大型AI模型的發展,算力的重要性日益凸顯。 以ChatGPT為例,根據相關調查資料,ChatGPT的總算力消耗約為3640pf-days,需要7到8個投資規模為30億、算力為500p的資料中心來支援其執行。 值得注意的是,AI訓練任務的算力增長極快,每3它將在 5 個月內翻一番。

在計算能力需求不斷增加的同時,算力已成為推動數字經濟發展的核心力量。 中國綜合算力指數(2023)最新資料顯示,截至2024年6月底,我國算力總規模已達197eflops,全國在用資料中心機架總規模超過760萬個標準機架,位居全球第二。 近五年中國總算力年均增長率接近30%。

人工智慧計算產業的發展既是機遇也是挑戰。

林媛認為,人工智慧和大模型是生產力的重大變化,在這種技術驅動的市場變革中,客戶需求、算力需求、應用需求、底層架構都在發生變化。 近十年來,無論是面向C端的移動網際網絡,還是面向B端的數位化,應用創新主要基於CPU。 然而,隨著 AI 的普及,幾乎所有應用都需要擁抱 AI 技術或被 AI 修改,這增加了對 GPU 的需求。

不僅如此,在東數西算的趨勢下,未來的AI應用在追求效率的同時,也會更加注重價效比,從而推動算力從低時延的東部沿海地區向算力更便宜的西部地區發展,未來算力的分布將更加分散。 此外,隨著人工智慧和雲原生技術的不斷發展,客戶服務將變得更加複雜,業態將更加豐富,對技術和平台的挑戰也將增加。

特別是在智慧型計算中心的建設和運營過程中,如何考慮其設計的合規性,如何實現超級計算、智慧型計算、通用計算等多種算力的統一排程,如何同時兼顧傳統應用、雲原生應用、AI應用,如何支援異構CPU和GPU, 如何提供高效的網路和儲存,如何實現高效的運維運維運營,都是需要考慮的問題。可以說,智慧型計算中心建成後的運營成為關鍵挑戰。

基於自身的經驗和實踐,青雲科技也給出了相應的答案——AI算力服務平台,為行業提供了參考正規化。 青雲科技產品經理苗暉表示:“AI算力服務平台作為算力中心建設運營的新模式,旨在管理AI基礎設施,提供多元算力排程,提供智慧型算力排程,確保算力快速建立。 ”

青雲AI算力雲是以青雲為主,以生態聯盟形式運營的AI算力服務。 與傳統模型相比,青雲AI計算雲具有一定的優勢:從客戶的角度來看,他們需要乙個完整的解決方案,包括機房、算力、排程平台、模型驅動、模型、模型服務,以及上述應用從最優秀的商人的角度來看,每一層都需要專業的技術和長期的積累和巨大的投入。

林遠認為,在AI領域,巨頭肯定會出現,但這些巨頭不應該是一家獨立的公司,而應該是乙個良好的生態合作體系,這需要所有公司共同努力,推動AI技術的進步和發展。

相關問題答案

    大型語音AI模型公司AssemblyAI完成5000萬美元C輪融資

    百人援助計畫 猛獸財經獲悉,總部位於美國加州三藩市的大型語音AI模型公司AssemblyAI今日宣布完成萬美元C輪融資。本輪融資完成後,AssemblyAI總融資額已達本輪融資億美元,由Accel領投,Insight Partners Keith Block的Smith Point Capital ...

    谷歌大型AI模型雙子座出道 擅長複雜主題推理,懂程式語言PKGPT 4

    樂天 上 月日 美國科技巨頭谷歌今天宣布推出其人工智慧模型 Gemini,該模型針對三種不同的尺寸進行了優化 Gemini Ultra Google 最大 最有能力的模型,適用於高度複雜的任務。Gemini Pro Google 擴充套件各種任務的最佳模型。Gemini Nano Google 最高...

    谷歌發布了最強大的AI模型Gemini,超越了GPT 4!

    當地時間月日,谷歌CEO桑達爾 皮查伊 Sundar Pichai 正式宣布雙子座號版本 正式上線。據報道,這是人工智慧模型的巨大飛躍,最終將影響幾乎所有谷歌產品。Gemini 型號包括三個數量級 最強大的 Gemini Ultra 可擴充套件的多工 Gemini Pro 和用於特定任務和移動裝置的...

    東方超級計算機參與了國家《大模型智慧型計算服務白皮書》的討論和撰寫。

    東方超級計算機參與國家 大模型智慧型計算服務 研究與撰寫工作 月日,中國資訊通訊研究院組織召開會議 大模型智慧型計算服務 第二次研討會,東方超級計算機來自中國移動研究院 中國聯通研究院 電信研究院 阿里巴巴 華為 位元組跳動 綏源科技 摩爾執行緒 中興通訊等企業的專家及餘位專家參加了本次研討會。近年...

    英偉達晶元出口受限,導致AI算力突發,顯示卡漲價200!

    隨著英偉達多款晶元出口受限,AI算力市場面臨前所未有的挑戰。這種情況不僅導致算力租賃概念股贏家科技 中北通訊等公司宣布上調算力服務費,也引發了行業內漲價的局面。近日接受英聯社採訪,由於英偉達A費用漲幅倍的影響,行業內漲價的訊息傳來不絕於耳。顯示卡漲倍是常態,前段時間連都漲了倍,後來又降了下來。這導致...