“對於青雲來說,AI時代將是乙個新的機遇,10年將帶來比過去10年更大的市場需求和機遇。 青雲科技總裁林遠說。 在這一輪AI大模型的技術進步中,支撐人工智慧所需的算力自然成為關注的焦點。 基於對AI算力需求的洞察,青雲發布了青雲AI算力服務平台、青雲AI算力雲等產品和服務。
隨著大型AI模型的發展,算力的重要性日益凸顯。 以ChatGPT為例,根據相關調查資料,ChatGPT的總算力消耗約為3640pf-days,需要7到8個投資規模為30億、算力為500p的資料中心來支援其執行。 值得注意的是,AI訓練任務的算力增長極快,每3它將在 5 個月內翻一番。
在計算能力需求不斷增加的同時,算力已成為推動數字經濟發展的核心力量。 中國綜合算力指數(2023)最新資料顯示,截至2024年6月底,我國算力總規模已達197eflops,全國在用資料中心機架總規模超過760萬個標準機架,位居全球第二。 近五年中國總算力年均增長率接近30%。
人工智慧計算產業的發展既是機遇也是挑戰。
林媛認為,人工智慧和大模型是生產力的重大變化,在這種技術驅動的市場變革中,客戶需求、算力需求、應用需求、底層架構都在發生變化。 近十年來,無論是面向C端的移動網際網絡,還是面向B端的數位化,應用創新主要基於CPU。 然而,隨著 AI 的普及,幾乎所有應用都需要擁抱 AI 技術或被 AI 修改,這增加了對 GPU 的需求。
不僅如此,在東數西算的趨勢下,未來的AI應用在追求效率的同時,也會更加注重價效比,從而推動算力從低時延的東部沿海地區向算力更便宜的西部地區發展,未來算力的分布將更加分散。 此外,隨著人工智慧和雲原生技術的不斷發展,客戶服務將變得更加複雜,業態將更加豐富,對技術和平台的挑戰也將增加。
特別是在智慧型計算中心的建設和運營過程中,如何考慮其設計的合規性,如何實現超級計算、智慧型計算、通用計算等多種算力的統一排程,如何同時兼顧傳統應用、雲原生應用、AI應用,如何支援異構CPU和GPU, 如何提供高效的網路和儲存,如何實現高效的運維運維運營,都是需要考慮的問題。可以說,智慧型計算中心建成後的運營成為關鍵挑戰。
基於自身的經驗和實踐,青雲科技也給出了相應的答案——AI算力服務平台,為行業提供了參考正規化。 青雲科技產品經理苗暉表示:“AI算力服務平台作為算力中心建設運營的新模式,旨在管理AI基礎設施,提供多元算力排程,提供智慧型算力排程,確保算力快速建立。 ”
青雲AI算力雲是以青雲為主,以生態聯盟形式運營的AI算力服務。 與傳統模型相比,青雲AI計算雲具有一定的優勢:從客戶的角度來看,他們需要乙個完整的解決方案,包括機房、算力、排程平台、模型驅動、模型、模型服務,以及上述應用從最優秀的商人的角度來看,每一層都需要專業的技術和長期的積累和巨大的投入。
林遠認為,在AI領域,巨頭肯定會出現,但這些巨頭不應該是一家獨立的公司,而應該是乙個良好的生態合作體系,這需要所有公司共同努力,推動AI技術的進步和發展。