近日,2023 亞馬遜雲科技 re:invent 在拉斯維加斯圓滿落下帷幕。 作為一年一度的雲計算行業盛會,一系列對行業產生深遠影響的產品和服務陸續發布,引起了業界的廣泛關注。
完整的端到端功能:
亞馬遜雲科技的生成式 AI 全景圖。
在今年的Re:Invent大會上,最引人注目的無疑是“生成式AI”。 亞馬遜網路服務首席執行官亞當·塞利普斯基(Adam Selipsky)表示:“圍繞生成式AI模型的創新是最重要的事情,它將重塑我們在工作和家庭中與之互動的每個應用程式,我們正在以與以前完全不同的方式採用生成式AI的概念。
因此,亞馬遜雲科技圍繞生成式 AI 的新技術堆疊誕生了,它也是業內首批宣布圍繞開發人員和使用者進行生成式 AI 應用程式開發的完整端到端功能的供應商之一。
戴溫表示,亞馬遜雲科技的生成式AI技術棧由三層技術棧組成,分別是基礎設施層、基礎模型服務層和AI應用層。 在這種架構下,亞馬遜雲科技一方面將利用其自主研發的晶元、模型、資料、服務等綜合能力,確保算力與成本的平衡另一方面,為了給開發者和客戶提供更多樣化的選擇,亞馬遜雲科技將繼續與NVIDIA、Anthropic等軟硬體廠商保持密切合作。
他進一步解釋道:“在基礎設施層,主要包括訓練和推理的基礎設施,它們共同為生成式人工智慧提供穩定可靠的計算和儲存能力。 ”
事實上,借助 Gr**Iton、Trainium 和 Inferentia 等 Nitro 管理程式和晶元系列,亞馬遜雲科技在晶元開發技術方面積累了豐富的經驗。 在今年的Re:Invent大會上,亞馬遜雲科技更進一步,推出了用於生成式AI和機器習訓練的基於雲的AI晶元Amazon Trainium2,以及自主研發的伺服器CPU晶元Amazon GR**ITON4。
模型層主要負責對模型進行呼叫、微調和優化,幫助使用者更靈活、更高效地使用生成式AI技術,提高模型的效能和效率。 在此次發布會上,我們還公升級了亞馬遜基岩。 它是乙個提供對託管基礎模型的訪問的平台,包括亞馬遜雲科技自己的 Amazon Titan 系列大型語言模型,以及來自其他供應商和開源生態系統的神經網路選項。 戴溫介紹道。
值得一提的是,對於亞馬遜基岩,亞馬遜雲科技在大會上宣布了三項新功能:模型微調、檢索增強生成(RAG)和大模型預訓練,允許客戶在基岩中針對特定任務定製大模型。
應用層主要包括各種生成式AI應用,如自然語言處理、影象識別、語音識別等。 亞馬遜雲科技(Amazon Web Services)的新型生成式AI助手Amazon Q也包含在這一層中。 這些應用可以幫助企業快速構建和部署AI應用,提高業務效率和創新能力。
“一般來說,在這三層AI堆疊中,底層是針對大模型的構建者,中間層是針對大模型的使用者,頂層是針對生成式AI應用的開發者。 ”
談到這些版本對開發者的影響,戴溫表示,對於國內大型模型開發者來說,如何以更低的成本訓練出高質量的模型是重中之重。 這涉及到兩個核心問題:一是是否有強大的晶元支援,二是是否有方便的框架來排程這些計算資源。 碰巧的是,亞馬遜雲科技平台為使用者提供了豐富的選擇,包括高效的GPU、機器學習習和推理晶元,以及使用者友好的亞馬遜SageMaker機器學習習框架等。
Amazon Web Services 的 Amazon Bedrock 對於希望在其企業內應用大型模型的使用者來說是不可或缺的工具。 如果沒有它,開發人員可能需要在毒性過濾和穩健性評估等方面投入大量精力。 但現在,有了這個標準化平台,開發人員可以直接使用 GuardRails 等功能來解決這些問題,從而大大簡化了工作流程。 戴溫補充道。
此外,對於純應用程式開發人員,例如移動應用程式開發人員。 Dai 溫表示,即使不了解大型語言模型,開發人員也可以使用亞馬遜雲科技的應用層服務,例如Amazon Q,在後台輕鬆整合各種資料來源,為應用程式新增新功能。
整體來看,從底層基礎設施到中間基礎模型,再到頂層AI應用,通過這幅AI全景圖,可以明顯看出亞馬遜雲科技多年來在前沿技術領域持續深耕,以及由此沉澱下來的端到端綜合實力。 生成式AI的出現正在全面衝擊科技行業,亞馬遜雲科技希望通過“家庭桶”產品和服務幫助企業和開發者抓住機遇。
技術的前輪,市場的後輪,包容性的生成式AI已經到來。
當然,除了生成式AI領域的一系列重磅公告外,今年的Re:Invent也帶來了雲計算領域的一系列新突破:例如,亞馬遜雲科技全面公升級了S3物件儲存服務Amazon S3 Express One Zone,可以提供每秒個位數、毫秒級數十萬次的資料訪問次數, 請求成本降低 50%,計算成本降低 60%。它還宣布了四項新的零 ETL 整合功能,使客戶能夠快速輕鬆地連線和分析資料,而無需構建和管理複雜的提取、轉換和載入 (ETL) 資料管道等。
科技的車輪滾滾向前,對於企業來說,只有不斷擁抱變化,不斷創新,才能打造出長久不衰的企業。 “總的來說,對於開發者來說,我認為理性看待生成式AI浪潮,保持習學習,積極使用先進的生成式AI工具來解放雙手,提高生產力,激發創造力是很重要的。 戴溫總結道。
RE:INVENT 2023 帶給行業的最大驚喜是,隨著亞馬遜雲科技一系列生成式 AI 產品和雲服務的發布,AI 包容性的力量開始從行業端、企業端,進一步落到構建者的個人端。 建設者可以使用這套新的生成式 AI 工具重新構想他們的業務,這些工具整合到業務流程中,並以更大的主動性創造更大的社會價值。
未來,亞馬遜雲科技將持續賦能更多企業和開發者,通過各類生成式AI產品和服務重構面向未來的競爭力,助力業務創新,推動生成式AI技術的融入。 亞馬遜雲科技本身將繼續推動創新,期待在不久的將來為行業帶來更多驚喜