聚焦生成式AI,從基石到平台再到應用,亞馬遜雲科技如火如荼

Mondo 科技 更新 2024-01-29

簡介:在生成式AI的道路上,

雲廠商的行業呼聲越來越響亮......

【全球雲觀測、技術熱點】。

2024年,全球科技行業最熱門的事物是生成式AI,即人工智慧生成的內容。 在生成式AI的道路上,雖然沒有千軍萬兵,但國內外大部分科技巨頭都積極進場,自身表現精彩紛呈,其中來自雲廠商的行業呼聲越來越響亮。

12月12日是個好日子。 2023 re:invent中國城市巡展在北京拉開帷幕,活動最吸引我的是,亞馬遜雲科技對生成式AI的關注,為行業帶來了全新的視野,可謂是一次戰略公升級,火力十足。

鍛造生成式AI基石,多措並舉強化AI晶元能力

眾所周知,任何想要玩轉生成式人工智慧的科技巨頭都離不開基礎設施的大力支援。 在算力、儲存能力、承載能力等方面具有天然優勢的雲廠商也不例外,但他們更善於利用自身的力量,繼續打造生成式AI的基石。

首先,強大的算力是剛性需求,亞馬遜雲科技很早就開始了AI定製晶元的技術研發,從晶元底層為AI算力提供了澎湃動力,也是對GPU核心短缺的積極回應。

然而,全球能夠在AI晶元上擁有完美自研能力的雲廠商屈指可數。 亞馬遜雲科技是其中的代表,自研的AI晶元不僅嚴肅專業,而且具有長期、持續的特點。

不過,早在2024年,亞馬遜雲科技就推出了首款自研晶元產品Amazon Nitro,從此開啟了自研“晶元”的新節奏。 它還構建了業界領先的硬體虛擬化引擎,支援雲中的安全性、效能和創新。 目前,它已經達到了第五代Amazon Nitro,但Amazon Nitro在虛擬化晶元方面的定位。

此外,自研ARM架構伺服器CPU晶元起步很早,多年前,亞馬遜雲科技就開始推廣雲原生處理器晶元Amazon Gr**Iton的產品,2024年Re:Invent中國城市巡展北京首站也推出了最新的Amazon GR**ITON 4。

簡要回顧一下亞馬遜GR**ITON的歷史,2024年推出了第乙個版本的Amazon GR**ITON,並於2024年12月推出了Amazon GR**ITON 2。 2021 年,公司推出了 GR**ITON 3,效能比 GR**ITON 2 提公升 25%,能耗降低 60%。 2022 Re:LNent 推出亞馬遜 GR**iton3E 晶元。 2023RE:LNent 再次公升級推出亞馬遜 GR**ITON 4,效能更高、效能更強,與 GR**ITON 3 相比,GR**ITON 4 核心數增加了 50%,處理速度提高了 30%,記憶體頻寬提高了 75%,資料庫應用速度提高了 40%,大型 J**A 應用程式的處理速度提高了 45%。

Amazon GR**iton 在使用者應用中獲得了強勁的勢頭。

可以看出,持續的技術創新和迭代造就了Amazon GR**ITON處理器,它成功地為執行在Amazon EC2中的雲工作負載提供了更好的價效比和更低的能耗。 與基於 x86 的同類亞馬遜雲科技例項相比,使用 Amazon GR**ITON 晶元的 Amazon EC2 例項可將成本降低多達 20%,並實現高達 60% 的節能,同時與同類亞馬遜雲科技例項相比,實現相同的效能。 目前,有 150 個亞馬遜雲科技計算例項正在使用 Amazon gr**iton 處理器,超過 5 個使用者(包括排名前 100 的企業)正在使用這些例項。

在虛擬化晶元和CPU晶元領域,亞馬遜雲科技不僅堅持不懈地追求卓越,而且在GPU領域也矢志不渝地追求卓越。 針對生成式AI和機器習訓練的發展,亞馬遜雲科技於2024年正式推出了基於雲的AI晶元Amazon Trainium。 最新的 Amazon Trainium2 將再次將雲 AI 晶元的功能提公升到乙個新的水平。

Amazon Trainium2 的功能是第一代 Amazon Trainium 的四倍,能效是其前身的兩倍。 這相當於每個晶元 650 teraflops(每秒 1 萬億次浮點運算)的計算能力。 乙個由 100,000 個 Amazon Trainium 晶元組成的集群可以在幾周內訓練出具有 3000 億個引數的大型語言模型。 在那之前,重塑AI晶元的價值太難了。 然而,自從Amazon Trainium推出以來,更多面向大規模應用創新的企業看到了新的發展路徑。

一些不熟悉公有雲行業的朋友可能會有疑問,如果伺服器CPU、GPU晶元不是Intel、AMD、NVIDIA等現成的商用產品,為什麼還要亞馬遜雲科技自己開發打磨針對這個問題,亞馬遜雲科技計算與儲存產品總監張揚在演講中提到,只有打造“核心”雲基礎,才能重塑生成式AI的基礎。 畢竟,生成式AI工作負載需要極高的計算密度,而要想實現更好的算力和價效比,雲廠商必須從基礎做起,自己動手,精通公有雲開發的亞馬遜雲科技也不例外。

為此,重塑計算基礎也成為亞馬遜雲科技鍛造生成式AI基石的重要舉措之一,並將長期引領。

在北京大會上,還宣布亞馬遜雲科技與英偉達的合作日趨完善,雙方將共同推出先進的基礎設施、軟體和服務,推動生成式AI的持續創新。 亞馬遜雲科技將成為首家在雲端配備英偉達最新GPU晶元GH200 Grace Hopper的雲廠商,並將推出NVIDIA DGX Cloud NVIDIA AI“訓練即服務”。 在Project CEIBA進一步合作的基礎上,兩家公司將共同打造世界上最快的AI超級計算機,以及更多基於NVIDIA GPU晶元的雲例項。

為此,通過AI晶元的定製,雲廠商可以通過持續的技術優化,支援生成式AI工作負載日益增長的計算量,但資料量激增呢?

這裡特別不得不提Amazon S3,自從17年前亞馬遜儲存服務正式推出以來,它已成為最受歡迎的雲儲存服務之一,擁有來自全球各行各業的數百萬客戶,Amazon S3也成為全球雲儲存的重要標準之一。

Amazon S3 Express One Zone現已全面推出,與Amazon S3標準相比,資料訪問速度提高了10倍,資料請求成本降低了50%,可以滿足機器學習習訓練和推理、互動式分析和內容建立等請求密集型工作負載所需的高效能儲存,進一步展示了亞馬遜雲科技在打造生成式AI基礎方面的綜合實力。

當然,打造生成式AI的基石,離不開亞馬遜雲科技提供的高度安全可靠的雲基礎設施。 如今,已在全球31個地區實現99個可用區,覆蓋245個國家和地區,亞馬遜雲科技無處不在的雲服務網路已快速觸達其不斷創新的AI晶元能力的每乙個角落。

開放工具平台,拓展強化模型生態

生成式AI基石的魯棒性,自然會給大模型的開發帶來很大的幫助。 不僅如此,亞馬遜雲科技推出的一款可以接入託管基礎模型的工具平台Amazon Bedrock,面向所有大模型廠商開放,還可以根據具體應用需求實現定製開發,有利於拓展和加強大模型生態。

不僅在戰略上,而且在具體戰術的實施上,這是業界對亞馬遜雲科技一貫發揮的中肯評價。 亞馬遜基岩再次證明了這一點。

在此之前,我記得業內有一句話,沒有一家供應商可以滿足使用者在數位化之旅中的所有需求。 如今,這句話也適用於大型模型產業化的發展過程。 千行百業都在嘗試將生成式AI主動融入到各自的業務中,但在大模型產業化的實際實施中,沒有乙個單一的大模型能夠適合所有應用場景。 該怎麼辦?

這就是亞馬遜基岩誕生的意義所在,有了這樣乙個可以接入託管基礎大模型的工具平台,千行百業的使用者都可以選擇任何適合的大模型,比如電商公司可以使用產品文件來訓練自己的模型,這進一步提高了大模型訓練實踐和創新自身業務應用的能力。 出人意料的是,Amazon Bedrock已經服務了全球數以萬計的使用者,比如Salesforce、MongoDB等知名公司,紛紛採用Amazon Bedrock平台推廣生成式AI的應用。

通過兩項新功能,微調和持續預訓練,這兩項新功能允許使用者在 Amazon Bedrock 中為特定任務自定義大型模型。 它不僅允許使用者在標記的資料集上訓練大型模型,而且還允許使用者在非常大的資料集上自定義大型模型,例如當涉及數十億個令牌時。 同時,可以對未標記的資料集進行連續預訓練,無需建立輸出示例,可以大大減少建立訓練資料集的工作量,降低AI定製的成本。

Amazon Bedrock的全面更新帶來了三大優勢:便利性、體驗性和安全性。

首先,更好的便利性。 借助 Amazon Bedrock 平台上最新的代理功能,任何開發人員都可以使用自然語言命令輕鬆方便地實施生成式 AI 應用程式,例如跨公司系統和資料來源處理銷售訂單等多步驟任務,而無需複雜的設計提示、管理上下文會話或手動編排系統。

其次,它更具體驗性。 全開放的大型模型開發平台,不僅支援使用者呼叫Amazon Titan,還支援AI21 Labs、Anthropic、Stability AI等第三方多樣化模型,並可定製開發。

第三,安全性更高。 為了確保使用者能夠更安全地使用生成式 AI 技術,開發人員利用新推出的 GuardRails 功能,為所有應用程式提供跨大型模型的 AI 安全一致性,從而在大型模型中實現新的保護措施。 此外,Amazon Bedrock在設計時考慮到了使用者資料的安全性,在傳輸中和靜態時都進行了加密,使所有使用者資料都是安全的,進一步增強了私隱保護,防止其被他人使用。

值得一提的是,在亞馬遜基岩的幫助下,ISV在生成式AI時代也獲得了新一輪的能力。 作為全球公有雲領域公認的領導者,亞馬遜雲科技堅持生態成功的戰略,開展全球合作夥伴計畫超過10年,構建了全球亞馬遜雲科技合作夥伴網路(APN),目前在全球擁有超過12萬家合作夥伴,覆蓋150多個國家, 在國內的合作夥伴總數已超過6000家。

新發布的亞馬遜雲科技生成式 AI 卓越中心向所有合作夥伴網路 (APN) 成員開放,並提供與生成式 AI 相關的教育和培訓資源。 生成式 AI 解決方案提供商和行業領導者也歡迎分享他們的經驗,來自 Anthropic、Boston Consulting Group、Capgemini、Cohere、IBM、麥肯錫、NVIDIA 和 Pineconone 等合作夥伴的內容已經在生成式 AI 卓越中心進行了展示。 生成式 AI 卓越中心為您提供了構建生成式 AI 專業知識的 習 方法,以及從成功解決方案中學習的方法,從而推動 ISV 擁抱生成式 AI 時代並獲得更多增長機會。

可以看出,亞馬遜基岩+APN+生成式AI卓越中心,必將賦能亞馬遜雲科技進一步拓展和強化模型生態,持續實現“生態成功”價值最大化。

說到企業級生成式 AI,它簡直......

鍛造AI的基石很容易理解,畢竟亞馬遜雲科技本身就是公有雲廠商,雲已經成為全球企業的基礎設施,自然是AI的重要基礎設施。 如何構建像 Amazon Bedrock 這樣的開放工具平台並不難理解,作為公有雲領導者,您強調基於平台的生成式 AI 開發也就不足為奇了。

然而,新推出的企業應用助手Amazon Q確實給業界留下了深刻的印象。 全球雲觀察分析指出,Amazon Q誕生後,對企業級行業的AI演進和生成式AI在行業的落地產生了開創性的影響,也為加速全球雲計算行業向智慧型時代發展帶來了深遠的意義。

一些業內人士評論說,Amazon Q 改變了開發人員和 IT 人員在亞馬遜雲科技上構建、部署和操作應用程式和工作負載的方式。

Amazon Q 使使用者能夠輕鬆進行對話、生成內容和採取行動。 亞馬遜雲科技CEO亞當·塞利普斯基(Adam Selipsky)更直接地解釋了亞馬遜Q,“亞馬遜Q充分了解企業的業務、資料、客戶和運營需求。 ”

需要指出的是,Amazon Q 並不是面向個人消費者的通用聊天機械人,而是面向千行百業的企業級生成式 AI,被業內人士稱為企業級“ChatGPT”。 Amazon Q 可以通過亞馬遜雲科技管理控制台、文件頁面、IDE、Slack 或其他第三方對話應用程式的聊天介面進行訪問,並且 Amazon Q 現在為在亞馬遜雲科技上構建、使用內部資料和系統或應用一系列資料和業務應用程式的任何使用者提供強大的生成式 AI 支援,並且使用者業務內容絕不會用於訓練底層模型。

Amazon Q 非常靈活且完全可定製,使企業開發人員能夠專注於開發。 同時,它具有驚人的轉換能力,為每一次應用公升級帶來前所未有的便利。 與 Amazon CodeCatalyst 結合使用後,可以在支援的 IDE 中實現使用者生成的測試,以提高開發效率和質量。

Amazon Q 可以為 Amazon Quicksight、Amazon Connect 和 Amazon Supply Chain 提供基於 AI 的生成式行業助手。 目前,Amazon Q 已向使用者預覽,Amazon Connect 中的 Amazon Q 已全面推出,Amazon Supply Chain 中的 Amazon Q 即將推出。

在以生成式AI加速業務創新的過程中,Amazon Q的價值將得到凸顯,企業與外界的溝通能力在行業應用中可以得到顯著提公升。 亞馬遜雲科技大中華區行業解決方案總監蘇卓指出,使用Amazon Q後,Orbit將節省10-15%的每次接觸時間,讓更多企業成為AI時代的“超級英雄”。

如果說生成式 AI 正在推動創新和業務變革,那麼 Amazon Q 就是乙個標誌性的誕生,標誌著面向企業的世界的開始。

摘要:全速進入生成式 AI

作為全球雲計算的先行者和引領者,亞馬遜雲科技一年一度的re:invent全球大會成為業界關注雲創新的焦點,因此2023 re:invent中國行也備受關注。

目前,亞馬遜雲科技不僅在基礎設施、計算、儲存、資料等領域持續重塑雲計算,還在生成式AI發展道路上鍛造AI基石,多方加強AI晶元能力,打造亞馬遜基岩開放工具平台,推出生成式AI卓越中心服務合作夥伴, 甚至發布了 Amazon Q,這是一款適用於數千個行業的企業應用程式助手。可以說,火力十足,野心必勝。

然而,利用生成式AI全面重塑未來,不僅是亞馬遜雲科技的創舉,也是許多行業深切感受到生成式AI帶來的創新。 通過影象生成、人機對話等多個領域的創新實踐,生成式AI新時代的序幕已經慢慢拉開。

聚焦生成式AI發展,自12月12日亞馬遜雲科技2023 re:invent中國城市行成功上線以來,北京站獲得了眾多使用者、合作夥伴和業界的一致好評。

未來將推廣到全國各地,覆蓋北京、上海、廣州、深圳、成都、青島、南京、習、杭州、長沙等10個城市,將2023 Re:Invent全球大會的最新服務和技術、前沿趨勢和最佳實踐帶到區域市場。 (by aming)

end-

如何

是的

歡迎在文末發表評論!

【全球雲觀測、全球儲存觀測、阿明觀測、科技明說】。聚焦科技公司分析,用資料說話,帶你了解技術。 本文及作者回覆僅代表個人觀點,不構成任何投資建議。

相關問題答案

    東北焦點從20下降到不足5,東北怎麼了?

    近日,東北地區年前三季度GDP資料出爐,遼寧 吉林 黑龍江三省GDP分別為億元,億元和億元,增速分別為。 和 而全國平均增長率為 遼寧省和吉林省的增速一直高於全國平均水平。與此同時,東北三省個城市GDP資料也正式揭曉,大連 瀋陽 長春 哈爾濱四大省會城市及副省級城市處於絕對領先地位。然而,由於大多數...

    從AI製藥到AI生態,18C硬科技的代言人晶泰科技將何去何從?

    就像 網際網絡 一樣,人工智慧早已成為可以惠及千行百業的 基礎能源 生物醫藥是AI落地的熱門產業。隨著技術的不斷發展,越來越多的企業打造了完整的業務閉環,實現了規模化營收,衝向了資本市場,這也為我們提供了乙個極好的觀察視窗。月日,晶泰科技在香港聯交所遞交招股書。 年,公司營收從萬元增長到元億元,年復...

    CRM平台從傳統到現代客戶管理方法的演變和演變

    隨著科學技術的飛速發展和企業競爭的日益激烈。CRM已成為現代企業不可或缺的一部分。然而,CRM的發展並非一蹴而就。從傳統的人工處理和管理到現代數位化平台,CRM的發展經歷了一系列的變化和創新。讓我們來看看CRM是如何演變的。手動處理資訊 在傳統的CRM方法中,企業通常依靠手動手段來處理和管理客戶關係...

    從07式到21式:中國軍裝轉型背後的故事

    風格迷彩制服的輝煌歲月。熱血的軍營一直是年輕人夢寐以求的地方,綠色的軍裝不僅是責任的象徵,更是驕傲的源泉。其中,式迷彩服因其特殊的魅力,成為無數老兵立功軍營的見證。然而,隨著軍改的推進,這種已經安裝多年的式迷彩服被式訓練服所取代,引起了廣泛的關注。風格迷彩制服的繼承與改進。年月,我軍正式安裝式迷彩服...

    AI智慧型陪練從單向學習習轉變為互動學習習

    進入世紀,越來越多的人意識到重塑習現代學習模式的重要性。傳統的單向學習習方法,即從 講師 到 習學習者 的資訊傳遞,遠遠不能滿足現代習學習者的需求。在未來教育培訓的新領域,如何實現企業從單向學習習向互動學習習的轉變成為問題的核心。而答案可能就在於AI智慧型陪練。.什麼是AI智慧型陪練?實際上,它指的...