亞馬遜雲科技 2023 re Invent 再次扮演生成式 AI 的三重奏

Mondo 科技 更新 2024-01-30

作者:王從斌。

自從參加今年的紐約峰會後,我就感覺到生成式AI已經成為亞馬遜雲科技發展的重中之重,而通過生成式AI,亞馬遜雲科技正在重新思考自己的IT基礎設施。

事實上,此前亞馬遜雲科技已經建立了三層全棧生成式AI能力,最底層是用於訓練和推理的基礎設施層,中間層是用於微調模型需求的工具服務,上層是構建生成式AI的應用層。

亞馬遜雲科技大中華區產品部總經理陳曉健表示,亞馬遜雲科技持續投入端到端生成式AI的三個不同層次,並持續解決定製能力的問題,因為沒有現成的基礎模型可以直接應用於各行各業的生產環境, 而大模型需要與業務資料相結合才能產生結果。

全棧生成式 AI 能力不斷發展

在生成式 AI 方面,亞馬遜雲科技提供了一些基礎設施,用於訓練基礎模型並在生產環境中執行這些模型中間層提供了訪問底層模型的最便捷方式,為沒有 AI 經驗的構建者提供了直接應用生成式 AI 構建自己的應用程式所需的所有工具在頂層,有使用基本模型構建的開箱即用的應用,讓沒有技術基礎的業務使用者可以在特定場景下直接使用生成式AI。

在底層,亞馬遜雲科技早在 13 年前就看到了 GPU 作為加速計算晶元的價值,因此它也是第一家將 GPU 引入雲端的雲廠商,並率先在 Amazon EC2 P3 例項中提供 NVIDIA V100 GPU。

Amazon Web Services 是全球首家將 NVIDIA 最新晶元、H100 GPU 和 Amazon EC2 P5 例項推向市場的主要雲提供商,Amazon EC2 P5 例項的訓練速度比 Amazon EC2 P4 例項快 4 倍,成本僅為 Amazon EC2 P4 的 60%。

今年,亞馬遜雲科技CEO亞當和英偉達CEO黃仁勳擴大戰略合作,亞馬遜雲科技成為首家推出NVIDIA GH200 NVL32例項的雲廠商,並啟動了“Project CEIBA”合作專案,利用全球最快的GPU驅動的AI超級計算機和NVIDIA DGX雲超級計算機進行NVIDIA AI訓練、研發, 開發定製模型,它將有 160,000 個最新的 GH200 超級晶元,提供高達 65 Exaflops 的驚人計算能力。

亞馬遜雲科技還推出了專為訓練AI系統而設計的第二代晶元Amazon Trainium2,與Amazon Trainium相比效能提公升了4倍,並專門針對千億甚至萬億引數的大模型訓練進行了調整。

自今年 4 月發布 Amazon Bedrock 以來一直備受關注的中間層也進行了公升級,以支援 Re:Invent 上的 Anthropic Claude 21 和 Meta Llama 2 70b。 它還發布了基於 Amazon Titan 大型模型的模型微調、檢索增強生成和預訓練功能。

Amazon Bedrock 的代理也已全面推出,能夠理解使用者請求,將複雜任務分解為多個步驟,並實現自動化和管理。

在應用層,Amazon Q 也是乙個合理且出乎意料的發布,我們可以看到市面上有很多智慧型助手,Amazon Q 是業界首款可以針對企業業務場景量身定製的生成式 AI 助手,基於企業內部資料幫助企業解決問題。

Amazon Q 是一款助手,允許使用者在亞馬遜雲科技上構建、部署和操作應用程式和工作負載,幫助開發人員通過自然語言問答快速找到他們想要的服務它可以成為使用者的業務專家,對接企業資料,安全、私密地為業務問題提供快速、準確、相關的答案;這可以是商業智慧型專家,可以將其引入各種服務和應用程式,以提供基於生成式 AI 的幫助您可以成為聯絡中心專家,並引入雲聯絡中心應用程式 Amazon Connect。 Amazon Q還將為即將到來的亞馬遜供應鏈提供生成式AI助手。

Amazon Q首先是專業的,但也提供了定製能力,讓使用者可以實現自己的定製,最終保證最大的安全性。 陳曉健認為,這僅僅是個開始,未來會有越來越多的產品整合Amazon Q的功能,這將帶來聊天機械人聊天機械人的全新使用者體驗,是對其他產品的補充。 開發者會話可能是 Amazon Q 第乙個應用的場景,比如能夠在幾天內將 1000 多個 J**A 應用程式從 J**A8 公升級到 J**A17,還有一些場景可以快速實現知識庫和商業智慧型。

從雲到邊緣的技術演進

除了在AI服務方面進行大量創新外,亞馬遜雲科技還在不斷投資基礎設施,目前已覆蓋全球32個地理區域,並已宣布計畫增加約5個新區域。 如今,亞馬遜網路服務擁有的資料中心數量是第二大雲提供商的三倍,服務數量增加了 60%,功能數量增加了 40%。

眾所周知,世界上第乙個雲服務是 Amazon S3,它提供了從 S3 Standard 到 S3 Glacier Deep Archive 的各種儲存層。 亞馬遜雲科技也看到了一些非常具有挑戰性的場景,這些場景需要對金融交易分析、欺詐檢測、基於機器學習的量化交易等進行高效能分析,這需要在幾分鐘內訪問數百萬個儲存的請求,並且其延遲需要保持在毫秒級。

Re:Invent 發布了雲中最快的物件儲存服務 Amazon S3 Express One Zone,它採用了 Amazon S3 儲存類的新架構,使用專門設計的硬體和軟體來加速資料處理,並且可以儲存訪問資料和就近部署的高效能計算應用程式。 效能比 Amazon S3 標準儲存快 10 倍,同時每分鐘能夠處理數百萬個請求,延遲穩定為毫秒級,同時將請求成本降低 50%。

通用晶元方面,2024年,亞馬遜雲科技推出了業界首款自研通用晶元——亞馬遜GR**ITON,至今已發布三代半。 亞馬遜 gr**iton 處理器基於 ARM 架構,亞馬遜雲科技在 Re:Invent 上推出了最新一代的 gr**iton4,將 gr**iton4 的效能提公升了 30%,獨立核心數量增加了 50% 以上,記憶體頻寬提高了 75% 以上,基於 gr**iton4 的 Amazon EC2 R8G 例項目前處於預覽狀態。

此外,基於Amazon GR**ITON3處理器的亞馬遜彈性計算雲(Amazon EC2)M7G通用型、C7G計算優化型和R7G記憶體優化型例項已於15日在中國上市。

亞馬遜雲科技是業界首家推出無伺服器服務的雲提供商,去年亞馬遜雲科技也成為首家實現無伺服器資料分析服務的雲提供商,今年,亞馬遜雲科技高階副總裁彼得·安德(Peter Ander)宣布了在資料庫和應用領域的三項無伺服器創新。

Amazon Aurora Limitless Database 是唯一真正實現無伺服器的分片資料庫,因此使用者不再需要手動管理底層物理伺服器資源,Serverless 可以自動管理和擴充套件資源,按需付費,幫助使用者最大程度降低成本。 Amazon ElastiAche Serverless 使客戶能夠在不到一分鐘的時間內建立高度可用的快取,並實時進行垂直和水平擴充套件,以支援複雜的應用程式,而無需管理基礎設施。 預覽 Amazon Redshift Serverless 基於 AI 的全新擴充套件和優化功能,這些功能可自動調整資源並跨多個工作負載維度執行優化操作,以滿足預設的價效比目標。

亞馬遜雲科技還通過Amazon Local Zone、Amazon Outposts、Amazon Snowball、Amazon Private 5G等服務將雲從中心延伸到邊緣,還通過Amazon Ground Station加速衛星資料上雲,將雲計算帶入太空。

同時,“柯伊伯計畫”也是亞馬遜雲科技正在建設的乙個專案,它將通過數千顆低地球軌道衛星的衛星網路,為地球上數以億計缺乏可靠網際網絡連線的人們提供更快、更可靠的寬頻服務,縮小數字鴻溝。

相關問題答案

    Amazon Web Services 首席技術官 Werner Vogels 談論生成式 AI 如何改變生活

    在過去的一年裡,雲 機器習和生成式人工智慧變得更加普遍,幾乎影響了人類生活的方方面面,從寫電子郵件到開發軟體,甚至早期癌症篩查。未來幾年,創新將成為各個領域的重要主題,旨在使技術民主化並幫助我們跟上不斷加快的生活節奏,而這一切都始於生成式人工智慧。生成式人工智慧將具有文化意識 使用文化多樣性資料訓練...

    亞馬遜雲科技 Lightsail VPS 保姆級教程,從初學者到精通

    在網際網絡上,很多人在選擇和使用VPS 虛擬專用伺服器 時有點困惑,不知道如何選擇VPS或如何使用它。所以今天,我就給大家帶來乙個保姆級的VPS使用方法,以Amazon Lightsail為例,方便大家上手。.選擇VPS服務提供商。首先,第一步,我們需要選擇乙個可靠的VPS服務商,現在VPS服務有很...

    亞馬遜雲科技技術講座,生成式 AI 重構開發者未來競爭力

    re invent 在美國拉斯維加斯圓滿落幕,從 月 日起, 亞馬遜雲科技 re lnvent 中國站也在各大城市展開!在 Re Invent 大會上,亞馬遜雲科技發布了一系列新產品 服務和工具,其中開發者最期待的是生成式 AI 產品和服務,包括用於生成式 AI 的 Amazon GR iton 和...

    深入了解 Amazon Web Services 重塑、生成式 AI 與雲共舞

    近日, 亞馬遜雲科技 re invent 在拉斯維加斯圓滿落下帷幕。作為一年一度的雲計算行業盛會,一系列對行業產生深遠影響的產品和服務陸續發布,引起了業界的廣泛關注。完整的端到端功能 亞馬遜雲科技的生成式 AI 全景圖。在今年的Re Invent大會上,最引人注目的無疑是 生成式AI 亞馬遜網路服務...

    比亞迪選擇亞馬遜雲科技作為其雲服務提供商

    環球通訊社年月日訊 亞馬遜雲科技在年Re Invent全球大會上宣布,新能源汽車製造商比亞迪已選擇亞馬遜雲科技作為其雲服務提供商,在車聯網領域開展技術合作,加速全球業務拓展。比亞迪的新能源汽車足跡已遍布全球多個國家和地區 多個城市,服務全球超過萬車主。亞馬遜雲科技為比亞迪的運營提供了可擴充套件 可靠...