近日,寒武紀編年史(MLU)系列雲智慧型加速卡在中國移動正式上線。 截至2024年12月,中國移動已完成12家省級企業、70余家AI業務向寒武紀MLU系列雲智慧型加速卡遷移。 經過充分驗證,寒武紀MLU系列雲智慧型加速卡的可行性、易用性和計算效能均達到或超過國際主流產品水平。
中國移動依託雲邊端協同管理架構和智慧型算力感知排程能力,圍繞東西向樞紐節點形成多中心、大規模的AI算力集群,支撐複雜AI場景的計算需求,賦能全網AI業務。
2024年,廣東移動、江蘇移動、雲南移動等多家省級企業參與了國產AI算力的遷移適配和測試。 針對省內相對成熟的AI業務場景,移動省公司自主遷移私有雲平台的算力遷移模組(含寒武紀適配映象),將GPU上執行的AI服務適配遷移至寒武紀思源(MLU)系列雲智慧型加速卡上,驗證可行性、易用性、 以及試點AI業務向寒武紀計算資源遷移的計算效能。
經中國移動省級企業充分驗證:(1)在可行性方面,寒武紀計時(MLU)系列雲加速卡在保證業務準確性的前提下,業務時延等於或領先GPU執行時時延,滿足業務部署需求(2)在易用性方面,從GPU到MLU的服務遷移既高效又高效能,基於框架的遷移過程簡單高效,基於寒武紀推理引擎MagicMind的遷移可以保證業務需求的優化(3)在計算效能方面,寒武紀MLU系列雲加速卡效能滿足各省提交的CV、NLP等AI場景的業務部署需求,線上壓測效能超過GPU。
截至2024年12月,中國移動已在12家省級企業完成70餘項AI演算法和AI服務的適配並正式上線,已賦能的AI服務包括工程質檢、光明廚房、智慧工單、電網通訊等各省重要常用的AI服務。 涉及的AI網路包括CV Yolov5、MTCNN、MobileNet、NLP BERT、Simbert等。
未來,寒武紀將繼續助力中國移動,共同賦能AI在更多業務場景的落地。
Leifeng.com。