昇騰雲服務,爲百模千态注入強勁動力
發(fā)布時間:2024-04-15
 

人工智能(néng)已從萬千碎片化的小模型時代走向(xiàng)“百模千态”的大模型時代。昇騰雲服務爲千行百業提供了更多元、高效、長(cháng)穩的算力服務選擇,企業隻需一鍵接入,即可随取随用AI雲服務,不用自建或改造傳統數據中心,快速創建自己的大模型應用。

當下,算力的緊缺和昂貴已成(chéng)爲智能(néng)創新的重要制約因素,在千行百業的智能(néng)應用開(kāi)發(fā)來說更是如此。而雲算力作爲一種(zhǒng)高效、靈活、可擴展的解決方案,正逐漸成(chéng)爲突破算力瓶頸的更優選擇。昇騰雲作爲全棧自主的AI雲算力底座,提供了高性價比的AI算力,提供全鏈路雲化工具鏈,支持高效遷移,全棧垂直優化,支持模型/算法高效運行,使能(néng)百态千模。

領先優勢,高效連接算力

 

領先的昇騰架構

  • 昇騰達芬奇架構領先,算力相比友商提升30%+;

  • MindSpore原生支持大模型開(kāi)發(fā),千億參數模型調優時間縮短60%。

高效的遷移工具鏈

  • 全流程昇騰遷移工具鏈,典型場景遷移至生産環境<2周;
  • 易用的訓練、推理遷移工具,支撐客戶自主昇騰遷移。

 

極緻的資源利用

  • 統一的資源調度,資源極緻利用,綜合分配率達90%;
  • 彈性調度、訓練&推理融合調度,資源發(fā)放<30分鍾。

 

豐富的生态

  • AI Gallery生态繁榮,沉澱行業資産10萬+;
  • 彙聚主流開(kāi)源大模型,高效連接雲上昇騰算力。

 

豐富應用場景,滿足訪問需求

 

 

大模型

 

 

1.構建大模型應用開(kāi)發(fā)工具鏈,使能(néng)大模型開(kāi)箱即用
  • 構建大模型應用開(kāi)發(fā)工具鏈,完善雲上數據清洗|模型微調|部署|Prompt|評測|Agent,大模型應用開(kāi)發(fā)效率提升;
  • 原生昇騰雲組件Agent,構建“大模型+雲組件”組合競争力,如搜索Agent,大數據Agent等,使能(néng)雲上存量用戶零遷移構建大模型應用;

  • 支持業内主流大模型應用開(kāi)發(fā)框架:兼容主流應用框架, GPU生态應用“零”改造遷移。

2.提供昇騰版主流開(kāi)源大模型
  • 支持業内主流大模型,精度、性能(néng)超越友商;

  • 内源代碼、鏡像、性能(néng)三層開(kāi)放,引領客戶技術選型,同源大模型昇騰開(kāi)發(fā)周期由月降至天。
3.提供昇騰版大模型工具鏈,GPU大模型100%覆蓋遷移

提供昇騰版大模型原生應用開(kāi)發(fā)工具鏈及三方大模型工具鏈,支持大模型調優&工具鏈,豐富用戶選擇。

 

 

AIGC

 

 

1.模型轉換

分鍾級模型轉換,提供模型轉換工具一鍵轉換成(chéng)mindpore格式。
2.自動調優
自動圖優化,生成(chéng)調優策略、編譯、在NPU芯片上驗證的閉環反饋機制,不斷叠代出更優的調優策略。
3.性能(néng)&精度校驗

提供工具,定量分析推理耗時,指定模型輸出進(jìn)行精度誤差分析,保證切換到昇騰後(hòu)性能(néng)提升&精度無損。

自動駕駛

 

 

1.感知、仿真算法性能(néng)深度優化
自動駕駛全鏈路算法深度優化,針對(duì)特有的感知、仿真生成(chéng)相關算法深度優化,性能(néng)提升明顯。
2.大規模分布式訓練
實現大規模分布式訓練,支撐PB級數據訓練。
3.算力升級

快速供應,支撐昇騰雲算力升級,加速客戶算法叠代。

 

 

内容審核

 

深入業務場景,提供完備成(chéng)熟的内容審核/CV場景快速昇騰遷移的方案,高效解決業務内容審核的算力/國(guó)産化需求,助力企業業務穩健發(fā)展。

1.快速遷移評估
昇騰遷移工具鏈快速提供,模型算子分析,模型精度診斷,模型性能(néng)測試,模型性能(néng)調優,模型轉換能(néng)力。
2.降本增效
在審核場景中,昇騰芯片綜合性能(néng)對(duì)比友商顯著提升。