繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

中國移動「芯易」存算一體通用軟件計算引擎入選「中央企業算力網絡創新聯合體十大成果」

2025-10-13 19:20

10月12日上午,在中國移動全球合作伙伴大會算力網絡聯合創新分論壇上,「中央企業算力網絡創新聯合體十大成果」正式發佈,中國移動「芯易」存算一體通用軟件計算引擎成功入選「中央企業算力網絡創新聯合體十大成果」並在論壇發佈。

存算一體技術通過器件、計算範式、架構等方面的革新,大幅提升算力和能效水平,同時降低對先進工藝的依賴,為提升我國先進算力自主可控提供了一條可選路徑。中國移動聚焦存算一體軟件生態薄弱痛點,自主研發「芯易」存算一體通用軟件計算引擎,聯合清華大學、后摩智能、知存科技完成RRAM、SRAM、NOR-Flash三大技術路線芯片的兼容適配,無縫對接Pytorch和TensorFlow 主流AI框架,引領產業加速構建存算一體軟件生態。

在AI時代全球算力需求呈爆炸式增長的背景下,存算一體技術突破馮·諾依曼架構瓶頸,為AI計算提供高性能、低成本的算力解決方案。當前存算一體多技術路線並行發展,存算一體軟件存在軟硬件強耦合及「孤島式」開發問題,導致軟件生態薄弱,同時AI模型與存算一體芯片適配難度大,面臨集成規模受限、計算效率飽和、精度魯棒性低、模型編排複雜等問題,加上應用牽引不足,最終阻礙了存算一體技術的應用推廣。

針對上述問題,中國移動自主研發「芯易」通用存算一體軟件計算引擎,創新提出了面向存算一體架構的模型裁剪量化、模型推理優化、協同精度優化、權重智能編排等優化算法,軟硬協同發揮芯片性能,並在智能推薦、端側大模型、巡檢機器人等場景率先完成應用驗證,加速存算一體技術成熟。

在架構創新方面,中國移動提出面向異構存算一體芯片的通用計算架構,向上兼容Pytorch、Tensorflow通用AI框架,向下適配RRAM、SRAM、FLASH三種主流技術路線的存算一體芯片,研發編譯器、運行時、優化器等核心組件,為存算一體芯片提供模型編排、部署、優化、推理等全流程服務,極大降低模型部署、應用、遷移的門檻,推動產業生態發展。

「芯易」EasyCIM存算一體通用軟件計算引擎架構圖

在算法創新方面,針對存算一體陣列集成規模受限、器件支持位寬低的問題,提出一種面向存算一體架構的模型裁剪量化算法,基於剪枝、量化和局部殘差策略,將語義分割網絡參數從近2800萬個精簡至不超過50萬個,近一半模型參數使用超低比特表示,大幅降低模型尺寸與計算量。

面向存算一體架構的模型裁剪量化算法結構及結果

針對存算一體計算效率飽和、模型適配難的問題,提出一種面向存算一體芯片的模型推理優化算法,通過引入多分支參數結構、利用大卷積核替代級聯小卷積核並結合結構重參數化策略,提升AI模型與存算一體芯片的適配度,優化后的ResNet50網絡在存算一體芯片的推理速率提升40%、精度提升1.5%。

面向存算一體架構的模型推理優化算法結構及結果

針對存算一體器件、電路非理想特性導致精度魯棒性低的問題,提出一種面向存算一體芯片的AI模型協同精度優化方法,在模型訓練階段引入存算一體芯片上的推理結果進行反向傳播並更新模型權重,基於該方法優化的圖像識別算法準確率提升10%。

面向存算一體架構的模型協同精度優化算法框架及結果

針對存算一體芯片模型編排複雜度高、陣列利用率低的問題,提出一種面向存算一體架構的模型權重智能編排算法,基於序列到序列的指針網絡生成AI模型分層排序,編排效率相比傳統人工蜂羣算法(ABC)提升10倍以上。

面向存算一體架構的模型權重智能編排算法結構及結果

在應用創新方面,中國移動基於「芯易」存算一體通用軟件計算引擎實現了智能推薦、端側大模型、巡檢機器人等一系列存算一體創新應用,牽引應用落地。

在RRAM方面,中國移動聯合清華大學將RRAM存算一體向量檢索芯片應用到智能視頻推薦場景,基於存算一體軟件計算引擎實現視頻向量在VD200 RRAM存算一體向量檢索芯片的部署和查詢,支持百萬級向量部署和檢索,視頻推薦召回服務吞吐率達2萬次/秒,檢索性能達到傳統服務器4倍。

基於RRAM存算一體芯片的視頻推薦應用

在SRAM方面,中國移動聯合后摩智能將存算一體芯片應用到大模型端側推理場景,基於「芯易」存算一體軟件計算引擎實現ChatGLM-6B、Qwen-7B、LLAMA2-7B大語言模型在M30 SRAM存算一體芯片上的優化推理,推理速度達15Tokens/s,相比傳統架構計算芯片token生成速度提升1倍、計算能效提升50%。

基於SRAM存算一體芯片的端側大模型推理應用

在NOR-FLASH方面,中國移動聯合知存科技將存算一體芯片應用到智能巡檢機器人場景,基於「芯易」存算一體軟件計算引擎實現輕量化語音AI模型在WTM2101 NOR-FLASH存算一體芯片的協同精度優化和自動化編排,支持語音控制機器人啟停、移動、轉向,提升巡檢機器人作業效率50%以上。

基於NOR-Flash存算一體芯片的巡檢機器人應用

中國移動存算一體團隊深耕技術創新,依託自主研發的"「芯易"」存算一體通用軟件引擎及核心算法,已形成顯著學術與產業影響力,在《IEEE/CAA Journal of Automatica Sinica》(IF=11.8)《IEEE Transactions on Mobile Computing》(IF=9.2)等國際頂級期刊,以及ISCA、UbiComp、EMNLP等國際頂級會議發表論文10余篇;累計申請發明專利70余項、軟著10余項。相關成果先后入選2024中關村論壇重大科技成果、2023年「科創中國」先導技術榜、2023年世界互聯網大會領先科技成果,並斬獲2024數字中國創新大賽智能科技賽道一等獎、2024年第二屆全國先進計算技術創新大賽二等獎,獲得業界高度認可。與此同時,團隊積極聯動產業生態,聯合后摩智能、知存科技等存算一體芯片廠商,在先進計算產業發展聯盟牽頭推進存算一體通用軟件工具鏈研究,於2024年11月聯盟第二屆全體會議上完成《存算一體軟件工具鏈研究報告》結項及成果發佈,為存算一體軟件架構與接口標準化建設注入關鍵推力。

未來,中國移動將持續攻關存算一體軟硬件協同技術,拓展基於存算一體的創新應用場景,積極推進存算一體軟件標準建設,持續引領產業加速構建存算一體軟件生態。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。