12月，第十九屆CCF全國嵌入式系統(tǒng)大會（CCF ESTC 2021）在山東青島召開。本屆會議由中國計算機學會（CCF）主辦，CCF嵌入式系統(tǒng)專委與西安電子科技大學青島技術研究院聯合承辦。旨在加強從事嵌入式系統(tǒng)研究領域國內外學者之間的聯系與交流，了解相關國際發(fā)展動態(tài)和研究熱點，促進我國多學科交叉融合與嵌入式系統(tǒng)產業(yè)的發(fā)展。華為昇騰CANN亮相本次大會，與行業(yè)分享創(chuàng)新技術，為人工智能技術融入產業(yè)帶來新的啟發(fā)。

會議邀請了院士和國內外嵌入式系統(tǒng)領域的頂級專家學者作大會特邀報告，還通過專題論壇和分會場口頭報告、科技成果展示、學術論文交流等形式多樣的活動充分進行技術交流，推動“政產學研用”合作，引領技術進步，支撐產業(yè)發(fā)展。

會上，華為昇騰CANN生態(tài)高級總監(jiān)王海彬發(fā)表了《昇騰CANN釋放硬件澎湃算力》的主題演講，分享在當前波濤洶涌的AI浪潮中，華為如何借助異構計算架構CANN（Compute Architecture for Neural Networks）進行技術創(chuàng)新和生態(tài)開展，持續(xù)使能科研和產業(yè)關鍵突破，推動技術行業(yè)落地。

于AI浪潮中迎接挑戰(zhàn)

王海彬提到，AI作為新的通用目的技術將深刻推動社會發(fā)展進程。目前的人工智能正從單點技術走向真正的通用技術，同時AI計算也面臨計算新范式、異構計算興起、對大集群的需求日益提升，推理部署場景復雜、效率低下等問題，如何讓AI用得上、用得起、用得好成為人工智能發(fā)展的關鍵。華為推出的異構計算架構CANN將助力解決人工智能技術面臨的算力問題、多樣性場景下開發(fā)效率低、編程易用性差的諸多現狀。

CANN 5.0 厚積薄發(fā)，以硬實力破解困境

CANN作為昇騰處理器的AI異構計算架構，對上支持業(yè)界多種主流的AI框架，對下友好適配多異構處理器，發(fā)揮呈上啟下的關鍵作用，是提升昇騰AI處理器計算效率的關鍵平臺，同時針對多樣化應用場景，提供高效易用的編程方式，成為了破解當前人工智能技術困境的關鍵。

華為昇騰CANN生態(tài)高級總監(jiān)王海彬《昇騰CANN釋放硬件澎湃算力》主題演講

CANN1.0誕生于2018年，并在快速迭代過程中，從軟件層面持續(xù)進行技術沉淀并迎來了一個又一個突破。2020年底，基于CANN的鵬城云腦II推出，并獲得 AIPerf榜單第一；2021年4月，依托CANN關鍵技術的中文NLP超大模型盤古發(fā)布，其參數超過2000億，具備業(yè)界領先的語言理解和模型生成能力，帶來了前所未有的商業(yè)價值。CANN5.0作為全新一代AI異構計算架構版本，通過軟硬件結合優(yōu)化再度獲得大幅性能提升，將昇騰AI處理器的澎湃算力發(fā)揮到極致。

原本在3.0版本需要6.25分鐘訓練的BERT模型，在CANN 5.0的加持下縮短了一倍多，只需2.69分鐘就能完成訓練；同時，原本需要28秒訓練的ResNet模型，通過5.0版本縮短到了16秒。此外，常用小規(guī)模訓練場景（分類、檢測、語義分割、NLP等）實現性能翻倍；在分類、翻譯、檢測典型推理場景下，性能也可達到30%到140%的提升。

CANN5.0性能大幅提升的關鍵在于技術的持續(xù)突破和創(chuàng)新。通過深耕細作不斷挖掘昇騰AI處理器的潛能，CANN在軟件層面實現了更高效的任務調度和更智能的數據切分，借助任務自動流水、算子深度融合、自適應梯度切分、AutoTune智能計算調優(yōu)等關鍵技術詮釋了昇騰AI極致性能的風采。并依托自動分解和并行技術，將超大模型的處理同普通模型一樣簡單。

CANN5.0還提供了全套推理引擎軟件包ATC Suite1.0，面向客戶網絡提供圖級別、算子級別的自動調優(yōu)能力；同時通過強大的多媒體處理能力，能輕松應對多路復雜的音視頻處理場景；支持在線及離線推理方式，助力開發(fā)者更加靈活地實現高性能推理應用。

生態(tài)全面開展，CANN與開發(fā)者攜手并進

作為華為昇騰CANN生態(tài)高級總監(jiān)，王海彬分享了在過去的一年中，CANN面向開發(fā)者的生態(tài)開展情況。

迄今為止，CANN的社區(qū)活躍度較去年提升3倍；累計與超過200家高校研究團隊開展合作，眾智項目貢獻400+個模型及800+個算子；目前CANN已經支持昇騰開發(fā)者人數達到58W， 其中核心開發(fā)者近9000人，已經成為了社區(qū)貢獻的主力。并在接下來的2022年中，希望有更多的開發(fā)者與CANN攜手點燃燎原之火，共建昇騰AI繁榮生態(tài)。

在洶涌的AI時代浪潮中，AI技術領域面臨重重困難和挑戰(zhàn)，CANN作為人工智能基礎軟件平臺，將持續(xù)在基礎能力和關鍵技術上突破創(chuàng)新，并肩負起時代賦予的使命任務，和萬千個人開發(fā)者、專家學者、行業(yè)伙伴一起，共迎挑戰(zhàn)，共創(chuàng)機遇，共享未來！

原文標題：昇騰CANN，?硬?核?！

文章出處：【微信公眾號：華為計算】歡迎添加關注！文章轉載請注明出處。