徐直軍:華為已完成全棧全場(chǎng)景AI解決方案的構(gòu)建
8月23日下午消息,華為今日正式發(fā)布了AI芯片昇騰910及全場(chǎng)景AI計(jì)算框架MindSpore。華為輪值董事長(zhǎng)徐直軍在發(fā)布會(huì)上表示,昇騰910和MindSpore的推出,標(biāo)志著華為已完成全棧全場(chǎng)景AI解決方案的構(gòu)建。
以下為徐直軍演講全文:
感謝大家參加今天的發(fā)布會(huì),在去年華為HC大會(huì)上,我首次正式發(fā)布了華為AI戰(zhàn)略和華為全棧全場(chǎng)景AI解決方案。
同時(shí),我也分享了十個(gè)有關(guān)人工智能技術(shù)、人才、產(chǎn)業(yè)的重要變革方向。期望產(chǎn)業(yè)界圍繞十個(gè)變革方向,來(lái)解決人工智能“輝煌”與“冷靜”之間的巨大落差,開創(chuàng)未來(lái)。華為也圍繞幾個(gè)變革方向一直在努力實(shí)踐。
首先,請(qǐng)?jiān)试S我回顧一下華為的AI戰(zhàn)略:1、投資AI基礎(chǔ)研究,在計(jì)算視覺、自然語(yǔ)言處理、決策推理等領(lǐng)域構(gòu)筑數(shù)據(jù)高效(更少的數(shù)據(jù)需求)、能耗高效(更低的算力和能耗),安全可信、自動(dòng)自治的機(jī)器學(xué)習(xí)基礎(chǔ)能力;2、打造面向云、邊緣和端等全場(chǎng)景的、獨(dú)立的以及協(xié)同的、全棧解決方案,提供充裕的、經(jīng)濟(jì)的算力資源,簡(jiǎn)單易用、高效率、全流程的AI平臺(tái);3、投資開放生態(tài)和人才培養(yǎng),面向全球,持續(xù)與學(xué)術(shù)界、產(chǎn)業(yè)界和行業(yè)伙伴廣泛合作;4、把AI思維和技術(shù)引入現(xiàn)有產(chǎn)品和服務(wù),實(shí)現(xiàn)更大價(jià)值、更強(qiáng)競(jìng)爭(zhēng)力;5、應(yīng)用AI優(yōu)化內(nèi)部管理,對(duì)準(zhǔn)海量作業(yè)場(chǎng)景,大幅度提升內(nèi)部運(yùn)營(yíng)效率和質(zhì)量。
同時(shí)也利用此次機(jī)會(huì),再次介紹一下華為全棧、全場(chǎng)景解決方案。我們提出的全場(chǎng)景,是指 包括公有云、私有云、各種邊緣計(jì)算、物聯(lián)網(wǎng)行業(yè)終端以及消費(fèi)類終端等部署環(huán)境。我們說(shuō)的全棧是技術(shù)功能視角,是指包括芯片、芯片使能、訓(xùn)練和推理框架和應(yīng)用使能在內(nèi)的全堆棧方案。華為的全棧方案具體包括:
Ascend: 基于統(tǒng)一、可擴(kuò)展架構(gòu)的系列化AI IP 和 芯片,包括Max,Mini,Lite,Tiny和Nano等五個(gè)系列;
CANN: 芯片算子庫(kù)和高度自動(dòng)化算子開發(fā)工具;
MindSpore,支持端、邊、云獨(dú)立的和協(xié)同的統(tǒng)一訓(xùn)練和推理框架;
應(yīng)用使能:提供全流程服務(wù)(ModelArts),分層API和預(yù)集成方案。
首先是基于Ascend310 的產(chǎn)品和云服務(wù)的商用情況。
1、基于昇騰310的Atlas、MDC產(chǎn)品:MDC和國(guó)內(nèi)外主流車廠在園區(qū)巴士、新能源車、自動(dòng)駕駛等場(chǎng)景深入合作;Atlas系列板卡、服務(wù)器和AI相關(guān)的數(shù)十家伙伴,在智慧交通、智慧電力等數(shù)十個(gè)行業(yè)落地AI行業(yè)解決方案;
2、基于昇騰310的華為云服務(wù):華為云圖像分析服務(wù)、OCR服務(wù)、視頻分析服務(wù) 超過(guò)50+ API都已經(jīng)基于Ascend 310服務(wù),日均調(diào)用量超過(guò)1億次,而且在快速增長(zhǎng),預(yù)計(jì)年底日均調(diào)用量 >3億。
其次是ModelArts的商用進(jìn)展。ModelArts全流程模型生產(chǎn):打通、覆蓋了從數(shù)據(jù)獲取-模型開發(fā)-模型訓(xùn)練-模型部署的全鏈條,日均作業(yè)量以及在線開發(fā)者:日均訓(xùn)練作業(yè)任務(wù)超過(guò)4000個(gè),32000小時(shí),其中:視覺類作業(yè)占85%,語(yǔ)音類作業(yè)占 10%, 機(jī)器學(xué)習(xí)5%,ModelArts已經(jīng)擁有開發(fā)者超過(guò)3萬(wàn)。
我宣布:算力最強(qiáng)的AI處理器 Ascend 910 正式推出。去年10月,我們發(fā)布了Ascend 910的技術(shù)規(guī)格,今天我向大家介紹最新的實(shí)際測(cè)試結(jié)果。
在算力方面,測(cè)試結(jié)果表明,昇騰910完全達(dá)到了設(shè)計(jì)規(guī)格,即:半精度 (FP16): 256 Tera-FLOPS;整數(shù)精度 (INT8) : 512 Tera-OPS。其次重要的是,達(dá)到規(guī)格算力所需功耗僅310W,明顯低于設(shè)計(jì)的350W。
應(yīng)當(dāng)說(shuō),昇騰910總體技術(shù)表現(xiàn)超出預(yù)期。我們已經(jīng)把昇騰910用于實(shí)際AI訓(xùn)練任務(wù)。其中,在典型的ResNet-50 網(wǎng)絡(luò)的訓(xùn)練中,昇騰910與MindSpore配合,與現(xiàn)有主流訓(xùn)練單卡配合TensorFlow相比,顯示出接近2倍的性能提升。每秒訓(xùn)練的圖片數(shù)量從965張?zhí)嵘?802張。
面向未來(lái),針對(duì)不同的場(chǎng)景,我們將持續(xù)投資,推出更多的AI處理器,面向邊緣計(jì)算場(chǎng)景,在已經(jīng)商用Ascend 310基礎(chǔ)上,計(jì)劃2021年將推出Ascend 320。
現(xiàn)有MDC是基于Ascend 310的,有效支持了自動(dòng)駕駛的開發(fā),未來(lái)面向規(guī)模商用,我們將陸續(xù)推出Ascend 610/620。針對(duì)AI訓(xùn)練,今天正式推出Ascend 910,未來(lái)還將計(jì)劃推出Ascend 920。
今天還要發(fā)布全場(chǎng)景AI計(jì)算框架MindSpore。能否大大降低AI應(yīng)用開發(fā)的門檻,能否實(shí)現(xiàn)AI將無(wú)處不在,能否在任何場(chǎng)景下確保用戶隱私得到尊重和保護(hù),這些都與AI計(jì)算框架息息相關(guān)。
為此,在去年HC會(huì)上我們提出:AI框架應(yīng)該是開發(fā)態(tài)友好(例如顯著減少訓(xùn)練時(shí)間和成本)和運(yùn)行態(tài)高效(例如最少資源和最高能效比),更重要的是,要能適應(yīng)每個(gè)場(chǎng)景包括端,邊緣和云。
經(jīng)過(guò)近一年的努力,全場(chǎng)景AI計(jì)算框架MindSpore在這三個(gè)方面都取得了顯著的進(jìn)展:在原生適應(yīng)每個(gè)場(chǎng)景包括端,邊緣和云,并能夠按需協(xié)同的基礎(chǔ)上,通過(guò)實(shí)現(xiàn)AI算法即代碼,使開發(fā)態(tài)變得更加友好,顯著減少模型開發(fā)時(shí)間,降低了模型開發(fā)門檻。通過(guò)MindSpore自身的技術(shù)創(chuàng)新及MindSpore與Ascend處理器協(xié)同優(yōu)化,實(shí)現(xiàn)了運(yùn)行態(tài)的高效,大大提高了計(jì)算性能;MindSpore也支持GPU、CPU等其它處理器。
很多人問(wèn)我,現(xiàn)在已有了TensorFlow、PyTorch框架,華為為什么還要開發(fā)并推出MindSpore框架。我告訴他們,由于沒有任何一個(gè)現(xiàn)有框架支持全場(chǎng)景,而華為的業(yè)務(wù)覆蓋端-邊緣-云,且在隱私保護(hù)日漸重要的背景下,需要一個(gè)能支持全場(chǎng)景的框架,實(shí)現(xiàn)AI無(wú)所不在越來(lái)越基礎(chǔ)的需求,這也是MindSpore的重要特色。針對(duì)不同的運(yùn)行環(huán)境,MindSpore框架架構(gòu)上支持可大可小 ,適應(yīng)全場(chǎng)景獨(dú)立部署。同時(shí),MindSpore框架通過(guò)協(xié)同經(jīng)過(guò)處理后的、不帶有隱私信息的梯度、模型信息,而不是數(shù)據(jù)本身,以此實(shí)現(xiàn)在保證用戶隱私數(shù)據(jù)保護(hù)的前提下跨場(chǎng)景協(xié)同。除了隱私保護(hù),MindSpore還將模型保護(hù)Built-in到AI框架中,實(shí)現(xiàn)模型的安全可信。
為了降低AI開發(fā)者的開發(fā)門檻,MindSpore創(chuàng)造性地實(shí)現(xiàn)了AI算法即代碼,使開發(fā)態(tài)變得更加友好,顯著減少模型開發(fā)時(shí)間。以一個(gè)NLP(自然語(yǔ)言處理)典型網(wǎng)絡(luò)為例,相比其他框架,用MindSpore可降低核心代碼量20%,開發(fā)門檻大大降低,效率整體提升50%以上。
我們通過(guò)MindSpore框架的技術(shù)創(chuàng)新及把MindSpore框架與昇騰處理器的協(xié)同優(yōu)化,有效克服AI計(jì)算的復(fù)雜性和算力的多樣性挑戰(zhàn),實(shí)現(xiàn)了運(yùn)行態(tài)的高效,大大提高了計(jì)算性能。除了昇騰處理器,MindSpore同時(shí)也支持GPU、CPU等其它處理器。
為了更好促進(jìn)AI的應(yīng)用,MindSpore將在2020年Q1開源,助力每一位開發(fā)者。
隨著昇騰910 AI處理器以及 MindSpore 全場(chǎng)景AI計(jì)算框架的推出,華為全棧全場(chǎng)景AI解決方案各重要組成部分悉數(shù)登場(chǎng),因此可以說(shuō),華為已完成了全棧全場(chǎng)景AI解決方案的構(gòu)建。
這對(duì)華為的AI業(yè)務(wù),已是一個(gè)新的里程碑,更是一個(gè)新的開始,期待與伙伴更加深入、廣泛的合作,讓AI無(wú)所不及,造福于每個(gè)人、每個(gè)家庭、每個(gè)組織。更震撼的AI新品,敬請(qǐng)關(guān)注HC2019。