新思科技：探索如何利用機(jī)器學(xué)習(xí)和 AI 的能力

3月15日，上海，由智東西主辦、AWE 和極果聯(lián)合主辦的 GTIC 2019 全球 AI 芯片創(chuàng)新峰會(huì)成功舉辦！峰會(huì)現(xiàn)場(chǎng)延續(xù)上一屆的火爆場(chǎng)景，全場(chǎng)從開(kāi)幕到下午結(jié)束座無(wú)虛席，而且有不少熱情觀眾堅(jiān)持站著聽(tīng)完峰會(huì)全程。

20位海內(nèi)外 AI 芯片業(yè)界大咖齊聚一堂，圍繞 AI 芯片在架構(gòu)創(chuàng)新、生態(tài)構(gòu)建、場(chǎng)景落地等方面的技術(shù)前景和產(chǎn)業(yè)趨勢(shì)“華山論劍”。

本屆峰會(huì)報(bào)名參會(huì)的觀眾覆蓋了近4500家企業(yè)，到會(huì)觀眾極為專業(yè)，其中總監(jiān)以上級(jí)別占比超過(guò)62%，現(xiàn)場(chǎng)實(shí)際到會(huì)人數(shù)超過(guò)1800位。

▲新思科技全球戰(zhàn)略項(xiàng)目副總裁 Chekib Akrout

談及 AI 芯片，除了芯片本身、IP、代工、晶圓等元素外，EDA 廠商在其中所承載的價(jià)值亦不容忽視。作為全球第一大 EDA 解決方案提供商，新思科技（Synopsys）長(zhǎng)期致力于提供適合開(kāi)發(fā)復(fù)雜集成電路的設(shè)計(jì)工具。

當(dāng) AI 技術(shù)春回大地，新思科技也敏感地覺(jué)察到 AI 技術(shù)將對(duì)上游的應(yīng)用帶來(lái)的沖擊，早早將 AI 引入其業(yè)界先進(jìn)的設(shè)計(jì)工具之中，力圖為芯片帶來(lái)前所未有的自動(dòng)化設(shè)計(jì)新高度。

在 GTIC 2019 峰會(huì)現(xiàn)場(chǎng)，新思科技全球戰(zhàn)略項(xiàng)目副總裁 Chekib Akrout 發(fā)表了題為《為下一代 AI 芯片的架構(gòu)探索與設(shè)計(jì)賦能》的演講，探討當(dāng)下和未來(lái) AI 芯片架構(gòu)發(fā)展將面臨的一些挑戰(zhàn)和機(jī)遇、新一代 AI 芯片的驅(qū)動(dòng)力，并分享了新思科技在幫助客戶進(jìn)行 AI 芯片開(kāi)發(fā)所做的一系列努力。

Chekib Akrout 將 AI 視作火、土、氣、水之外的第五元素，他認(rèn)為，AI 芯片架構(gòu)設(shè)計(jì)面臨制程升級(jí)、集成度提高、算力需求暴增、功耗管理等挑戰(zhàn)，同時(shí)脈沖神經(jīng)網(wǎng)絡(luò)、預(yù)測(cè)和解釋、計(jì)算復(fù)雜性等問(wèn)題都有極大的優(yōu)化空間。

他還提到，應(yīng)用自動(dòng)化設(shè)計(jì)工具將是加速 AI 芯片應(yīng)用的重要手段。為了推進(jìn) AI 芯片架構(gòu)創(chuàng)新，新思科技推出了專用的AI芯片設(shè)計(jì)套件來(lái)賦能下游企業(yè)，這一套件能實(shí)現(xiàn)芯片設(shè)計(jì)的架構(gòu)優(yōu)化與應(yīng)用優(yōu)化，支持端到端的軟硬件一體方案，同時(shí)可搭建對(duì)機(jī)器學(xué)習(xí)數(shù)據(jù)進(jìn)行預(yù)處理的架構(gòu)。

這些針對(duì)性的基礎(chǔ)設(shè)施將大大提升芯片設(shè)計(jì)的自動(dòng)化水平，從而降低AI芯片的設(shè)計(jì)難度，提高AI芯片設(shè)計(jì)、驗(yàn)證乃至最終投入使用的速度。

附新思科技全球戰(zhàn)略項(xiàng)目副總裁 Chekib Akrout 演講實(shí)錄

Chekib Akrout：非常高興來(lái)到上海，天氣是如此的晴朗，藍(lán)天白云令人心情愉悅。聽(tīng)到很多關(guān)于新架構(gòu)、新芯片的進(jìn)展，對(duì)于產(chǎn)業(yè)而言無(wú)疑是好消息。接下來(lái)，我將會(huì)講述我們關(guān)于新一代 AI 芯片架構(gòu)發(fā)展的一些觀點(diǎn)。

當(dāng)你聽(tīng)說(shuō) AI 芯片熱潮的爆發(fā)，你總想知道是否另一個(gè) AI 寒冬會(huì)歸來(lái)，一切節(jié)奏都會(huì)變得緩慢，需要很長(zhǎng)的時(shí)間來(lái)等待 AI 東山再起，這一領(lǐng)域的投資也會(huì)放緩。

我們首先看一下 AI 的定義，它是開(kāi)發(fā)和應(yīng)用表現(xiàn)認(rèn)知行為的方法和系統(tǒng)的跨學(xué)科信息科學(xué)，有專門(mén)的 AI 學(xué)科和方法論，它的特征包括學(xué)習(xí)、泛化、歸納與演繹推理等，同時(shí)機(jī)器意識(shí)、自組裝、自我復(fù)制、AI 社交網(wǎng)絡(luò)等正在成為 AI 新的“標(biāo)簽”。

一件很有意義的事情是思考 AI 的終極形態(tài)是什么？這是一個(gè)“奇點(diǎn)”，可能需要量化計(jì)算和類腦計(jì)算。我們相信 AI 最終會(huì)達(dá)到人類智慧的水平。在物理或數(shù)學(xué)中，AI 可能呈現(xiàn)一個(gè)指數(shù)式的進(jìn)化過(guò)程。從這個(gè)進(jìn)化底層來(lái)看，我們始于承載延續(xù)生命重任的 DNA、RNA 等基因型及其顯性性狀，陸續(xù)發(fā)展到研究人類大腦，下一步就是信息技術(shù)，世間萬(wàn)物都在提供信息，再往后發(fā)展，或許就是生物與數(shù)字化技術(shù)的混合。

很多人疑惑為什么我們有五種基本自然元素，它們分別是火、土、氣、水，第五元素被命名為 AETHER，寓意宇宙，這就是我所相信的 AI 的形態(tài)，它會(huì)給提供深度的信息數(shù)據(jù)供人類收集和分析，幫助我們更好地理解這個(gè)世界。

下面，讓我們思考一下現(xiàn)在所處的發(fā)展階段，以及面臨的一些挑戰(zhàn)和機(jī)遇。

我們?cè)诖饲把葜v中聽(tīng)到的 AI 芯片2.0、scale up 和 scale out，這些 AI 芯片架構(gòu)都正面臨著機(jī)遇和挑戰(zhàn)。

首先，大多數(shù)數(shù)據(jù)是靜態(tài)的，其中不包含時(shí)間的概念。有一種脈沖神經(jīng)網(wǎng)絡(luò) SNN（Spike Neural Network），它可以實(shí)現(xiàn)對(duì)脈沖序列中包含的時(shí)間信息的學(xué)習(xí)。

思考哪一種 AI 機(jī)器學(xué)習(xí)將從其他機(jī)器那里學(xué)習(xí)，并得到一種機(jī)器學(xué)習(xí)監(jiān)督者，同樣會(huì)帶來(lái)很多機(jī)會(huì)。

另一個(gè)機(jī)會(huì)在于預(yù)測(cè)和解釋，我們有越來(lái)越多的深度學(xué)習(xí)層，這些就像黑匣子一樣是不可解釋的。而機(jī)器學(xué)習(xí)可以統(tǒng)一現(xiàn)有的強(qiáng)大力量來(lái)幫助我們進(jìn)行預(yù)測(cè)和對(duì)神經(jīng)網(wǎng)絡(luò)深層的解釋。

計(jì)算復(fù)雜性同樣不容忽視，比如我們可能聽(tīng)說(shuō)過(guò)的 P、NP、 NP 完全和 SAT 問(wèn)題都亟待解決，以及量子計(jì)算的概率部分，這些都是機(jī)器學(xué)習(xí)和新架構(gòu)應(yīng)當(dāng)思考的問(wèn)題。

現(xiàn)在我想再說(shuō)一下新架構(gòu)——類腦計(jì)算，它模仿大腦來(lái)處理信息，有望把類似大腦的突觸做到芯片上，很多人正在進(jìn)行此類研發(fā)工作。我認(rèn)為這一架構(gòu)或許會(huì)超越來(lái)自 CPU、GPU 及其他特殊的微架構(gòu)帶來(lái)指數(shù)級(jí)增長(zhǎng)。

AI 應(yīng)用領(lǐng)域非常廣闊，每個(gè)領(lǐng)域都包含不同的方法、算法、需要解決的問(wèn)題、商業(yè)目標(biāo)和最終目標(biāo)。比如自動(dòng)駕駛汽車催生了對(duì) AI 芯片和AI 能力的需求，著名的戰(zhàn)勝人類圍棋冠軍的 AlphaGo 適用越來(lái)越優(yōu)化的強(qiáng)化學(xué)習(xí)。

還有很多其他領(lǐng)域也在取得進(jìn)步，比如另外 AI 還涉及軟件升級(jí)、語(yǔ)音識(shí)別、機(jī)器翻譯、輔助醫(yī)生診療等。其中，對(duì) AI 芯片架構(gòu)而言，AI 芯片設(shè)計(jì)領(lǐng)域格外重要，它將智能計(jì)算帶到從特定的系統(tǒng)規(guī)格到最終產(chǎn)品的整個(gè)芯片設(shè)計(jì)流程之中，使得機(jī)器可以通過(guò)學(xué)習(xí)進(jìn)行獨(dú)立的芯片設(shè)計(jì)，你可以稱之為“自動(dòng)化設(shè)計(jì)”。

我們能做什么來(lái)助力更多 AI 芯片功能的實(shí)現(xiàn)？這一領(lǐng)域，我們能做的其實(shí)很多。比如說(shuō)硅谷就非常的關(guān)注在這一領(lǐng)域的開(kāi)發(fā)，我們看到它的這個(gè)領(lǐng)域的投資回報(bào)如何，比如說(shuō)光刻技術(shù)越發(fā)精細(xì)， 7nm、5nm、3nm 制程工藝陸續(xù)浮出水面，來(lái)幫助提升芯片的產(chǎn)能，而不僅僅只是投資上面的回報(bào)。

芯片設(shè)計(jì)也在持續(xù)提高系統(tǒng)集成度，設(shè)計(jì)優(yōu)化將探索如何使 AI、機(jī)器學(xué)習(xí)在整個(gè)集成電路上達(dá)到全局最優(yōu)，算力需求的暴漲致使數(shù)據(jù)收集以及如何使資源的應(yīng)用得到更多的部署成為難題。另外，芯片本身功耗、功率的控制和管理也是計(jì)算處理的核心挑戰(zhàn)之一，有很多完善的空間。

在新思科技，我們?nèi)绾我?AI 為我們的產(chǎn)品賦能？我們的設(shè)計(jì)安裝工具有 AI ，不僅加速了檢查驗(yàn)證過(guò)程，提高了結(jié)果質(zhì)量得到加速，還幫助優(yōu)化功耗和性能。在云端，我們可以用更多的 AI 處理能力，提供更多的數(shù)據(jù)中心解決方案。

在新的方向，我們?nèi)绾翁峁┬碌墓ぞ邘椭蛻暨M(jìn)行 AI 芯片的開(kāi)發(fā)？我們推出了專用的AI芯片設(shè)計(jì)套件來(lái)賦能下游企業(yè)，這一套件能實(shí)現(xiàn)芯片設(shè)計(jì)的架構(gòu)優(yōu)化與應(yīng)用優(yōu)化，支持端對(duì)端的軟硬件一體解決方案，同時(shí)可搭建對(duì)機(jī)器學(xué)習(xí)數(shù)據(jù)進(jìn)行預(yù)處理的架構(gòu)。另外我們也在開(kāi)發(fā)新的機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施，來(lái)為機(jī)器學(xué)習(xí)準(zhǔn)備數(shù)據(jù)。這些基礎(chǔ)設(shè)施將有助于提升自動(dòng)化設(shè)計(jì)水平，降低 AI 芯片設(shè)計(jì)難度，并提高AI芯片設(shè)計(jì)、驗(yàn)證乃至最終投入使用的速度。

對(duì)于 AI 從業(yè)者、實(shí)踐者來(lái)說(shuō)，放眼未來(lái)，我們又有著怎樣的機(jī)遇和挑戰(zhàn)？我們也對(duì)此進(jìn)行了總結(jié)并分為四類。

首先，監(jiān)督式機(jī)器學(xué)習(xí)需要大量被標(biāo)記的數(shù)據(jù)來(lái)做訓(xùn)練，我們并不知道最終關(guān)于監(jiān)督式的機(jī)器學(xué)習(xí)會(huì)走向什么樣的程度，強(qiáng)化學(xué)習(xí)、在數(shù)據(jù)流中的監(jiān)督和非監(jiān)督學(xué)習(xí)正在被進(jìn)一步探索。

另一個(gè)就是大數(shù)據(jù)集，所有的機(jī)器學(xué)習(xí)需要非常大的數(shù)據(jù)集，受限于法律規(guī)章和數(shù)據(jù)保護(hù)規(guī)則的限制，要獲取超大規(guī)模數(shù)據(jù)集并非易事。最終我們可能會(huì)通過(guò)從少量數(shù)據(jù)中進(jìn)行一次性學(xué)習(xí)和類比學(xué)習(xí)，其后再進(jìn)行進(jìn)一步的大數(shù)據(jù)的分析。

第三，我們還需要進(jìn)一步的分析和解釋最終的結(jié)果，深度學(xué)習(xí)就像一個(gè)黑盒子，你很難知理解里面發(fā)生了什么，簡(jiǎn)化網(wǎng)絡(luò)和限制特征值或許會(huì)有所幫助。

最后，泛化能力同樣不容忽視，新的重量級(jí)訓(xùn)練方式需要更多的數(shù)據(jù)，需要我們從一類數(shù)據(jù)集進(jìn)行遷移學(xué)習(xí)，并將新的訓(xùn)練最小化到效數(shù)據(jù)集。經(jīng)過(guò)一代又一代的迭代更新，確保我們的性能能夠做的更好。

從一個(gè)數(shù)據(jù)集到另一個(gè)數(shù)據(jù)集到更多數(shù)據(jù)挖掘，這些都是我們所需要的一些先決條件。當(dāng)前的 AI 芯片架構(gòu)，有 CPU 、GPU 的部署，還有 FPGA、ASIC 等定制化微架構(gòu)。未來(lái)我們會(huì)進(jìn)行更多定制化的產(chǎn)品和服務(wù)的提供，這些都是值得深思的問(wèn)題。

新一代的 AI 芯片架構(gòu)有哪些驅(qū)動(dòng)因素呢？除了功能更強(qiáng)大的處理器，更優(yōu)化的功耗等性能外，還有更多其他的驅(qū)動(dòng)因素。

人腦智能和人工智能正在有更多的交集，人腦存儲(chǔ)數(shù)據(jù)的容量有限，而人工智能可以進(jìn)行很好的補(bǔ)充和提升。同時(shí)人類擅長(zhǎng)分層思考，可以根據(jù)相似性判斷因果關(guān)系，認(rèn)識(shí)到這個(gè)世界正在變化中，并信任近似的答案。

有些時(shí)候我們的機(jī)器可能不知道怎么樣去處理這種關(guān)聯(lián)關(guān)系，所以我們需要去思考一下我們將會(huì)有什么樣的架構(gòu)，我們到底需要什么樣的架構(gòu)。這是我們最需要去追求的最終目標(biāo)，它可以幫助我們更好地利用 AI 中的常識(shí)和推理。

深度學(xué)習(xí)的結(jié)果也是在我們期望之外的，我們根本沒(méi)有想到它會(huì)有這樣巨大的發(fā)展。而隨著數(shù)據(jù)的規(guī)模和標(biāo)記難度等問(wèn)題的凸顯，強(qiáng)化學(xué)習(xí)、先進(jìn)算法催生的新觀點(diǎn)正在快速發(fā)展中。

此外，量子計(jì)算將會(huì)帶來(lái)性能的飛躍，5G、硅光子和新架構(gòu)等技術(shù)也都在推動(dòng)我們達(dá)到下一個(gè)層面的深度學(xué)習(xí)。5G 迫使我們需要了解到如何快速處理數(shù)據(jù)，并解決延時(shí)等問(wèn)題可以；硅片晶體的進(jìn)步既需要更強(qiáng)的數(shù)據(jù)處理能力，同時(shí)也可以給 AI 芯片帶來(lái)更好的發(fā)展。當(dāng)我們想發(fā)展新的架構(gòu)時(shí)，這些基礎(chǔ)問(wèn)題的重大突破是非常重要的。

最后，我可能會(huì)講一些非常重要的問(wèn)題。大家有沒(méi)有聽(tīng)過(guò)盲人摸象的故事，每個(gè)人都蒙著眼睛去摸大象的一個(gè)局部，摸到象鼻的人以為是蛇，摸到象腿的人以為是樹(shù)，摸到象尾巴的人以為是繩子，誰(shuí)也不能確切知道大象究竟長(zhǎng)什么樣。AI 就像那個(gè)大象，我們所知不過(guò)冰山一角，對(duì)于所有人來(lái)說(shuō)，我們要去繼續(xù)學(xué)習(xí)和探索如何利用機(jī)器學(xué)習(xí)和 AI 的能力。