新型“芯片上的大腦”:為人工智能打造的神經(jīng)網(wǎng)絡(luò)
大腦是人體最重要的器官之一,它支撐著人的視覺、聽覺、平衡、味覺、嗅覺、記憶、情感、學(xué)習(xí)等。大腦的構(gòu)造十分復(fù)雜,由大約1千億個(gè)神經(jīng)元(Neuron)組成,并由約100萬億個(gè)突觸(Synapse)連接。這些神經(jīng)元與突觸一起構(gòu)成了一個(gè)極其龐大的生物神經(jīng)網(wǎng)絡(luò)。
大腦具有極其強(qiáng)大的計(jì)算與學(xué)習(xí)能力,其邏輯功能與記憶功能密切關(guān)聯(lián),能以極低的功耗并行地處理大量數(shù)據(jù)。即便是如今最強(qiáng)大的超級(jí)計(jì)算機(jī),在執(zhí)行模式識(shí)別、風(fēng)險(xiǎn)管理等類似復(fù)雜任務(wù)時(shí),也無法與人腦相抗衡。
生物神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元與突觸
時(shí)下,一種由人腦啟發(fā)的新型計(jì)算機(jī),也稱為“類腦計(jì)算機(jī)”或者“神經(jīng)形態(tài)計(jì)算機(jī)”,成為了一個(gè)新興的研究領(lǐng)域,吸引了物理、化學(xué)、材料、數(shù)學(xué)、電子與計(jì)算機(jī)科學(xué)等一系列領(lǐng)域的科學(xué)家們的廣泛興趣。
基于光線的腦啟發(fā)芯片示意圖。
神經(jīng)形態(tài)計(jì)算是一種新型計(jì)算架構(gòu),旨在模仿大腦處理、加工信息的過程,將存儲(chǔ)元件與計(jì)算元件整合到同一芯片中。它突破了傳統(tǒng)的馮·諾依曼體系結(jié)構(gòu)帶來的瓶頸:數(shù)據(jù)需要在CPU和內(nèi)存之間來回移動(dòng),而CPU運(yùn)算速度較快,內(nèi)存訪問速度較慢,造成了所謂的“內(nèi)存墻”問題。
神經(jīng)形態(tài)計(jì)算,模仿了神經(jīng)系統(tǒng),采用了全新的架構(gòu)。在這種架構(gòu)中,記憶和信號(hào)處理的功能共同處于“記憶元件(憶阻器、憶容器、憶感器)”中。記憶元件組成類似突觸的硬件系統(tǒng),模仿自然信息處理、學(xué)習(xí)和記憶。
近日,美國麻省理工學(xué)院(MIT)的研究人員設(shè)計(jì)出一款“芯片上的大腦”,它比一片五彩紙屑還小,由數(shù)以萬計(jì)的人工大腦突觸制成。這種突觸稱為“憶阻器”,是一種硅基元件,可以模仿人腦中傳遞信息的突觸。
研究人員借鑒了冶金學(xué)的原理,用銀和銅合金以及硅制成每個(gè)憶阻器。當(dāng)他們用這款芯片來運(yùn)行幾個(gè)視覺任務(wù)時(shí),芯片可以“記住”存儲(chǔ)的圖像,并重復(fù)多次復(fù)制它們,這個(gè)版本比由非合金元素制造的現(xiàn)有憶阻器更清晰、更干凈。
他們的研究成果于6月8日發(fā)表在《自然·納米技術(shù)(Nature Nanotechnology)》雜志上,展示的這款新型憶阻器設(shè)計(jì)非常有望應(yīng)用于神經(jīng)形態(tài)器件。這些電子器件基于一種新型電路,這種電路處理信息的方式模仿了大腦架構(gòu)。這種腦啟發(fā)的電路可以構(gòu)造到小型便攜式器件中,并能處理只有當(dāng)今超級(jí)計(jì)算機(jī)才能處理的復(fù)雜計(jì)算任務(wù)。
MIT 機(jī)械工程系副教授 Jeehwan Kim 表示:“迄今為止,人工突觸網(wǎng)絡(luò)以軟件的形式存在。我們正在嘗試為便攜式人工智能系統(tǒng)打造真正的神經(jīng)網(wǎng)絡(luò)硬件。讓我們想象一下,將神經(jīng)形態(tài)器件連接至你汽車上的攝像頭,讓它能夠識(shí)別光線和物體,并立即作出決策,而無需連接到互聯(lián)網(wǎng)。我們希望采用高能效的憶阻器在現(xiàn)場實(shí)時(shí)地執(zhí)行這些任務(wù)。”
游蕩離子憶阻器,或者說存儲(chǔ)晶體管,是神經(jīng)形態(tài)計(jì)算中不可或缺的元素。在神經(jīng)形態(tài)器件中,憶阻器將充當(dāng)電路中的晶體管,盡管其工作起來更像大腦突觸(兩個(gè)神經(jīng)元之間的連接)。突觸以離子形式從一個(gè)神經(jīng)元接收信號(hào),并向下一個(gè)神經(jīng)元發(fā)送相應(yīng)的信號(hào)。
左圖展示了生物大腦中的一個(gè)突觸,也是右圖中人工模仿物的靈感來源。右圖是用鐵電隧道結(jié)實(shí)現(xiàn)的憶阻器,即夾在氮化鈦電極(藍(lán)色線)和硅襯底(海藍(lán)色)之間的氧化鉿薄膜(粉紅色),硅襯底的另一個(gè)角色就是第二個(gè)電極。通過改變氧化鉿的極化,電脈沖使憶阻器在高低電阻之間切換,從而改變其導(dǎo)電性。(圖片來源:Elena Khavina/MIPT新聞辦公室)
常規(guī)電路中的晶體管通過在兩個(gè)值(0和1)之間切換來傳輸信息,并且僅當(dāng)其接收到電流形式的信號(hào)達(dá)到特定強(qiáng)度時(shí)才這樣做。相比之下,憶阻器將沿著梯度工作,很像大腦中的突觸。它產(chǎn)生的信號(hào)將根據(jù)其接收到的信號(hào)強(qiáng)度而變化。這將使單個(gè)憶阻器具有多個(gè)值,因此執(zhí)行運(yùn)算的范圍比二進(jìn)制晶體管大得多。類似于大腦突觸,憶阻器還能“記住”與給定電流強(qiáng)度相關(guān)的值,并在下次接收相似電流時(shí)產(chǎn)生完全相同的信號(hào)。這可以確保復(fù)雜方程式的答案或者對(duì)某個(gè)對(duì)象的視覺分類是可靠的,這一技能通常涉及多個(gè)晶體管和電容器。
最終,科學(xué)家們?cè)O(shè)想,憶阻器將比傳統(tǒng)晶體管需要更少的芯片空間,從而使功能強(qiáng)大的便攜式計(jì)算裝置不依賴于超級(jí)計(jì)算機(jī),甚至無需連接到互聯(lián)網(wǎng)。
但是,現(xiàn)有的憶阻器設(shè)計(jì)在性能上受限。單個(gè)憶阻器由正電極和負(fù)電極制成,被“開關(guān)介質(zhì)”或者電極之間的空間分開。向一個(gè)電極施加電壓時(shí),來自那個(gè)電極的離子流過介質(zhì),形成通向另一個(gè)電極的“導(dǎo)電通道”。接收到的離子組成了電信號(hào),而憶阻器將這些電信號(hào)沿著電路傳輸。離子通道(以及憶阻器最終產(chǎn)生的信號(hào))的大小應(yīng)與激勵(lì)電壓的強(qiáng)度成比例。
Kim 表示,在電壓刺激較大的導(dǎo)電通道,或者離子從一個(gè)電極到另一個(gè)電極的大量流動(dòng)的情況下,現(xiàn)有的憶阻器工作得很好。但是,當(dāng)憶阻器需要通過更細(xì)的導(dǎo)電通道產(chǎn)生更微弱的信號(hào)時(shí),這些設(shè)計(jì)的可靠性就會(huì)降低。
導(dǎo)電通道越細(xì),從一個(gè)電極到另一個(gè)電極的離子流越輕,單個(gè)離子待在一起的難度就越大。相反,它們傾向于脫離團(tuán)隊(duì),在媒介中分散。結(jié)果,當(dāng)在一定的低電流范圍內(nèi)受到激勵(lì)時(shí),接收電極難以可靠地捕獲相同數(shù)量的離子,從而傳輸相同的信號(hào)。
Kim 及其同事通過借鑒冶金學(xué)找到了突破這一局限的方法,冶金學(xué)是將金屬熔煉成合金并研究其綜合性能的科學(xué)。
Kim 表示:“傳統(tǒng)意義上,冶金學(xué)家試圖將不同的原子添加到塊狀基質(zhì)中以增強(qiáng)材料,而我們認(rèn)為,為什么不稍微調(diào)整憶阻器中的原子相互作用,并添加一些合金元素來控制離子在我們介質(zhì)中的運(yùn)動(dòng)?!?
工程師通常用銀作為憶阻器的正極材料。Kim 的團(tuán)隊(duì)仔細(xì)研究文獻(xiàn)找到了一種元素,將它與銀結(jié)合,從而將銀離子有效地保持在一起,同時(shí)允許它們快速地流到另一個(gè)電極。
研究團(tuán)隊(duì)認(rèn)為銅是理想的合金元素,因?yàn)樗饶芘c銀結(jié)合,也能與硅結(jié)合。
Kim 說:“它起到了橋梁的作用,并穩(wěn)定了銀-硅界面。”
為了使用新合金制造憶阻器,該團(tuán)隊(duì)首先用硅制成了負(fù)極,然后沉積少量的銅,再沉積一層銀,制成正極。他們將兩個(gè)電極像三明治一樣夾在非晶硅介質(zhì)周圍。通過這種方式,他們用數(shù)以萬計(jì)的憶阻器制作成的圖案裝飾一平方毫米的硅芯片。
作為對(duì)這款芯片的首次測試,他們重新創(chuàng)建了美國隊(duì)長盾牌的灰度圖像。他們將圖像中的每個(gè)像素對(duì)應(yīng)于芯片中相應(yīng)的憶阻器。然后,他們調(diào)制每個(gè)憶阻器的電導(dǎo),其強(qiáng)度與對(duì)應(yīng)像素中的顏色相關(guān)。
這款新型芯片(上左)有銀-銅合金制成,以數(shù)以萬計(jì)的人工突觸或稱“憶阻器”圖案進(jìn)行修飾。當(dāng)每個(gè)憶阻器受到對(duì)應(yīng)于某一像素的特定電壓激勵(lì),并逐漸變?yōu)榛叶葓D像(在這個(gè)案例中是美國隊(duì)長的盾牌)時(shí),這款芯片就重新創(chuàng)建了同樣的清晰圖像,比通過其他材料的憶阻器制成的芯片更加可靠。
與其他材料制成的芯片相比,該芯片可產(chǎn)生相同的盾牌清晰圖像,并能“記住”該圖像并多次復(fù)制。
該團(tuán)隊(duì)也讓芯片執(zhí)行了圖像處理任務(wù),通過幾種特殊的方法對(duì)憶阻器編程以改變圖像(在這個(gè)案例中是 MIT 的基里安方庭"Killian Court"),包括銳化和模糊原始圖像。又一次,他們的設(shè)計(jì)比現(xiàn)有的憶阻器設(shè)計(jì)更可靠地生成重新編程的圖像。
MIT 制造的這款新型“芯片上的大腦”對(duì) MIT 的基里安方庭圖像進(jìn)行了比現(xiàn)有的神經(jīng)形態(tài)設(shè)計(jì)更可靠的再加工,包括銳化和模糊原始圖像。
Kim 表示:“我們正在使用人工突觸進(jìn)行真實(shí)的推理測試。我們想要進(jìn)一步開發(fā)這項(xiàng)技術(shù),用更大的陣列來執(zhí)行圖像識(shí)別任務(wù)。有一天,你也許可以攜帶人造大腦來執(zhí)行這些任務(wù),而無需連接到超級(jí)計(jì)算機(jī)、互聯(lián)網(wǎng)或云?!?