IBM發(fā)表模擬人腦功能的感知運(yùn)算核心
摘要: 藉由以特殊用途硅電路復(fù)製人腦神經(jīng)元(neuron)、突觸(synapse)、樹狀突(dendrite)與軸突(axon)功能, IBM 宣稱已經(jīng)開發(fā)出首款客製化感知運(yùn)算核心(custom cognitive computing cores),將數(shù)位棘波神經(jīng)元與超高密度晶片上縱橫栓(crossbar)突觸、事件導(dǎo)向通訊(event-driven communication)等功能結(jié)合在一起。
關(guān)鍵字: 硅電路, IBM , 電腦
藉由以特殊用途硅電路復(fù)製人腦神經(jīng)元(neuron)、突觸(synapse)、樹狀突(dendrite)與軸突(axon)功能, IBM 宣稱已經(jīng)開發(fā)出首款客製化感知運(yùn)算核心(custom cognitive computing cores),將數(shù)位棘波神經(jīng)元與超高密度晶片上縱橫栓(crossbar)突觸、事件導(dǎo)向通訊(event-driven communication)等功能結(jié)合在一起。
上述的IBM研究成果是與美國(guó)國(guó)防部高等研究計(jì)畫署(DARPA)合作之「 SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics,神經(jīng)性自適應(yīng)塑膠可微縮電子系統(tǒng))」計(jì)畫的“零階段(phase zero)”與“第一階段(phase one)”最大進(jìn)展。
IBM現(xiàn)在將與合作伙伴美國(guó)哥倫比亞大學(xué)、康乃爾大學(xué)、加州大學(xué)梅西分校(University of California-Merced)與威斯康辛大學(xué)麥迪遜分校進(jìn)入該研究計(jì)畫的第二階段,在未來的18個(gè)月并將有一筆2,100萬美元的資金注入。加計(jì)這筆新資金,DARPA截至目前為止已經(jīng)在該計(jì)畫投入4,100萬美元
SyNAPSE 計(jì)畫的最終目標(biāo),是建立一套內(nèi)含10億神經(jīng)元、100兆突觸的「類人腦」$電腦,而且其尺寸與功耗也要與人腦相當(dāng)。
「我們希望能擴(kuò)展并補(bǔ)充進(jìn)行即時(shí)性不確定環(huán)境(realtime uncertain environments)資訊處理的傳統(tǒng)von Neumann電腦架構(gòu)之功能;」IBM研究中心(IBM Research)計(jì)畫領(lǐng)導(dǎo)人Dharmendra Modha表示:「感知電腦必須能整合來自情境依賴形式(context dependent fashion)下不同感測(cè)器的輸入資訊,才能接近人腦的即時(shí)性感覺運(yùn)動(dòng)回饋迴路(sensory-motor feedback loop)?!?/P>
而雖然IBM聲稱其客製化感知運(yùn)算核心是業(yè)界首創(chuàng),但歐洲上個(gè)月也發(fā)表了一項(xiàng)打算利用ARM核心處理器模擬人腦的研究計(jì)畫 SpiNNaker (參考連結(jié))。
傳統(tǒng)von Neumann電腦架構(gòu)無法處理來自今日感測(cè)器元件的多重同步資料流,但人腦能藉由分散式處理以及分布在神經(jīng)網(wǎng)路的記憶體,輕鬆處理這類任務(wù);值得一提的是,感測(cè)器資訊是透過叫做樹狀突的輸入線,將資訊饋入神經(jīng)元。
神經(jīng)元會(huì)將輸入的資訊整合,直到一個(gè)極限值;屆時(shí)它會(huì)激發(fā)一個(gè)脈衝至其輸出軸突,該時(shí)機(jī)是由連接其他神經(jīng)元的突觸權(quán)值(weight)來決定。
IBM開發(fā)的感知運(yùn)算晶片尺寸約3mm寬,據(jù)說已經(jīng)證實(shí)具備與人類對(duì)打電子游戲「Pong」(而且會(huì)贏),以及辨識(shí)不同形式的手寫數(shù)字7的能力
至于人腦的模式識(shí)別(pattern recognition)功能,是由突觸去“學(xué)習(xí)(learning)”那些連結(jié)是最常用的,這使它們變得更強(qiáng)壯,而較少用的連結(jié)就會(huì)逐漸消失;透過這種模式,神經(jīng)網(wǎng)路會(huì)閉合感覺運(yùn)動(dòng)回饋迴路,一旦某個(gè)模式藉由感測(cè)器的輸入資訊被辨別出來,輸出運(yùn)動(dòng)神經(jīng)元就會(huì)產(chǎn)生反應(yīng)。
IBM利用縱橫栓陣列復(fù)製人腦架構(gòu)來掌管突觸,然后這些突觸會(huì)去學(xué)習(xí)哪些感官模式是與所渴望的運(yùn)動(dòng)控制輸出相對(duì)應(yīng);縱橫栓陣列會(huì)藉由整合大規(guī)模的樹狀突扇入(fan-in),而將神經(jīng)元與感測(cè)器輸入連結(jié),接著送出脈衝到軸突,將個(gè)別突觸連結(jié)饋入網(wǎng)路中其他神經(jīng)元。
「突觸是由縱橫栓陣列所實(shí)現(xiàn),其中垂直線是輸入樹狀突,水平線則是輸出軸突;」Modha解釋:「每個(gè)神經(jīng)元會(huì)為了與其他神經(jīng)元通訊而激發(fā),其記憶體是與處理器完全整合,不同于von Neumann架構(gòu)的兩者分離?!?/P>
感知電腦將具備低功耗、與較慢時(shí)脈速度特性
據(jù)了解,最終的感知電腦雖然內(nèi)含數(shù)十億神經(jīng)元,卻只有當(dāng)其神經(jīng)元激發(fā)時(shí)才會(huì)消耗功率,而且激發(fā)時(shí)的時(shí)脈速度是非常慢的10Hz;因此,整套人腦尺寸的感知電腦,可能只有鞋盒那么大,所消耗電力低于一千瓦。
IBM展示了兩款工作塬型晶片,兩者都是完全數(shù)位化的,將在未來的感知電腦中以核心形式出現(xiàn);屆時(shí)是在單晶片上整合數(shù)千個(gè)該種核心?!肝覀兊木袀€(gè)智慧財(cái)產(chǎn)方面的關(guān)鍵進(jìn)展,也就是它們都是數(shù)位化的,讓我們能先在超級(jí)電腦上進(jìn)行模擬,再將結(jié)果佈置到硅晶片上,使其具備可預(yù)測(cè)、決定性(deterministic)特點(diǎn)?!筂odha表示。
這兩款塬型各採用幾百萬的電晶體,來實(shí)現(xiàn)以單核心控制256個(gè)神經(jīng)元;晶片面積小于4mm2,以IBM的 45奈米絕緣上覆硅(SOI) CMOS製程生產(chǎn)。兩顆測(cè)試用處理器核心唯一的不同處,在于它們所採用的互聯(lián)縱橫栓陣列,一個(gè)是配置256k可預(yù)先程式化(pre-programmable)突觸,一個(gè)是配置64k學(xué)習(xí)式(learning)突觸。
以上兩種晶片是在IBM的紐約州Fishkill晶圓廠製造,目前在該公司分別位于紐約州與加州圣荷西的T.J. Watson研究中心與IBM研究中心進(jìn)行測(cè)試。
在實(shí)際運(yùn)作時(shí),IBM的晶片會(huì)從經(jīng)驗(yàn)(有數(shù)種預(yù)設(shè)的學(xué)習(xí)參數(shù))中學(xué)習(xí);舉例來說,其中一種參數(shù)是神經(jīng)元在整合多個(gè)輸入資訊后激發(fā)的極限值水準(zhǔn)(threshold level)。設(shè)定在低水準(zhǔn)時(shí),其速度可以加快但運(yùn)作效能較粗糙;設(shè)定高水準(zhǔn)時(shí),速度較慢但運(yùn)作效能較精細(xì)。
接著當(dāng)神經(jīng)元激發(fā)時(shí),學(xué)習(xí)突觸會(huì)藉由在被使用時(shí)改變其權(quán)值做適應(yīng);IBM在其中實(shí)現(xiàn)了Donald Hebb 規(guī)則,也就是神經(jīng)元與神經(jīng)元之間的某個(gè)突觸連結(jié)越常被使用,其導(dǎo)電性就會(huì)因?yàn)橥挥|權(quán)值被降低而增加。反之,越少被用到的連結(jié)就會(huì)因?yàn)樵礁叩臋?quán)值,使其在神經(jīng)網(wǎng)路中幾乎消失。
IBM預(yù)期該公司所開發(fā)的感知電腦可應(yīng)用在多樣化的領(lǐng)域,包括導(dǎo)航、機(jī)器視覺(machine vision)、模式識(shí)別、聯(lián)想記憶(associative memory)與分類(classification)等等;到目前為止,它們已經(jīng)教會(huì)了其中一顆晶片認(rèn)識(shí)各種不同筆跡的草寫數(shù)字「7」,另一顆晶片則是學(xué)會(huì)如何在與人類對(duì)打游戲機(jī)「Pong」時(shí)取得勝利。[!--empirenews.page--]