如何利用FPGA實(shí)現(xiàn)低成本實(shí)時(shí)深度感知？

引言

　　對(duì)于自主機(jī)器人導(dǎo)航和其它機(jī)器視覺(jué)應(yīng)用來(lái)說(shuō)，實(shí)時(shí)深度感知是很關(guān)鍵的。目前通過(guò)立體圖像來(lái)計(jì)算深度的算法計(jì)算量很大，例如差異測(cè)繪，要占用CPU大量的時(shí)間，或者需要用昂貴的器件進(jìn)行實(shí)時(shí)操作。

　　針對(duì)立體攝像的深度感知，F(xiàn)PGA解決方案能使處理器的時(shí)間得到緩解，減少或除去器件的成本，例如MPU、DSP、激光器和昂貴的鏡頭。通過(guò)提供給機(jī)器人其環(huán)境中 的差異測(cè)繪，F(xiàn)PGA使機(jī)器人中的CPU專(zhuān)注于重要的高層任務(wù)，例如建圖和定位。

差異測(cè)繪

　　加深度感知到機(jī)器人的常用技術(shù)是用兩個(gè)水平放置的獨(dú)立攝像機(jī)，互相之間平行分開(kāi)放置。用差異測(cè)繪算法對(duì)兩個(gè)攝像機(jī)進(jìn)行比較，見(jiàn)圖1。

圖1 差異測(cè)繪計(jì)算

　　簡(jiǎn)單來(lái)說(shuō)，差異是指右面和左面圖像之間的差別。物體越接近攝像機(jī)，兩個(gè)圖像之間的差異越大。

　　你可以自己來(lái)做一個(gè)實(shí)驗(yàn)，對(duì)著你的臉?biāo)降叵蛏衔兆∫恢ЧP，不停地眨你的左眼和右眼。移動(dòng)的筆越接近你的臉，你眨眼時(shí)覺(jué)得移動(dòng)越多。做更多的移動(dòng)時(shí)，物體越接近你的眼睛，圖像中的差異越大。

　　如圖1所示，從兩個(gè)圖像之間物體的位置算出差異：d=x1-x2。為了計(jì)算點(diǎn)M的實(shí)際坐標(biāo)，可通過(guò)左面和右面的攝像機(jī)來(lái)進(jìn)行計(jì)算：
X=Bx1/d
Y=By1/d
Z=fB/d

相關(guān)的問(wèn)題

　　計(jì)算差異測(cè)繪依賴(lài)于相關(guān)的圖像，以及左面圖像和右面圖像的匹配性質(zhì)。逐點(diǎn)計(jì)算相關(guān)的像素的計(jì)算量是很大的，因此用其它算法來(lái)簡(jiǎn)化這個(gè)問(wèn)題。有一種方法稱(chēng)為圖像點(diǎn)相關(guān)，仔細(xì)檢查左面圖像的像素塊，稱(chēng)為點(diǎn)，然后在右面圖像中尋找相同的點(diǎn)。其它的方法包括邊沿檢測(cè)和匹配。一旦定位了相應(yīng)的圖像，就可進(jìn)行差異計(jì)算。

失真與曝光問(wèn)題

　　如果使用高質(zhì)量的攝像機(jī)，可以忽略鏡頭失真。為了省錢(qián)，使用便宜的CMOS 或者CCD攝像機(jī)，或者低成本廣角鏡頭。這些較低質(zhì)量的產(chǎn)品會(huì)引入失真或曝光問(wèn)題。

　　鏡頭會(huì)引起比例和定位失真，例如白點(diǎn)效應(yīng)，靠近圖像外面的物體出現(xiàn)彎曲狀，使用眾所周知的圖像處理算法可以進(jìn)行補(bǔ)償。針對(duì)移動(dòng)或者其它幾何算法，糾正白點(diǎn)的一種方法是使用坐標(biāo)的查找表重測(cè)圖像中的像素。

　　在非常明亮和非常暗的環(huán)境中，其它的算法需要可靠地捕獲圖像中的詳細(xì)特征。例如，針對(duì)不同的區(qū)域確定最佳的曝光設(shè)置，使用區(qū)域的合成圖像可以補(bǔ)償缺少背景亮度。

用含有嵌入式DSP的FPGA的解決方案

　　本文中闡述的深度感知算法計(jì)算復(fù)雜，以實(shí)時(shí)的視頻速率來(lái)實(shí)現(xiàn)。系統(tǒng)設(shè)計(jì)者必須評(píng)估CPU/軟件、ASIC, ASSP(例如DSP處理器)和FPGA解決方案，確定哪個(gè)是最佳的，以及FPGA價(jià)格。
圖2展示了提出的FPGA協(xié)處理器解決方案，解決失真、曝光、通信和針對(duì)深度感知差異測(cè)繪算法。這個(gè)方法使CPU騰出時(shí)間，允許DSP處理器處理更多的串行任務(wù)。

圖2 FPGA支持計(jì)算量大的差異測(cè)繪算法

通常選擇FPGA時(shí)，需要評(píng)估三個(gè)電路方面的需求：

　　●針對(duì)利用并行特性的協(xié)處理功能，DSP的功能和性能。

　　●DDR(雙數(shù)據(jù)速率)和LVDS(低電壓差分信號(hào))支持接口至片外SDRAM緩沖存儲(chǔ)器，直接連接到來(lái)自攝像機(jī)的圖像數(shù)據(jù)。

　　●安全方案以保護(hù)知識(shí)產(chǎn)權(quán)。

　　對(duì)于圖像處理算法，傳統(tǒng)的DSP處理器的并行功能有限，每個(gè)DSP芯片只有1到4個(gè)乘法器，見(jiàn)圖3中的左面。因此DSP用很高的時(shí)鐘速率來(lái)進(jìn)行補(bǔ)償，時(shí)鐘速率高達(dá)1GHz或更高，以達(dá)到高的吞吐量。需要很快完成的復(fù)雜串行任務(wù)的DSP算法應(yīng)該用DSP處理器實(shí)現(xiàn)。

　　然而，許多深度感知圖像處理功能需要大量的并行處理，例如線(xiàn)性插值技術(shù)，媒體濾波器和幾何估計(jì)。與DSP芯片比較，F(xiàn)PGA可以用并行來(lái)執(zhí)行串行功能，以加速系統(tǒng)性能，見(jiàn)圖3的右面所示。例如圖像對(duì)應(yīng)是很簡(jiǎn)單的算法，比較大量的像素值，或者兩個(gè)圖像之間的像素點(diǎn)。為了得到有效均方差的和(SSD)，圖像對(duì)應(yīng)算法必須對(duì)圖像中的像素進(jìn)行百萬(wàn)次計(jì)算，對(duì)串行執(zhí)行功能的DSP芯片來(lái)說(shuō)這是一個(gè)挑戰(zhàn)性的任務(wù)。

　　具有DSP功能的FPGA包含幾個(gè)乘法器塊，但是一些FPGA還有嵌入式加法器、減法器和大大增加處理性能的累加器。盡管低成本FPGA以低于300MHz系統(tǒng)時(shí)鐘頻率工作，但用片內(nèi)多個(gè)DSP塊以并行方式實(shí)現(xiàn)多個(gè)DSP功能可以達(dá)到高的DSP吞吐量(3,000 MMAC)。

存儲(chǔ)器和DDR

　　由于有多個(gè)乘法器，利用FPGA并行的靈活性有益于存儲(chǔ)器的訪問(wèn)。能夠容易地并行訪問(wèn)各種存儲(chǔ)器。片內(nèi)分布式存儲(chǔ)器可以用來(lái)建立小的高性能便箋，針對(duì)去除白點(diǎn)使用坐標(biāo)的查找表，對(duì)于在圖像中再測(cè)繪像素是很有用的。片內(nèi)較大的嵌入式存儲(chǔ)器塊能構(gòu)建較大的高性能存儲(chǔ)器，用于FIFO和線(xiàn)緩沖器。

　　片外存儲(chǔ)器DDR II SDRAM可以提供大的高性能存儲(chǔ)器。針對(duì)常用于圖像處理，存儲(chǔ)整個(gè)幀的DDR SDRAM，F(xiàn)PGA可以為DDR SDRAM提供存儲(chǔ)器控制和接口。

　　較低的時(shí)鐘速度(100MHz以下)，DDR存儲(chǔ)器控制器接口是容易做的，可用FPGA中的通用I/O和邏輯實(shí)現(xiàn)。然而在較高的頻率，擁有專(zhuān)門(mén)電路的FPGA要求穩(wěn)健的DDR存儲(chǔ)器接口。不是所有FPGA器件都有這些專(zhuān)門(mén)電路的，實(shí)現(xiàn)高速DDR存儲(chǔ)器接口的成本和復(fù)雜性差別很大，取決于特殊的FPGA。

LVDS

　　針對(duì)攝像機(jī)和通過(guò)LVDS接口的視頻芯片集的深度感知，例如攝像機(jī)鏈接， FPGA接口圖像處理引擎。LVDS是低噪聲、低功耗，小擺幅差分信號(hào)用于通過(guò)銅線(xiàn)傳送高速(每秒吉比特)數(shù)據(jù)。

　　作為一個(gè)用于視頻接口的例子是7:1 LVDS接口，有多個(gè)LVDS信號(hào)對(duì)用于數(shù)據(jù)傳送，一個(gè)信號(hào)對(duì)用于時(shí)鐘。對(duì)一些FPGA來(lái)說(shuō)，這是本身的I/O接口。視頻數(shù)據(jù)通過(guò)3個(gè)LVDS對(duì)進(jìn)入FPGA，I/O結(jié)構(gòu)對(duì)這個(gè)包進(jìn)行解串，然后把FPGA中并行的數(shù)據(jù)送到邏輯陣列。

安全性

　　因?yàn)樽灾鞯臋C(jī)器人有時(shí)用于軍事應(yīng)用，在配置期間FPGA不應(yīng)對(duì)系統(tǒng)引入額外的脆弱性。對(duì)于基于SRAM的FPGA，配置數(shù)據(jù)來(lái)自外部的非易失存儲(chǔ)器。有些FPGA擁有內(nèi)置的128位AES解密引擎，防止黑客通過(guò)逆向工程來(lái)獲取FPGA中的功能。

　　只要密鑰是未知的，AES配置位流加密提供了保護(hù)措施。然而，非易失FPGA完全去除了這種安全性的風(fēng)險(xiǎn)。一些非易失FPGA在同一芯片上組合了Flash和SRAM。上電后SRAM獲得工作配置。這種技術(shù)提供了高配置安全性，同時(shí)又利用了SRAM無(wú)限次重構(gòu)的優(yōu)點(diǎn)。

結(jié)語(yǔ)

　　支持DSP、差分信號(hào)LVDS和DDR II存儲(chǔ)器接口的FPGA使得機(jī)器人的實(shí)時(shí)感知成為可能。

　　對(duì)于機(jī)器人的立體視覺(jué)應(yīng)用，針對(duì)實(shí)時(shí)圖像處理實(shí)現(xiàn)，CPU、DSP處理器和FPGA協(xié)處理器的組合能夠?qū)π阅芎蛢r(jià)格做出最佳的平衡。FPGA能夠處理高度并行差異測(cè)繪和深度感知算法。DSP進(jìn)行較少并行處理、高速和簡(jiǎn)單代碼的更加復(fù)雜的功能。CPU做需要靈活性和高層軟件實(shí)行的那些部分。

　　基于Flash，非易失LatticeXP2 FPGA支持許多需求，包括LVDS、內(nèi)置DDRII存儲(chǔ)器和完整特性的DSP塊，以及大量的可編程邏輯和存儲(chǔ)器塊支持接口和其它的定制功能。許多DSP知識(shí)產(chǎn)權(quán)核和MATLAB SIMULINK使設(shè)計(jì)更加便利。Lattice還有基于7:1 LVDS視頻接口的參考設(shè)計(jì)和平臺(tái)。免費(fèi)參考設(shè)計(jì)IP提供的一些功能是色深度轉(zhuǎn)換、亮度、對(duì)比度和視頻覆蓋。