計(jì)算攝影時(shí)代加速，驍龍8讓影像從“芯”開始

當(dāng)前，中國智能手機(jī)市場(chǎng)已經(jīng)進(jìn)入高端領(lǐng)域的競(jìng)爭時(shí)代，對(duì)于旗艦手機(jī)來說，產(chǎn)品的工業(yè)設(shè)計(jì)、屏幕、性能等要素已經(jīng)高度規(guī)格化，并不容易作出真正的差異化。在此背景下，影像成為眾多手機(jī)廠商著力攻克、實(shí)現(xiàn)差異化的一個(gè)突破點(diǎn)。特別是近兩年，手機(jī)廠商們?cè)诎l(fā)布新品時(shí)往往會(huì)重點(diǎn)突出產(chǎn)品的拍照、攝像能力。

而從消費(fèi)者的角度來說，根據(jù)2019年的調(diào)查數(shù)據(jù)，消費(fèi)者在選購智能手機(jī)時(shí)候，拍照也是他們關(guān)注的第一要素。由此可見，智能手機(jī)已經(jīng)進(jìn)入“影像為王”的時(shí)代，成為手機(jī)市場(chǎng)最重要的主題之一。

而單就智能手機(jī)的影像來說，也經(jīng)歷了不同的發(fā)展時(shí)期，從早期的拼像素，到拼攝像頭數(shù)量，然后再到拼傳感器的尺寸，越來越高階。而眼下，智能手機(jī)影像領(lǐng)域最炙手可熱的話題，無疑非“計(jì)算攝影”莫屬。

計(jì)算攝影，照亮手機(jī)影像新方向

什么是計(jì)算攝影？簡單理解，其實(shí)就是將計(jì)算機(jī)軟件算法和現(xiàn)代傳感器、光學(xué)系統(tǒng)等技術(shù)融合在一起，從而形成新型的攝影設(shè)備。它突破了傳統(tǒng)數(shù)碼攝影的種種限制，讓算法在攝影中發(fā)揮核心作用，這其中，人工智能技術(shù)的應(yīng)用是關(guān)鍵。

這里我們?cè)倩仡櫼幌率謾C(jī)影像的工作流程：

光線首先透過鏡組和光圈來到CMOS圖像傳感器，CMOS的作用是將光信號(hào)轉(zhuǎn)換為電信號(hào)，這時(shí)候的信號(hào)還是模擬信號(hào)，所以需要ADC模數(shù)轉(zhuǎn)換器將模擬電信號(hào)轉(zhuǎn)換為數(shù)字信號(hào)。

接著，數(shù)字信號(hào)會(huì)來到ISP，ISP的主要任務(wù)是通過一系列先進(jìn)的數(shù)字信號(hào)圖像處理算法對(duì)傳輸過來的信號(hào)進(jìn)行效果處理，例如壞點(diǎn)校正、去除噪點(diǎn)等等。

ISP處理過信息后，再通過IO接口傳輸?shù)紺PU中進(jìn)行比較、存儲(chǔ)、分析等處理，最后通過顯示屏就可以看到圖像了。

可以看到，傳統(tǒng)手機(jī)影像的工作流程中，也是需要算法參與的，主要是在ISP及向后的數(shù)字信息處理的過程。而計(jì)算攝影，幾乎可以說成了由計(jì)算機(jī)算法成主導(dǎo)，參與的深度和復(fù)雜度是傳統(tǒng)攝影無法比擬的，

而且，計(jì)算攝影中，算法干預(yù)的步驟甚至可以達(dá)到圖像傳感器這一層級(jí)。而且，如今智能手機(jī)攝像頭的數(shù)量通常都要達(dá)到3個(gè)甚至4個(gè)，計(jì)算攝影的另一個(gè)重要使命或者工作，就是推動(dòng)多攝像頭在拍攝時(shí)實(shí)現(xiàn)像素級(jí)的深度融合、協(xié)同，這背后，需要AI算法深入到傳感器、ISP乃至CPU、GPU等運(yùn)算模塊，共同完成算法對(duì)影像效果的把控。

而說到計(jì)算攝影，目前智能手機(jī)行業(yè)的領(lǐng)先者已經(jīng)做了很多探索，包括谷歌、蘋果、華為等等。而在剛剛過去的驍龍技術(shù)峰會(huì)上，高通推出的全新一代驍龍8移動(dòng)平臺(tái)，則在計(jì)算攝影方面強(qiáng)勢(shì)發(fā)力，將行業(yè)對(duì)計(jì)算攝影的探索又向前推進(jìn)了一大步。

全新一代驍龍8移動(dòng)平臺(tái)，影像與AI構(gòu)建核心競(jìng)爭力

作為全球最先進(jìn)的移動(dòng)平臺(tái)，驍龍是頂級(jí)Android體驗(yàn)的代名詞，而全新一代驍龍8移動(dòng)平臺(tái)則是2022年各大旗艦安卓智能手機(jī)的標(biāo)配，同時(shí)也是在AI、影像、性能、連接等各方面都全面升級(jí)的一代，其中就包括計(jì)算攝影方面的能力。

看了前面對(duì)于計(jì)算攝影的介紹，相信大家已經(jīng)能夠想到，驍龍8的計(jì)算攝影能力，核心來源于強(qiáng)大的ISP和AI能力。

1、進(jìn)階的18-bit Qualcomm Spectra ISP

今年驍龍8搭載的是全新Qualcomm Spectra ISP，它是高通首個(gè)支持18-bit的ISP，也是首個(gè)支持18-bit ISP的智能手機(jī)ISP。18-bit技術(shù)超越了許多專業(yè)相機(jī)的配置，影響數(shù)據(jù)項(xiàng)相比之前提升達(dá)4096倍。

18-bit為影像表現(xiàn)帶來的，不僅是色彩豐富度的大大提升，動(dòng)態(tài)范圍也顯著提高。它能夠?yàn)楫嬅鎺眍~外4個(gè)比特動(dòng)態(tài)范圍，將讓用戶能夠在圖像最暗和最亮的部分看到更多細(xì)節(jié)。

同時(shí)，Qualcomm Spectra ISP的強(qiáng)大還體現(xiàn)在瘋狂的像素吞吐能力，它能夠每秒捕捉32億像素，與前代相比速度提升19%，為移動(dòng)端最快。而且他還能夠用單個(gè)攝像頭以30fps捕獲1.08億像素的畫面，或者三顆攝像頭每顆分別以30fps捕獲3600萬像素的畫面，或者，按鍵一次在一秒內(nèi)捕獲240張1200萬像素畫面。

尤其是在低光環(huán)境下，全新18-bit Qualcomm Spectra ISP還支持“超級(jí)多幀引擎”，能夠捕獲30張畫面，再將它們合成為一張照片。低光條件下拍攝的照片將具有超級(jí)銳麗度、超級(jí)豐富的色彩和超級(jí)的亮度。這一點(diǎn)對(duì)于計(jì)算攝影能力的提升非常有幫助。

而在視頻拍攝方面，18-bit ISP將率先在智能手機(jī)上支持8K HDR視頻拍攝，同時(shí)8K HDR視頻還能以HDR10+格式進(jìn)行拍攝，并且與前代產(chǎn)品相比，在HDR10+視頻拍攝使用場(chǎng)景下，功耗降低達(dá)50%。

而且，18-bit ISP的超大帶寬支持用同一圖像傳感器同時(shí)拍攝8K視頻（每幀3300萬像素）和拍攝6400萬像素的照片。

2、強(qiáng)大的第7代高通AI引擎

在AI方面，全新一代驍龍8移動(dòng)平臺(tái)搭載了第7代高通AI引擎。

在第7代高通AI引擎上，高通著重提升了Hexagon處理器的性能，實(shí)現(xiàn)了性能翻倍的表現(xiàn)，同時(shí)對(duì)共享內(nèi)存進(jìn)行了翻倍。

具體而言，第7代高通AI引擎在廣泛的AI模型用例中的推理時(shí)間比前代AI引擎快4倍，同時(shí)AI能效比前代提升1.7倍，同時(shí)，AI軟件性能也提升了2倍。

另外，第7代高通AI引擎值得關(guān)注的就是它的傳感器中樞模塊，驍龍8中，高通在傳感器中樞里引入了全新低功耗AI子系統(tǒng)。該系統(tǒng)為多核架構(gòu)，由專用AI處理器、DSP、外加自有內(nèi)存組成，用于處理情境數(shù)據(jù)流，包括語音、音頻、傳感器和連接。在全新低功耗AI子系統(tǒng)的輔助下，傳感器中樞模塊的AI性能提升75%，功耗降低50%。

還有就是，在第7代高通AI引擎中，高通還和谷歌合作，將神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NAS）引入驍龍平臺(tái)。

NAS研究可以將要使用的硬件以及其他設(shè)計(jì)參數(shù)以幫助工程師快速實(shí)現(xiàn)最優(yōu)設(shè)計(jì)，自動(dòng)設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)模型。從根本上繪制硬件藍(lán)圖并利用AI充分發(fā)揮那些特性以產(chǎn)生最優(yōu)結(jié)果。

此外，它能夠考慮時(shí)延、網(wǎng)絡(luò)規(guī)?；蚓鹊饶繕?biāo)，將初始網(wǎng)絡(luò)作為起點(diǎn)并全面搜索優(yōu)化網(wǎng)絡(luò)以便在該硬件上針對(duì)性約束內(nèi)運(yùn)行得更快。

總之就是可以讓第7代高通AI引擎的強(qiáng)大AI算力能夠得到充分釋放。

3、CPU、GPU、傳感器……

我們知道，驍龍移動(dòng)平臺(tái)的高通AI引擎并不是專門的NPU神經(jīng)網(wǎng)絡(luò)芯片，而是通過協(xié)同Hexagon處理器、CPU、GPU等運(yùn)算模塊實(shí)現(xiàn)強(qiáng)大的AI能力。因此在驍龍8上，CPU、GPU等模塊性能的提升，對(duì)于AI能力的升級(jí)也非常重要，進(jìn)而自然也能為計(jì)算攝影帶來增益。

在驍龍8中，全新高通Kryo CPU基于最新的ARMv9架構(gòu)，采用三星4nm制程工藝，核心架構(gòu)包括1個(gè)Cortex-X2核心，最高主頻3.0GHz，1MB L2緩存，3個(gè)Cortex-A710核心，最高主頻2.5GHz，512K L2緩存，4個(gè)Cortex-A510核心，最高主頻1.8GHz，6MB L3緩存。

在這些特性的支持下，高通Kryo CPU的整體性能提升幅度為20%，能效提升幅度為30%。

至于全新的高通Adreno GPU，也采用了新的架構(gòu)，圖形渲染能力提升30%，并且游戲時(shí)的能效提升25%。

前面我們說過，計(jì)算攝影理念中，AI算法的干預(yù)鏈路甚至可以上探到傳感器層面，而驍龍8也做到了這一點(diǎn)。正如高通在驍龍技術(shù)峰會(huì)上宣布的那樣，高通會(huì)與索尼傳感器合作，成立聯(lián)合實(shí)驗(yàn)室推動(dòng)移動(dòng)影像發(fā)展，聯(lián)合實(shí)驗(yàn)將為基于驍龍8開發(fā)的設(shè)備，來提供優(yōu)化，還將在這里進(jìn)行高通和索尼對(duì)于最新影像技術(shù)的測(cè)試，甚至為驍龍8定制圖像傳感器。相信雙方的合作中，計(jì)算攝影一定是最重要的方向之一。

多種創(chuàng)新AI+影像用例坐陣，計(jì)算攝影能力可見一斑

計(jì)算攝影中，算法參與智能手機(jī)影像工作的幾乎整個(gè)流程，從前段的傳感器到后段的CPU、GPU等，每一個(gè)環(huán)節(jié)，驍龍8都實(shí)現(xiàn)了顯著提升。這是完成計(jì)算攝影創(chuàng)新應(yīng)用的基本條件，就像完成一幅畫，這些是畫布、顏料、彩筆，有了這些，高通就能通過驍龍8更好地施展才華，將他們?cè)谟?jì)算攝影方面的創(chuàng)意描繪出來。

特別是借助全新18-bit Qualcomm Spectra ISP和第7代高通AI引擎的融合，驍龍8創(chuàng)造了很多AI+影像的用例，這些用例，都代表著平臺(tái)計(jì)算攝影能力上了一個(gè)新臺(tái)階。

比如利用Qualcomm Spectra ISP的超級(jí)多幀引擎，搭載驍龍8的設(shè)備在拍攝運(yùn)動(dòng)狀態(tài)物體時(shí)，能夠在每張照片中精準(zhǔn)地追蹤每個(gè)像素細(xì)節(jié)。有了這個(gè)計(jì)算視覺能力，Qualcomm Spectra ISP能夠助力終端拍出“光影流動(dòng)”的效果。

在峰會(huì)的演示區(qū)，IT之家就看到了這個(gè)技術(shù)的演示。搭載驍龍8的參考設(shè)計(jì)手機(jī)拍攝下面這個(gè)場(chǎng)景，前面是靜止的木頭人，后面是不停轉(zhuǎn)動(dòng)的霓虹摩天輪。在手機(jī)上按一下快門，就會(huì)快速捕捉很多幀，最終融合成一張木頭人清晰、但后面霓虹風(fēng)車的燈光模糊成圓形運(yùn)動(dòng)軌跡的照片。一張藝術(shù)照輕松拍成。

還有，全新Qualcomm Spectra ISP融入AI能力后，還可以進(jìn)行更強(qiáng)大的人臉識(shí)別，哪怕在全景照片中人物面部非常小，現(xiàn)在也能準(zhǔn)確識(shí)別。

而且在進(jìn)行人臉識(shí)別時(shí)，驍龍8現(xiàn)在可以檢測(cè)到300個(gè)特征點(diǎn)，而且神經(jīng)網(wǎng)絡(luò)還針對(duì)更多的人臉特征進(jìn)行訓(xùn)練，包括眉毛、嘴唇、下頜線等，因此Qualcomm Spectra ISP可以檢測(cè)拍攝對(duì)象的表情，從而更準(zhǔn)確地理解情緒。

和人臉識(shí)別相關(guān)的還有一個(gè)應(yīng)用，就是高通與虹軟合作實(shí)現(xiàn)的AI影像，在視頻拍攝狀態(tài)下，能夠同時(shí)進(jìn)行人臉識(shí)別、手勢(shì)識(shí)別和背景虛化，這三者分開，每一個(gè)用例都需要足夠的AI算力支撐，現(xiàn)在同時(shí)進(jìn)行，其創(chuàng)新力和難度可想而知。

IT之家在現(xiàn)場(chǎng)也做了體驗(yàn)，人物一進(jìn)入畫面，視頻很快就會(huì)完成背景的虛化，同時(shí)嘗試搖頭晃腦做手勢(shì)，各種效果也能很快跟著改變。

還有就是，利用三個(gè)ISP中的兩個(gè)ISP，搭載驍龍8的終端將可以拍攝類似全景圖像的畫面，按一次快門便可獲得無畸變且達(dá)到極寬的140度視場(chǎng)的照片，再也不用移動(dòng)手機(jī)分幾次拍攝了。

IT之家在峰會(huì)演示現(xiàn)場(chǎng)還看到了一個(gè)應(yīng)用，就是利用驍龍8強(qiáng)大的計(jì)算攝影能力，同時(shí)調(diào)用智能手機(jī)的三枚攝像頭進(jìn)行視頻拍攝，而且最高可以支持3個(gè)6400萬像素以30fps的方式同時(shí)工作，非常驚人。

更重要的是，三個(gè)攝像頭不僅是同時(shí)工作，更能彼此交流數(shù)據(jù)，例如廣角鏡頭可從長焦鏡頭中獲取更多的細(xì)節(jié)，長焦還能通過超廣角鏡頭得到更好的白平衡效果，三枚攝像頭彼此深度融合，正是我們前面說的當(dāng)前計(jì)算攝影的重要應(yīng)用場(chǎng)景。

最后值得一提的是，在峰會(huì)上高通還宣布了在AI層面和徠卡的合作：未來驍龍移動(dòng)平臺(tái)將支持由高通AI引擎賦能的徠卡Leitz風(fēng)格（Leica Leitz Look），后續(xù)還會(huì)有更多基于其他傳統(tǒng)徠卡鏡頭的風(fēng)格加入進(jìn)來。

結(jié)語

總體來說，全新一代驍龍8移動(dòng)平臺(tái)憑借全面提升的影像和AI能力，在計(jì)算攝影方面實(shí)現(xiàn)了諸多創(chuàng)新性的應(yīng)用，并且，上面IT之家展示的還只是高通給出的基本用例，隨著終端手機(jī)廠商在應(yīng)用層面的發(fā)力，必然會(huì)誕生更多的計(jì)算攝影功能和用途，在讓消費(fèi)者獲得專業(yè)級(jí)影像能力的同時(shí)，沒推動(dòng)計(jì)算攝影領(lǐng)域的前進(jìn)和發(fā)展。