在邊緣培訓(xùn)人工智能模型
近年來,各類公司紛紛引進(jìn)和推廣深層次學(xué)習(xí)技術(shù).然而,在深入學(xué)習(xí)方面,仍有兩大問題有待解決。一種是需要準(zhǔn)備大量的訓(xùn)練數(shù)據(jù),另一種是在最初訓(xùn)練階段需要大量的反向傳播和其他計(jì)算。后者通常在具有高性能的GPS的服務(wù)器上執(zhí)行,位于云中,因此非常耗電。因此,在邊緣設(shè)備上進(jìn)行訓(xùn)練是不現(xiàn)實(shí)的。然而,有一種技術(shù)可以執(zhí)行訓(xùn)練和推理,從少量數(shù)據(jù)中提取特征。這種技術(shù)被稱為稀疏建模。
在本文中,我們將比較稀疏建模和深入學(xué)習(xí);涵蓋了稀疏建模是有益的使用案例;并解釋了稀疏建模訓(xùn)練和推理的機(jī)制。此外,還將介紹利用稀疏建模技術(shù)的視覺檢測(cè)應(yīng)用實(shí)例。在這種情況下,我們將涵蓋在飛行起重機(jī)模式,這是一個(gè)傳統(tǒng)的模式日本紙張。
什么是稀疏建模 ?
"稀少"一詞的定義是"微弱的分散或分散"。稀疏建模是基于基本信息實(shí)際上非常有限的假設(shè)(因此"稀疏分布")。該技術(shù)識(shí)別并提取輸出的輸入數(shù)據(jù)中的基本信息。
稀疏建模識(shí)別不同數(shù)據(jù)之間的關(guān)系。當(dāng)輸出時(shí),稀疏建模并不關(guān)注輸入數(shù)據(jù)本身,而是關(guān)注輸入和輸出數(shù)據(jù)之間的關(guān)系。通過關(guān)注數(shù)據(jù)之間的關(guān)系,輸入數(shù)據(jù)本身的數(shù)量和質(zhì)量并不重要。因此,只需要少量數(shù)據(jù)。稀疏建模是機(jī)器學(xué)習(xí)中的一種無監(jiān)督學(xué)習(xí)方法。
深入學(xué)習(xí)通常在可以準(zhǔn)備足夠數(shù)據(jù)和注釋的應(yīng)用程序中提供高性能(例如:,供自動(dòng)駕駛使用。然而,稀疏建模擴(kuò)大了AI應(yīng)用的范圍,以使用無法收集大量數(shù)據(jù)的情況,而可解釋性是非常重要的。
稀疏建模與深度學(xué)習(xí)的比較
有限的建模可以處理像時(shí)間序列這樣的一元數(shù)據(jù)和像圖像這樣的二維數(shù)據(jù)。成像應(yīng)用包括缺陷插值、缺陷檢測(cè)(異常檢測(cè))和超分辨率。圖1展示了在太陽能電池板檢測(cè)中檢測(cè)缺陷圖像任務(wù)的傳統(tǒng)機(jī)器學(xué)習(xí)方法與稀疏建模的比較。您可以看到,稀疏建模所需的培訓(xùn)數(shù)據(jù)量(圖像數(shù)量)大大小于深入學(xué)習(xí)的數(shù)據(jù)量。然而,稀疏建模的精度超過90%--訓(xùn)練時(shí)間只有19秒。
圖1人工智能太陽能電池板缺陷檢測(cè)性能比較。
稀疏建模有益的應(yīng)用
即使只有少量的訓(xùn)練數(shù)據(jù)也能有效建模.這是因?yàn)樗鼜挠?xùn)練階段的輸入數(shù)據(jù)中提取出必要的特征。看一看位于工業(yè)制造現(xiàn)場(chǎng)的視覺檢查應(yīng)用程序的例子,通常有大量的"好"數(shù)據(jù),但很少有壞數(shù)據(jù)。這是一個(gè)稀疏建模作為AI解決方案的例子。
對(duì)于模型的創(chuàng)建來說,簡(jiǎn)潔的建模是很便宜的,因此它不僅使我們能夠在邊緣設(shè)備上執(zhí)行推理,而且還可以進(jìn)行訓(xùn)練。
當(dāng)談到在邊緣設(shè)備上同時(shí)進(jìn)行訓(xùn)練和推理的人工智能模型時(shí),Hacarus稱之為"真正的邊緣"。通過邊緣培訓(xùn),沒有必要將數(shù)據(jù)發(fā)送到外部位置(例如:,云中的一個(gè)服務(wù)器)導(dǎo)致了較少的數(shù)據(jù)安全問題??蹈窭锟撕凸斔谷斯ぶ悄芄ぞ甙?圖2)是一個(gè)能夠在邊緣執(zhí)行稀疏建模的設(shè)備的例子。這個(gè)設(shè)備是由一個(gè)康格里克盒-PC和一個(gè)哈卡魯斯人工智能工具包-包括視覺檢測(cè)軟件光譜核心。
圖2康格拉克盒-PC和哈卡魯斯人工智能工具包。
使用稀疏建模進(jìn)行培訓(xùn)和預(yù)測(cè)
圖3顯示了使用稀疏建模進(jìn)行視覺檢查的總體流程。
圖3視覺檢查系統(tǒng)的整體流程.
在這個(gè)例子中,目標(biāo)是檢測(cè)作為異物的穿孔金屬上的螺絲。首先,制備無異常穿孔金屬的圖像。為了避免由于相機(jī)角度和目標(biāo)位置的不同而產(chǎn)生錯(cuò)誤,建議從略有不同的角度準(zhǔn)備幾十個(gè)訓(xùn)練圖像。在訓(xùn)練階段,這些訓(xùn)練圖像被輸入到訓(xùn)練算法中,以創(chuàng)建一個(gè)AI模型。如果檢查目標(biāo)沒有改變,只需要?jiǎng)?chuàng)建一次AI模型。
在預(yù)測(cè)階段,我們將帶有螺絲釘?shù)念A(yù)測(cè)圖像以及AI模型輸入到推理算法中,以進(jìn)行推理。由于推理的結(jié)果,生成了一個(gè)在外部對(duì)象的位置周圍有紅色框架的圖像。
培訓(xùn)階段的詳細(xì)情況見圖4。首先,訓(xùn)練圖像被劃分為稱為補(bǔ)丁的小片段。然后,字典學(xué)習(xí)算法分析補(bǔ)丁并提取特征圖像模式.在這個(gè)例子中,64個(gè)不同類型的孔在穿孔的金屬。它們都被稱為基地,而AI模型(也被稱為訓(xùn)練有素的字典)是64個(gè)基地的集合。
圖4異常檢測(cè)訓(xùn)練階段。
預(yù)測(cè)階段的細(xì)節(jié)如圖5所示。首先,我們將預(yù)測(cè)圖像(A)分解為與訓(xùn)練階段大小相同的補(bǔ)丁。對(duì)于每個(gè)已分解的補(bǔ)丁,選擇一個(gè)AI模型的基礎(chǔ)并進(jìn)行組合,以找到最能代表補(bǔ)丁的組合。這個(gè)過程被應(yīng)用到所有的補(bǔ)丁和拼接在一起,以產(chǎn)生一個(gè)近似的圖像使用AI模型。我們稱之為重建圖像(b)。
圖5異常檢測(cè)的預(yù)測(cè)階段。
在重建圖像(b)中,接近訓(xùn)練圖像的圖像特征的位置與預(yù)測(cè)圖像(a)非常相似,在這種情況下,是一個(gè)規(guī)則的小孔圖案。相比之下,培訓(xùn)圖像中未包括的具有圖像特征的地點(diǎn),即:,安裝螺絲的位置,在人工智能模型中所包含的基礎(chǔ)上沒有很好的表示。在那個(gè)位置,重建的圖像和預(yù)測(cè)的圖像有所不同.因此,可以檢測(cè)到一種外來物質(zhì)。外來物體檢測(cè)圖像(c)中的紅色區(qū)域表示外來物體的位置。
利用稀疏建模技術(shù)的視覺檢查應(yīng)用
我們利用飛鶴圖像(圖像尺寸640像素x480像素)進(jìn)行了一個(gè)劃痕檢測(cè)實(shí)驗(yàn),這是日本傳統(tǒng)紙張的經(jīng)典設(shè)計(jì)。實(shí)驗(yàn)環(huán)境如圖2所示。
訓(xùn)練
圖6所示13幅正常圖像用于培訓(xùn)。該數(shù)據(jù)集不到深入學(xué)習(xí)所需圖像的十分之一。雖然在13幅圖像中,起重機(jī)的圖案是一樣的,但這些圖像中起重機(jī)的位置略有不同。其原因是為AI模型提供了翻譯不變性。
圖6日本紙飛行起重圖案訓(xùn)練圖像。
缺陷檢測(cè)實(shí)例
預(yù)測(cè)圖像顯示在圖7的左側(cè)。在左下角的起重機(jī)上,抓痕部分重疊。在預(yù)測(cè)圖像中,劃痕是作為一個(gè)外來物體檢測(cè)出來的,周圍是一個(gè)紅色的框架。因此,AI模型能夠檢測(cè)到由于抓撓而引起的起重機(jī)形狀的變化,因?yàn)樗呀?jīng)了解了起重機(jī)的形狀。
圖7起重機(jī)上的一個(gè)抓痕。
訓(xùn)練圖像尺寸及訓(xùn)練時(shí)間
圖8顯示了飛行起重機(jī)模式的訓(xùn)練圖像尺寸和訓(xùn)練時(shí)間。在13個(gè)訓(xùn)練圖像的情況下,1280像素x960像素的大小,訓(xùn)練時(shí)間只有大約16秒。訓(xùn)練時(shí)間比深入學(xué)習(xí)的時(shí)間短得多。隨著圖像尺寸的減小,學(xué)習(xí)時(shí)間幾乎以線性的形式減少。
圖8訓(xùn)練形象尺寸與訓(xùn)練時(shí)間。
預(yù)測(cè)圖像尺寸和預(yù)測(cè)時(shí)間
圖9顯示了飛行起重機(jī)模式的預(yù)測(cè)圖像大小和預(yù)測(cè)時(shí)間圖。每1280像素x960像素的預(yù)測(cè)圖像尺寸的訓(xùn)練時(shí)間大約只有0.6%秒.隨著圖像尺寸的減小,480像素x360像素的學(xué)習(xí)時(shí)間幾乎線性減少到不到0.1秒。
圖9預(yù)測(cè)圖像尺寸與預(yù)測(cè)時(shí)間。
檢測(cè)精度
圖10顯示了使用光譜(Hacarus的視覺檢查解決方案)對(duì)另外100幅工業(yè)圖像進(jìn)行評(píng)估的結(jié)果。我們獲得了非常積極的結(jié)果,準(zhǔn)確率為96%,精確率為100%,繁殖率為95.65%。圖中的異常值是一個(gè)內(nèi)部光譜指示器,它的值從0到1,而值越高,異常值就越高。水平軸表示異常值,垂直軸表示總分的累計(jì)百分比。紅色的圖表顯示異常程度在0.133附近,涵蓋所有缺陷產(chǎn)品。
圖10準(zhǔn)確結(jié)果。
結(jié)論
我們討論了稀疏建模和深度學(xué)習(xí)的比較,稀疏建模的應(yīng)用,以及稀疏建模中的培訓(xùn)和預(yù)測(cè)機(jī)制。通過采用稀疏建模的視覺檢測(cè)程序--光譜核技術(shù),成功地實(shí)現(xiàn)了日本傳統(tǒng)紙樣和飛行起重機(jī)的劃痕檢測(cè)。實(shí)驗(yàn)結(jié)果表明,實(shí)驗(yàn)結(jié)果的準(zhǔn)確性、準(zhǔn)確性和再現(xiàn)性較高。