AI系統(tǒng)也有發(fā)瘋的時候 深度學習并不真的“深度”

AI 不具有人類那種對異?，F(xiàn)象感到難以置信但同時能坦然接受的能力，比如房間里突然出現(xiàn)一只大象。根據(jù)發(fā)表在預印本網(wǎng)站 arxiv.org 上的一項研究（PDF），計算機科學家發(fā)現(xiàn)深度學習并不真的“深度”，AI 在發(fā)現(xiàn)難以置信的事情后會“發(fā)瘋”。

在計算機視覺領域，人工智能系統(tǒng)會嘗試識別和分類對象。在這項研究中，研究人員向計算機視覺系統(tǒng)展示了一幅客廳的場景，系統(tǒng)正確的識別了椅子、人和書架上的書。研究人員隨后向場景中引入了異常對象：一只大象的圖像。

然后 AI 系統(tǒng)瘋了，它忘記了已經(jīng)識別的對象，將椅子識別為沙發(fā)，將大象識別為椅子，其它此前已經(jīng)識別的對象都視而不見了。

論文合作者 ?Amir Rosenfeld 稱，研究顯示了目前的對象識別系統(tǒng)是多么的脆弱。研究人員仍然在嘗試理解為什么計算機視覺系統(tǒng)如此容易犯錯。他們猜測是 AI 缺乏人類那種從容處理海量信息的能力。 ? ? ? ? ? ? ? ? ? ??