新的安全觀將更好地理解人工智能所帶來的安全挑戰(zhàn)

（文章來源：環(huán)球網(wǎng)）

近日，美國國防部聯(lián)合人工智能中心主任沙納漢聲稱，2020將是美軍在人工智能領(lǐng)域?qū)崿F(xiàn)突破的一年。明年中心的人員將增加60個(gè)編制，預(yù)算增長3倍，并將在一系列項(xiàng)目上快速取得突破。沙納漢認(rèn)為，要應(yīng)對大國在人工智能領(lǐng)域的競爭，美國必須要加大、加快在人工智能軍事應(yīng)用領(lǐng)域的投入。

美軍大舉在人工智能領(lǐng)域布局，反映了人工智能的武器化、實(shí)戰(zhàn)化正在逐步成為現(xiàn)實(shí)。從人類歷史上看，軍事是推動科技進(jìn)步的重要力量，包括核武器、互聯(lián)網(wǎng)等很多重大科技領(lǐng)域的突破都是源自軍事目的。國家出于軍事目的發(fā)展具有戰(zhàn)略意義的高科技在當(dāng)代也非常普遍，越來越多的國家開始加速布局人工智能在軍事領(lǐng)域的應(yīng)用。

值得警惕的是，當(dāng)代國際關(guān)系領(lǐng)域一個(gè)顯著的“安全困境”就是大國為謀取戰(zhàn)略競爭優(yōu)勢而發(fā)展高科技武器，引起眾多國家效仿，反而惡化了整體的安全環(huán)境。人工智能已成為引發(fā)“安全困境”的新領(lǐng)域，人工智能軍事化發(fā)展的安全困境將會伴隨大國不斷加大投入而提前到來。

因此，國際社會應(yīng)當(dāng)建立一種新的安全觀來看待人工智能的安全問題，包括從技術(shù)安全、應(yīng)用安全和體系安全三個(gè)層面來應(yīng)對人工智能的安全困境。

一是要關(guān)注人工智能自身的技術(shù)安全問題。算法黑箱、自主決策、數(shù)據(jù)安全都有可能帶來人工智能武器的失控，并由此帶來嚴(yán)重的安全后果。因此，如何在確保安全的前提下開展人工智能軍事應(yīng)用至關(guān)重要。

二是人工智能應(yīng)用中的安全。不負(fù)責(zé)任地使用人工智能武器或是隨意擴(kuò)散，都有可能給國際社會造成嚴(yán)重的安全、經(jīng)濟(jì)和社會層面?zhèn)?。比如濫用人工智能武器造成無辜平民的傷亡，恐怖分子獲取人工智能武器將會實(shí)施的重大恐怖襲擊。

三是必須關(guān)注人工智能在軍事領(lǐng)域的應(yīng)用對國際安全體系造成的顛覆。隨著人工智能的發(fā)展，戰(zhàn)爭的形態(tài)將被徹底改變。軍人、戰(zhàn)場和戰(zhàn)爭模式會發(fā)生顛覆性的變化。程序員將成為軍人中的重要組成部分，更加精確的殺傷將會使得戰(zhàn)場范圍更加廣闊，傳統(tǒng)的戰(zhàn)爭決策模式也難以適應(yīng)人工智能快速反應(yīng)的決策。如此巨大的變化將會使傳統(tǒng)的國際安全架構(gòu)難以適應(yīng)新挑戰(zhàn)，現(xiàn)有的沖突降級、危機(jī)管控、建立信任措施等維護(hù)國際安全的手段無法解決大國在人工智能軍事領(lǐng)域的沖突，危及國際安全體系穩(wěn)定。

新的安全觀有助于更好地理解人工智能軍事化應(yīng)用所帶來的安全挑戰(zhàn)，但要應(yīng)對挑戰(zhàn)，還需要建立新的治理機(jī)制。

首先，要建立以技術(shù)治理為主體的人工智能全球治理體系，改變國家的安全觀念，更加積極地促進(jìn)知識和經(jīng)驗(yàn)的分享來維護(hù)體系安全，而不是通過壟斷技術(shù)來獲取競爭優(yōu)勢。其次，人工智能的全球治理應(yīng)當(dāng)處理好政府與其他利益攸關(guān)方的關(guān)系。人工智能具有軍民兩用性，技術(shù)在軍事領(lǐng)域的應(yīng)用會對民用產(chǎn)生負(fù)面影響。如谷歌和亞馬遜都因?yàn)榕c軍方開展人工智能合作而遭到了員工和客戶的反對。最后，應(yīng)有約束大國發(fā)展和使用軍事人工智能的國際機(jī)制，形成大國審慎考慮自身行為帶來安全困境的輿論氛圍。