戰(zhàn)斗機(jī)器人對(duì)倫理道德提出重大挑戰(zhàn) 進(jìn)行道德和法律約束非常有必要

據(jù)報(bào)道，美國(guó)是當(dāng)前軍事人工智能實(shí)用化的先驅(qū)，戰(zhàn)斗機(jī)器人領(lǐng)域也屢屢“露臉”。在這個(gè)競(jìng)爭(zhēng)對(duì)手面前，俄羅斯并不甘示弱;它最近聲稱(chēng)，在2025年前完成組建戰(zhàn)斗機(jī)器人部隊(duì)計(jì)劃，然后將這一新型部隊(duì)納入俄軍管理體系。

早在1990年，中國(guó)科學(xué)家及未來(lái)學(xué)家周海中在經(jīng)典論文《論機(jī)器人》中曾經(jīng)預(yù)言：21世紀(jì)將會(huì)出現(xiàn)威武雄壯的機(jī)器人部隊(duì)。如今種種跡象表明，他的這一預(yù)言似乎要成為現(xiàn)實(shí)了。毫無(wú)疑問(wèn)，未來(lái)戰(zhàn)爭(zhēng)中，機(jī)器人部隊(duì)將成為作戰(zhàn)的主力，其威力遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)的力量。

近年來(lái)，一些有關(guān)“戰(zhàn)斗機(jī)器人”（也稱(chēng)“殺手機(jī)器人”或“自主性武器系統(tǒng)”）可能給人類(lèi)帶來(lái)威脅的聲音時(shí)有出現(xiàn)。如美國(guó)微軟總裁布萊德·史密斯最近就表示，戰(zhàn)斗機(jī)器人即將出現(xiàn)，人類(lèi)社會(huì)需要尋找對(duì)策。他指出，需要制定一項(xiàng)新的國(guó)際公約來(lái)規(guī)范戰(zhàn)斗機(jī)器人技術(shù)的使用。隨著戰(zhàn)爭(zhēng)中戰(zhàn)斗機(jī)器人的大量投入使用，一些公認(rèn)的戰(zhàn)爭(zhēng)倫理將受到挑戰(zhàn)和沖擊。

非政府組織“殺手機(jī)器人禁令運(yùn)動(dòng)”從人道主義觀(guān)點(diǎn)出發(fā)，主張制定禁止研發(fā)戰(zhàn)斗機(jī)器人的公約;目前，該組織的參加者包括來(lái)自57個(gè)國(guó)家地區(qū)的113個(gè)非政府組織。另外，許多科技人員也主張制定有關(guān)的公約;他們認(rèn)為隨著未來(lái)社會(huì)的不斷進(jìn)步，戰(zhàn)斗機(jī)器人所產(chǎn)生的問(wèn)題可能會(huì)有所減少，但這些問(wèn)題對(duì)國(guó)際人道原則的沖擊仍將存在。

擁有先進(jìn)機(jī)器人技術(shù)的美國(guó)、英國(guó)、俄羅斯、以色列等均拒絕禁止戰(zhàn)斗機(jī)器人研發(fā)，這些國(guó)家已做好組建和部署戰(zhàn)斗機(jī)器人的準(zhǔn)備。自2000年以來(lái)，美國(guó)部署了數(shù)千個(gè)裝備機(jī)槍的戰(zhàn)斗機(jī)器人，每個(gè)機(jī)器人都能夠定位目標(biāo)并瞄準(zhǔn)它們，而且不需要人為的參與;而戰(zhàn)斗機(jī)器人初次亮相是在阿富汗戰(zhàn)場(chǎng)上，并在伊拉克、巴以等戰(zhàn)斗和沖突現(xiàn)場(chǎng)偶露崢嶸。

有俄羅斯媒體報(bào)道說(shuō)，俄軍已將部分新研制的戰(zhàn)斗機(jī)器人送到敘利亞接受實(shí)戰(zhàn)檢驗(yàn)，其中就包括了 “天王星-9”大型履帶底盤(pán)機(jī)器人;由于戰(zhàn)斗機(jī)器人不怕傷亡，因此戰(zhàn)斗進(jìn)程大大加快，俄敘聯(lián)軍在戰(zhàn)斗機(jī)器人后方發(fā)動(dòng)大規(guī)模攻擊給叛軍造成了極大的殺傷。俄表示，未來(lái)俄羅斯將大力發(fā)展無(wú)人戰(zhàn)斗機(jī)器人，計(jì)劃2020年到2023年實(shí)現(xiàn)戰(zhàn)斗機(jī)器人普及化。

美俄英以等在戰(zhàn)斗機(jī)器人方面的軍備競(jìng)賽不僅引起了國(guó)際社會(huì)普遍擔(dān)憂(yōu)，而且對(duì)倫理道德問(wèn)題提出了重大挑戰(zhàn)。有專(zhuān)家發(fā)出警告，由于世界上多個(gè)國(guó)家不顧法律和道德后果加緊開(kāi)發(fā)戰(zhàn)斗機(jī)器人，一場(chǎng)機(jī)器人軍備競(jìng)賽正在展開(kāi)。隨著人工智能的不斷發(fā)展，很可能就會(huì)出現(xiàn)完全自主的戰(zhàn)斗機(jī)器人;這令人想起科幻電影中的“終結(jié)者”之類(lèi)的幻想事物。

英國(guó)科學(xué)家諾埃爾·夏基說(shuō)，他對(duì)美國(guó)、俄羅斯等提出的機(jī)器人計(jì)劃進(jìn)行研究后感到“很害怕”。夏基最擔(dān)心的是，機(jī)器人今后將自己決定何時(shí)“扣動(dòng)扳機(jī)”，而“機(jī)器人對(duì)于為什么要這樣做沒(méi)有判斷能力”。為此，他對(duì)使用機(jī)器人提出警告，建議為戰(zhàn)斗機(jī)器人設(shè)定道德規(guī)范，并建議各國(guó)政府和軍用機(jī)器人研究者應(yīng)重新考慮目前的研發(fā)計(jì)劃。

雖然教機(jī)器人在戰(zhàn)場(chǎng)上如何行動(dòng)，看起來(lái)可能很簡(jiǎn)單，因?yàn)楦鲊?guó)會(huì)遵循國(guó)際商定的法律制定的交戰(zhàn)規(guī)則。但是科技人員并不能預(yù)見(jiàn)戰(zhàn)場(chǎng)上可能會(huì)出現(xiàn)的每種情形，正如十誡不能涵蓋每種道德模糊的情況一樣。因此許多科學(xué)家認(rèn)為，必須對(duì)戰(zhàn)斗機(jī)器人提前設(shè)定嚴(yán)格的“密碼”，包括倫理道德、法律、社會(huì)以及政治等因素，否則整個(gè)世界都有可能毀于它們的鋼鐵之手。

此外，俄裔美籍科幻小說(shuō)家艾薩克·阿西莫夫的“機(jī)器人學(xué)三大法則”也可能成為未來(lái)戰(zhàn)斗機(jī)器人的倫理及安全準(zhǔn)則。隨著機(jī)器人的用途日益廣泛以及人工智能的不斷進(jìn)步，他的機(jī)器人三大法則發(fā)揮著越來(lái)越重要的作用，以至有人稱(chēng)之為“機(jī)器人學(xué)的金科玉律”。但隨著戰(zhàn)爭(zhēng)中致命自主武器的大量投入使用，一些公認(rèn)的戰(zhàn)爭(zhēng)倫理將受到挑戰(zhàn)和沖擊。

開(kāi)發(fā)致命自主武器的技術(shù)正面臨越來(lái)越大的公眾強(qiáng)烈反對(duì)，國(guó)際社會(huì)也要求有關(guān)機(jī)構(gòu)盡快制定一個(gè)戰(zhàn)斗機(jī)器人倫理準(zhǔn)則。幾乎所有的科技人員都認(rèn)為，制定戰(zhàn)斗機(jī)器人的倫理準(zhǔn)則是很有必要的，以免以后引起不必要的戰(zhàn)爭(zhēng)糾紛。美國(guó)麻省理工學(xué)院法律與倫理專(zhuān)家凱特·達(dá)爾林最近指出，“要盡快制定戰(zhàn)斗機(jī)器人的倫理準(zhǔn)則，并做好這方面的風(fēng)險(xiǎn)分析及應(yīng)對(duì)策略研究?！?/p>

目前，一些國(guó)家已經(jīng)提出，給戰(zhàn)斗機(jī)器人制定國(guó)際法和倫理準(zhǔn)則，以約束其戰(zhàn)場(chǎng)行為。2013年5月27日，聯(lián)合國(guó)人權(quán)理事會(huì)例行會(huì)議也指出，將戰(zhàn)斗機(jī)器人從遠(yuǎn)程遙控發(fā)展至自動(dòng)判斷敵情、殺死敵人，可能誤傷準(zhǔn)備投降的士兵。戰(zhàn)斗機(jī)器人不僅使戰(zhàn)爭(zhēng)中遵守國(guó)際人道法變得更為困難，而且把是否殺害人類(lèi)的判斷交給機(jī)器更是“道義責(zé)任的缺失”。這就告誡我們，既要利用戰(zhàn)爭(zhēng)倫理維護(hù)自己的利益，又要發(fā)展符合戰(zhàn)爭(zhēng)倫理規(guī)范的無(wú)人系統(tǒng)。

即使研發(fā)自主性武器系統(tǒng)或組建戰(zhàn)斗機(jī)器人，也要把握住以人類(lèi)生命觀(guān)和價(jià)值觀(guān)為導(dǎo)向的方法論，充分考慮人的良知和情感，警惕技術(shù)被濫用的潛在風(fēng)險(xiǎn)，避免出現(xiàn)倫理失常、安全失控、法律失準(zhǔn)等問(wèn)題。而對(duì)戰(zhàn)爭(zhēng)進(jìn)行倫理和法律的約束及制衡，是人類(lèi)社會(huì)長(zhǎng)期努力的結(jié)果，也是人類(lèi)文明進(jìn)步的重要表現(xiàn)。