機器人走入家居,安全能絕對保障嗎？

《絕對控制》是不久前剛上映的一部與人工智能密切相關(guān)的科幻電影。布魯斯南飾演的主人公Regan有這令人羨慕的完美人生，不過這一切都被機器人ITguy摧毀了。因為感覺受到冷落，ITguy開始開始監(jiān)視主人公和他的女兒，往日依賴的全智能家居和汽車系統(tǒng)如今成為最大的安全隱患。隨著隱私的全面暴露，Regan一家陷入前所未有的恐慌，這不是天方夜譚，也許這樣的故事在不久的將來就會發(fā)生在真實世界中。

雖然目前的情況看起來還沒有那么可怕，沒有智商，或者只有三五歲小孩智商的機器人，對人類的危害幾乎可以忽略不計。掃地、擦窗、陪伴老人和兒童、幼教等等功能單一的機器人進入家庭，早已不是什么新鮮事，也沒聽到這些機器人對人類產(chǎn)生過哪些危害。但是，隨著人工智能技術(shù)的不斷提升，機器人的功能也越來越強大，他們在給我們的孩子、我們的家庭帶來了越來越多新奇體驗的同時，我們也必須開始思考，機器人進入家庭會帶來哪些潛在的風(fēng)險，我們需要如何提前預(yù)見和提防？

“這個時代既讓我們驚喜，也讓我們惶恐。我們驚喜的是機器人不知道會給我們帶來怎樣的幸福感，惶恐的是不知道它會給我們帶來怎樣的危險。”王珂是中國教育機器人聯(lián)盟主席、北京智能聯(lián)盟科技有限公司董事長，從事機器人教育工作6年后，他發(fā)出了這樣的感慨。

機器人教育已經(jīng)是一個規(guī)?？捎^的產(chǎn)業(yè)，僅中國教育機器人聯(lián)盟就已經(jīng)有1．2萬家機器人培訓(xùn)機構(gòu)，每年培訓(xùn)的學(xué)員高達300萬－500萬。機器人培訓(xùn)是寓教于樂的典型案例。王珂發(fā)現(xiàn)，孩子們在玩機器人、和機器人互動的時候，有著發(fā)自內(nèi)心的喜悅。他們會非常主動地通過拼裝教具，完成對機器人培訓(xùn)課程的學(xué)習(xí)，幾乎無需家長和老師的督促。這就是機器人進入家庭的基礎(chǔ)，越來越多的孩子開始接受機器人，喜愛機器人。

不久前，法制晚報社、北京阿西莫夫智能科技發(fā)展有限公司聯(lián)合北京進化者機器人科技有限公司策劃了一個機器人進入名人家庭的體驗活動，在為期三個月的體驗期內(nèi)，機器人小胖和這些家庭的小朋友朝夕相處，也給大家?guī)砹撕芏嘤幸娴乃伎肌?/p>

中國女排國家隊員宋妮娜是此次參與體驗的家庭之一。她欣喜地表示，沒想到這個小小的機器人對她6歲的兒子有這么大的吸引力，除了可以幫助孩子學(xué)習(xí)，幫助他算數(shù)學(xué)題、背唐詩外，還有空氣凈化器的功能?，F(xiàn)在每天放學(xué)后，宋妮娜會給兒子規(guī)定，“如果你表現(xiàn)好，我會讓你跟小胖玩一會”，他每天在學(xué)前班和回家寫作業(yè)的表現(xiàn)真的越來越好了。機器人給了他很大的鼓勵。

中國人民大學(xué)哲學(xué)院教授、博士生導(dǎo)師葛晨虹經(jīng)過體驗也認為，現(xiàn)在機器人的功能超出了她的想象，不僅集成了很多電器的功能，比如播放音樂和新聞、凈化空氣，還有很強的教育功能，而且可以讓孩子在很長時間內(nèi)保持學(xué)習(xí)的興趣。她建議，在幼兒教育方面，還應(yīng)該開發(fā)更多功能，并把規(guī)則意識、禮貌意識，公德意識等好的道德素質(zhì)植入到里面。當然，如果能夠再進一步，把社會所需要的人格素質(zhì)、人文素質(zhì)等內(nèi)涵規(guī)則植入到機器人中，形成更好的人機互動，解決孤寡老人的情感陪護難題，就更好了。每個人的家庭面積都是有限的，將所有功能集成為一體，應(yīng)該是一個重要方向。

阿西莫夫曾經(jīng)提出過著名的機器人三原則：第一，機器人不能傷害人類；第二，在不傷害人類基礎(chǔ)上，機器人要服從人類；第三；機器人要在遵循前兩條的基礎(chǔ)上保護好自己。

隨著智能技術(shù)的發(fā)展，現(xiàn)在已經(jīng)沒有辦法解決AI技術(shù)發(fā)展之后帶來的法律問題。

電影《絕對控制》就為我們展現(xiàn)了一個失去人類控制的機器人可能給人類生活帶來的毀滅性打擊。電影中還有一個與大家休戚相關(guān)的問題，那就是隱私泄露——主人公女兒洗澡的照片全部泄露出去了。機器人一旦進入家庭，作為一個家庭成員與家人朝夕相處，就不可避免地看到和聽到很多家庭隱私。機器人是有眼鏡有耳朵的，如何才能保證機器人掌握的信息不被非法利用。如果機器人自主地，或者收人控制地泄露家人隱私，那么整個人工智能行業(yè)都將迎來嚴峻的考驗。“一旦人類失去了對機器人的信任的話，就可能跟這個行業(yè)永遠說拜拜不遠了，重塑關(guān)系會很漫長。”

法制晚報社法律專家、法律問題解讀網(wǎng)絡(luò)紅人李奎老師表示，這是一個非常值得全行業(yè)深入探討的法律問題。目前美國的IT和智能技術(shù)如此發(fā)達，也還沒有這方面的法律規(guī)定。機器人的智能不是靠它自己，實際是通過它背后的網(wǎng)絡(luò)系統(tǒng)在不斷的升級進化。一旦它超出了用戶的操作范圍，或者是系統(tǒng)被人為侵入，該怎么保護用戶的利益不受損害。如果萬一出現(xiàn)了機器人傷害兒童的行為怎么辦，機器人的生產(chǎn)商、研發(fā)機構(gòu)，銷售單位、安裝單位，或者運營商要不要承擔相應(yīng)的法律責(zé)任，如何劃分責(zé)任，這都是值得思考的法律問題。

目前，國內(nèi)已經(jīng)有好幾百家機器人企業(yè)，但并沒有一套統(tǒng)一的頂層控制系統(tǒng)，各種標準也并沒有建立起來。