可信可用的人工智能是怎樣的

在進(jìn)博會(huì)期間，安永1大中華區(qū)數(shù)字化咨詢服務(wù)合伙人吳顯光于安永展臺(tái)上以“可信可用的人工智能”為主題為來賓進(jìn)行了分享，現(xiàn)場(chǎng)觀眾反響熱烈。

我們也在進(jìn)博會(huì)前夕針對(duì)這個(gè)話題對(duì)他進(jìn)行了專訪，請(qǐng)點(diǎn)擊下方視頻和我們一起看看他分享的獨(dú)到觀察。

通過本文。您可以詳細(xì)了解到底什么是可信可用的人工智能以及它可以為我們帶來的好處又有哪些？

什么是人工智能？

人工智能（AI）不是一種單一的技術(shù)，而是多種方法和工具的集合，它有很多子領(lǐng)域，可被應(yīng)用于豐富的場(chǎng)景。我們通常會(huì)說“實(shí)施”技術(shù)和“建造”機(jī)器人，但是對(duì)于人工智能，我們會(huì)說，“應(yīng)用”。

一般來說，人工智能產(chǎn)業(yè)有三個(gè)層次，由下至上分別是提供算力的基礎(chǔ)層、提供算法模型的技術(shù)層和應(yīng)用層，其中，數(shù)據(jù)是AI發(fā)展的必備條件。具體來說，基礎(chǔ)層提供的是包含人工智能芯片、傳感器等的計(jì)算能力，它決定著完成效率；技術(shù)層是依托算法和數(shù)據(jù)開發(fā)出面向不同領(lǐng)域的技術(shù)，包括計(jì)算機(jī)視覺、自然語言處理等；應(yīng)用層則最貼近我們的日常生活，例如無人機(jī)、機(jī)器人、自動(dòng)駕駛等都是常見的應(yīng)用層用例，是具體的產(chǎn)品、服務(wù)或整體解決方案。

可用人工智能

在這場(chǎng)AI競(jìng)賽中，企業(yè)面臨著挑戰(zhàn)和機(jī)遇，同時(shí)，多數(shù)人都對(duì)AI表達(dá)出了較樂觀的態(tài)度。安永在今年三月開展的一項(xiàng)針對(duì)美國(guó)的CEO和企業(yè)領(lǐng)導(dǎo)者的調(diào)研表明，85%的受訪者對(duì)AI持積極態(tài)度，87%的受訪者表示在今年投資了AI項(xiàng)目，

盡管人工智能可以實(shí)現(xiàn)的一些目標(biāo)還有待觀察，但許多企業(yè)正經(jīng)歷其帶來的變革性結(jié)果。例如在安永，我們的團(tuán)隊(duì)創(chuàng)建了一個(gè)名為EY Document Intelligence的工具，它可以提高讀取海量合同的速度和準(zhǔn)確度，使審計(jì)團(tuán)隊(duì)能夠更專注于其他價(jià)值創(chuàng)造的活動(dòng)。

由此我們可以窺見一個(gè)不爭(zhēng)的事實(shí)，人工智能技術(shù)正在幫助企業(yè)實(shí)現(xiàn)更好的工作方式——技術(shù)增強(qiáng)人類創(chuàng)造力，人類能夠騰出時(shí)間進(jìn)行創(chuàng)新——這是一種良好的正向循環(huán)。

同時(shí)，根據(jù)最新的IDC Spending Guide，全球人工智能系統(tǒng)支出將在2019年增長(zhǎng)至近358億美元，相較于2018年增長(zhǎng)44%，隨著各行業(yè)積極投資利用AI軟件能力的項(xiàng)目，這個(gè)數(shù)字將在2022年增加至一倍以上。為了在全球范圍內(nèi)展開競(jìng)爭(zhēng)，創(chuàng)新和充分利用人工智能應(yīng)該成為全球各行業(yè)幾乎所有企業(yè)的優(yōu)先事項(xiàng)。

可信人工智能

AI是具有顛覆性的技術(shù)，其改變世界的潛力是無限的。AI可以改善復(fù)雜的決策制訂流程，這使其成為了各個(gè)行業(yè)轉(zhuǎn)型的催化劑。除了可以更有效、更高效地完成繁重且費(fèi)時(shí)的任務(wù)外，AI還可以賦予管理團(tuán)隊(duì)前所未有的深刻洞察。但與此同時(shí)，AI技術(shù)也會(huì)催生一系列道德、法律和技術(shù)風(fēng)險(xiǎn)，需要企業(yè)妥善處理。

33%的受訪者認(rèn)為員工信任是AI實(shí)施的最大障礙之一，即使受訪者完全或一定程度上信任AI。除此之外，我們發(fā)現(xiàn)，技術(shù)、風(fēng)險(xiǎn)、人員能力和意識(shí)等都成為了人們信任AI實(shí)施的主要限制因素，尤其在技術(shù)方面，技術(shù)的可靠性和性能、技術(shù)的安全性和堅(jiān)固性、技術(shù)治理與監(jiān)督、AI應(yīng)用相關(guān)的倫理道德問題都成為了關(guān)鍵因素。

現(xiàn)有的外部監(jiān)管機(jī)構(gòu)對(duì)AI的控制力度遠(yuǎn)遠(yuǎn)跟不上AI技術(shù)的發(fā)展速度。企業(yè)在沒有強(qiáng)有力的治理下使用AI，會(huì)面臨嚴(yán)重的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)和威脅不僅復(fù)雜，還會(huì)隨著AI技術(shù)的發(fā)展不斷演變。為了確保AI的使用安全，我們提倡在最初的AI設(shè)計(jì)中就將信任原則嵌入。面對(duì)不斷演變的威脅，越早將信任原則嵌入AI中，越能未雨綢繆，在確保AI隱私和安全的前提下收獲最大的回報(bào)，使AI技術(shù)成為推動(dòng)企業(yè)未來發(fā)展的強(qiáng)大動(dòng)力。

對(duì)企業(yè)來說，AI既是管理風(fēng)險(xiǎn)的工具，也是產(chǎn)生新風(fēng)險(xiǎn)的來源，需要妥善管理。這些風(fēng)險(xiǎn)不僅會(huì)損害對(duì)這些系統(tǒng)的信任，還會(huì)損害對(duì)產(chǎn)品、品譽(yù)的信任。因此無論何時(shí)采用AI技術(shù)，企業(yè)都應(yīng)該識(shí)別各項(xiàng)AI技術(shù)應(yīng)用的風(fēng)險(xiǎn)。

安永的可信的人工智能框架，幫助企業(yè)了解新的和不斷擴(kuò)大的風(fēng)險(xiǎn)，企業(yè)可以根據(jù)他們?cè)贏I產(chǎn)業(yè)鏈中的角色和職責(zé)開展治理活動(dòng)。安永的可信AI框架從性能、無偏、透明、韌性、可解釋五個(gè)方面強(qiáng)調(diào)了維持信任所必備的屬性。

要被用戶接受，AI必須是可以被理解的，這意味著AI的決策框架需要可解釋和驗(yàn)證。它還必須按預(yù)期運(yùn)行，無偏見以及安全。

性能是指，AI的結(jié)果與利益相關(guān)者的期望一致，且其性能達(dá)到期望的精確度和一致性水平。

無偏是指，通過AI設(shè)計(jì)識(shí)別并解決由開發(fā)團(tuán)隊(duì)組成、數(shù)據(jù)和訓(xùn)練方法產(chǎn)生的固有偏見。AI系統(tǒng)的設(shè)計(jì)考慮所有受影響的利益相關(guān)者的需求，并對(duì)社會(huì)產(chǎn)生積極影響。

透明是指，給予與AI交互的最終用戶適當(dāng)?shù)耐ㄖ?，以及選擇交互程度的機(jī)會(huì)。根據(jù)采集和使用數(shù)據(jù)的要求，獲取用戶同意。

韌性是指，AI系統(tǒng)組件和算法本身使用的數(shù)據(jù)受到安全防護(hù)，避免未經(jīng)授權(quán)的訪問、損壞和/或?qū)剐怨簟?/p>

可解釋是指，AI的訓(xùn)練方法和決策標(biāo)準(zhǔn)可以被理解和記錄，并且可供人類操作者隨時(shí)挑戰(zhàn)和驗(yàn)證。

實(shí)際上，AI不是被實(shí)施，而是被應(yīng)用，并且當(dāng)AI應(yīng)用在三步創(chuàng)新法中時(shí)，將可實(shí)現(xiàn)可信AI。所謂“三步創(chuàng)新法”為：有目的的設(shè)計(jì)、謹(jǐn)慎監(jiān)督和敏捷治理。

有目的的設(shè)計(jì)是指，在設(shè)計(jì)和構(gòu)建系統(tǒng)時(shí)有目的地整合并適當(dāng)平衡自動(dòng)的、智能的和自主的能力，以促進(jìn)明確的定義業(yè)務(wù)目標(biāo)的發(fā)展，并考慮環(huán)境、約束、準(zhǔn)備程度和風(fēng)險(xiǎn)等。

謹(jǐn)慎監(jiān)督是指，持續(xù)調(diào)整優(yōu)化、關(guān)注和監(jiān)控系統(tǒng)，以提高性能的可靠性，降低識(shí)別和糾正偏差，加強(qiáng)透明度和包容性。

敏捷治理是指，跟蹤社會(huì)、監(jiān)管、聲譽(yù)和倫理領(lǐng)域暴露的問題，并報(bào)告給以下內(nèi)容的流程負(fù)責(zé)人：系統(tǒng)完整性、系統(tǒng)使用、架構(gòu)和內(nèi)嵌組件、數(shù)據(jù)采購(gòu)和管理、模型訓(xùn)練、監(jiān)控。

安永與華為今年一起合作撰寫了AI治理、安全與隱私白皮書，在這個(gè)過程中，我們做了大量的調(diào)研，雖然目前業(yè)界有AI治理原則、框架和指南，但一個(gè)企業(yè)具體應(yīng)該怎么做并沒有明確的指引。我們提出了企業(yè)應(yīng)從責(zé)任的角度出發(fā)來思考自身的AI治理，這對(duì)行業(yè)是非常有積極意義的。

AI的產(chǎn)品和應(yīng)用涉及廣泛的生態(tài)系統(tǒng)，涉及的市場(chǎng)參與者眾多，治理難度大、復(fù)雜度高。AI的每項(xiàng)產(chǎn)品/服務(wù)需要生態(tài)系統(tǒng)中不同市場(chǎng)參與者提供不同層次的支持，因此對(duì)AI的安全隱私治理也需要全行業(yè)共同合作，從自身責(zé)任的角度出發(fā)，根據(jù)企業(yè)自己的AI戰(zhàn)略和業(yè)務(wù)范疇確定自己的治理目標(biāo)和框架。我們根據(jù)業(yè)界現(xiàn)有的一些報(bào)告和研究，認(rèn)為AI生態(tài)系統(tǒng)中共有6種市場(chǎng)參與者，即消費(fèi)者/客戶、部署者、應(yīng)用開發(fā)者、解決方案提供者、數(shù)據(jù)收集者和立法者，讓我們從下往上看看每個(gè)角色應(yīng)當(dāng)承擔(dān)的責(zé)任。

立法者需要完善AI相關(guān)的法律和標(biāo)準(zhǔn)，明確利益相關(guān)方的責(zé)任。

數(shù)據(jù)收集者需要保障數(shù)據(jù)采集的合法合規(guī)，以及數(shù)據(jù)的質(zhì)量和安全等。

全棧解決方案提供者對(duì)方案的安全可控承擔(dān)主要責(zé)任，技術(shù)層主要包括預(yù)置模型的可解釋和可追溯、隱私保護(hù)特性、安全與健壯?；A(chǔ)層主要實(shí)現(xiàn)可信解決方案。

應(yīng)用開發(fā)者需要保障商業(yè)目標(biāo)實(shí)施，在開發(fā)定制模型時(shí)需要基于應(yīng)用目的選擇算法和定制模型，并持續(xù)調(diào)整更新。

部署者需要保障部署目的，并對(duì)部署過程中的安全隱私風(fēng)險(xiǎn)進(jìn)行管控。

消費(fèi)者/客戶需要遵循產(chǎn)品/服務(wù)說明書安全地使用產(chǎn)品和服務(wù)，并需要進(jìn)行一些授權(quán)，例如同意隱私條款、簽署授權(quán)合同等。

數(shù)據(jù)治理、隱私保護(hù)和勝任能力需要各方共同擔(dān)責(zé)。

可信而可用的人工智能

AI產(chǎn)品應(yīng)用的廣泛性導(dǎo)致了AI相關(guān)的利益方無法單獨(dú)對(duì)整個(gè)生態(tài)系統(tǒng)承擔(dān)所有責(zé)任，AI全生態(tài)的安全和隱私需要所有利益相關(guān)方都能夠重視，把安全和隱私融入AI整個(gè)產(chǎn)品生命周期，將安全和隱私納入首要工作標(biāo)準(zhǔn)。

同時(shí)，我們也希望AI生態(tài)中的所有企業(yè)都能從責(zé)任角度出發(fā)，開展自己的工作，并提供寶貴的建議和方案，互相了解、互相借鑒。只有AI產(chǎn)業(yè)鏈上的每個(gè)環(huán)節(jié)都做到安全和隱私保護(hù)，AI整體才能夠更加可靠可信。

在這里，我們呼吁AI產(chǎn)業(yè)鏈的所有利益相關(guān)者能積極為AI治理獻(xiàn)計(jì)獻(xiàn)策，共同努力，持續(xù)提升，共享AI裨益！

長(zhǎng)按并識(shí)別左側(cè)二維碼，訪問安永進(jìn)博會(huì)微站，掌握安永進(jìn)博會(huì)最新動(dòng)態(tài)。

本材料是為提供一般信息的用途編制，并非旨在成為可依賴的會(huì)計(jì)、稅務(wù)或其他專業(yè)意見。請(qǐng)向您的顧問獲取具體意見。