分析人工智能技術(shù)的應(yīng)用有哪些風(fēng)險(xiǎn)？

近幾十年來，人工智能經(jīng)歷了真正的繁榮，在語音識(shí)別和自動(dòng)駕駛汽車等各個(gè)領(lǐng)域都有應(yīng)用。但從史蒂芬霍金(幾年前去世)到埃隆馬斯克和比爾蓋茨的知名人士警告我們?nèi)斯ぶ悄芸赡艽嬖诘娘L(fēng)險(xiǎn)：從“奇點(diǎn)”或機(jī)器完全控制人類的危險(xiǎn)到網(wǎng)絡(luò)——攻擊。幾項(xiàng)研究強(qiáng)調(diào)了機(jī)器學(xué)習(xí)作為網(wǎng)絡(luò)犯罪媒介的隱患：對(duì)數(shù)字安全的威脅不僅涉及隱私和數(shù)據(jù)盜竊，還涉及完全連接的生態(tài)系統(tǒng)中人們的功能安全。這項(xiàng)研究由來自牛津、劍橋、斯坦福、耶魯和巴斯等多所大學(xué)的眾多專家進(jìn)行。

人工智能和相關(guān)技術(shù)的出現(xiàn)為網(wǎng)絡(luò)安全帶來了新的潛力，這實(shí)際上是一把雙刃劍，如果落入壞人之手，可能會(huì)變得危險(xiǎn)。多年來，擁有完美的網(wǎng)絡(luò)安全策略或解決方案的重要性日益增加。所有功勞都?xì)w功于智能設(shè)備的普及。此外，由于不斷增長(zhǎng)的端點(diǎn)始終連接到 IoT 生態(tài)系統(tǒng)，網(wǎng)絡(luò)犯罪分子現(xiàn)在有大量機(jī)會(huì)滲透設(shè)備。由于存儲(chǔ)的數(shù)據(jù)量很大，大數(shù)據(jù)泄露可能在系統(tǒng)性能和功能安全方面造成毀滅性后果。這是因?yàn)榇笠?guī)模的數(shù)據(jù)安全漏洞可能會(huì)影響大量的人，其后果不僅是從聲譽(yù)的角度來看，但會(huì)產(chǎn)生巨大的法律影響。組織需要確保他們?cè)跀?shù)據(jù)有用性和隱私之間取得適當(dāng)?shù)钠胶?。在存?chǔ)數(shù)據(jù)之前，應(yīng)刪除用戶的任何唯一標(biāo)識(shí)符。這本身就是一個(gè)安全挑戰(zhàn)，因?yàn)閯h除可能不足以確保數(shù)據(jù)在未來保持匿名。

隨著組織存儲(chǔ)更多數(shù)據(jù)，他們面臨著硬件和軟件加密的挑戰(zhàn)。如果云需要執(zhí)行分析，則用戶無法加密發(fā)送數(shù)據(jù)。一種解決方案是使用“完全同態(tài)加密”(FHE)，它允許存儲(chǔ)在云中的數(shù)據(jù)對(duì)加密數(shù)據(jù)執(zhí)行操作。當(dāng)數(shù)據(jù)被解碼時(shí)，對(duì)純文本數(shù)據(jù)執(zhí)行的操作的結(jié)果將是相同的。因此，云將能夠在不知道明文數(shù)據(jù)的情況下對(duì)加密數(shù)據(jù)執(zhí)行操作。行業(yè)專家分析了黑客和安全專業(yè)人員對(duì)機(jī)器學(xué)習(xí)算法的大量使用。一場(chǎng)無拘無束的戰(zhàn)斗，將拉緊企業(yè)防御，如果處理得當(dāng)，還可用于對(duì)特定目標(biāo)進(jìn)行系統(tǒng)內(nèi)攻擊，從錯(cuò)誤中吸取教訓(xùn)，成為一個(gè)不可戰(zhàn)勝的系統(tǒng)。在漏洞搜索中與自動(dòng)化共生將促使網(wǎng)絡(luò)犯罪分子加快實(shí)施病毒的操作，并隨后搜索進(jìn)一步的系統(tǒng)弱點(diǎn)。例如，網(wǎng)絡(luò)犯罪分子可以使用這些功能掃描軟件以查找以前未知的漏洞，并將其用于非法目的。機(jī)器學(xué)習(xí)可以提供對(duì)不良行為的洞察，補(bǔ)充通過其他方式獲得的情報(bào)。它還允許更大的敏捷性和靈活性，因?yàn)榛? AI 的工具通常比其他工具更快地部署和更快地交付操作效果。畢竟，智能安全系統(tǒng)可以戰(zhàn)勝任何復(fù)雜的威脅，

由于世界各地的高科技公司和政府的投資，人工智能已經(jīng)成為一個(gè)競(jìng)爭(zhēng)激烈的行業(yè)，并且正在迅速擴(kuò)張。Markets and Markets 最近的一項(xiàng)研究預(yù)測(cè)，未來幾年的復(fù)合年均增長(zhǎng)率 (CAGR) 將超過 60%，價(jià)值將超過 150 億美元。硬件創(chuàng)新也出現(xiàn)了強(qiáng)勁增長(zhǎng)，這些創(chuàng)新提高了計(jì)算機(jī)的操作能力，能夠在不同的 GPU 平臺(tái)上執(zhí)行更復(fù)雜的模型。

大多數(shù)單獨(dú)的人工智能技術(shù)將用于自動(dòng)化各種機(jī)器人控制的任務(wù)，這些任務(wù)能夠做出可能對(duì)整個(gè)數(shù)字生態(tài)系統(tǒng)產(chǎn)生負(fù)面影響的關(guān)鍵決策。自動(dòng)化的智能機(jī)器可以評(píng)估最有可能受到攻擊的目標(biāo)。使用先進(jìn)技術(shù)，人工智能可以通過操縱系統(tǒng)和禁用安全組件來隱藏“網(wǎng)絡(luò)感染”。一旦系統(tǒng)被感染，它們就可以用來傳播各種計(jì)算機(jī)病毒，包括高級(jí)形式的勒索軟件。

目前，大多數(shù)網(wǎng)絡(luò)犯罪組織通過修改其源代碼來使用各種知名的勒索軟件系列來產(chǎn)生不同的樣本。以類似的方式，人工智能技術(shù)將能夠創(chuàng)建自己的自定義惡意軟件，可能從頭開始并通過實(shí)施先進(jìn)的機(jī)器學(xué)習(xí)算法。物聯(lián)網(wǎng)設(shè)備(例如醫(yī)療設(shè)備)很可能是主要關(guān)注點(diǎn)，它們背后的資源和數(shù)據(jù)也是如此。要考慮的案例不僅關(guān)注計(jì)算機(jī)病毒，還關(guān)注與機(jī)器人和無人機(jī)相關(guān)的方面。從用于消費(fèi)或工業(yè)活動(dòng)的簡(jiǎn)單機(jī)器人，到無人機(jī)和未來用于民用的飛行出租車，這些都可能變成潛在的危險(xiǎn)武器并容易受到遠(yuǎn)程操縱。

許多工程師和分析師估計(jì)，下一次主要的人工智能支持攻擊可能會(huì)在幾年內(nèi)發(fā)生。最大的問題仍然是身份盜用、拒絕服務(wù)攻擊和密碼破解。在日益數(shù)字化的世界中，此類攻擊可能會(huì)削弱許多人的權(quán)力并影響公共機(jī)構(gòu)的行政活動(dòng)。人工智能可能是魚叉式網(wǎng)絡(luò)釣魚攻擊的關(guān)鍵，收集和處理數(shù)據(jù)庫以輕松鏈接來自不同來源的信息并發(fā)起最佳攻擊。許多攻擊可以與人工智能協(xié)調(diào)，這可能會(huì)混淆醫(yī)生的診斷。惡意 AI 可用于在理論上無法衡量的規(guī)模上協(xié)調(diào)黑客攻擊。安全專家推測(cè)，最大的危險(xiǎn)可能來自利用機(jī)器的巨大計(jì)算能力創(chuàng)建新病毒樣本的人工智能。通過設(shè)計(jì)，他們可以分析當(dāng)前的病毒弱點(diǎn)并生成高級(jí)表格。第一個(gè)缺點(diǎn)可能是計(jì)算成本高。但隨著時(shí)間的推移，它們將不可避免地減少。許多組織已經(jīng)開始與人工智能惡意軟件作斗爭(zhēng)，為未來的潛在攻擊做準(zhǔn)備，網(wǎng)絡(luò)安全專家正在了解這一風(fēng)險(xiǎn)，但隨著人工智能理論上的無限潛力，管理變得復(fù)雜并嚴(yán)重危及 IT 安全。此外，人工智能有望支持物理、化學(xué)和醫(yī)學(xué)各個(gè)領(lǐng)域的研究。