OpenAI 創(chuàng)始人：通用人工智能十年超越人類(lèi)專(zhuān)業(yè)水平

據(jù)業(yè)內(nèi)媒體報(bào)道，上周六在北京舉辦的 2023 智源人工智能大會(huì)上，OpenAI 聯(lián)合創(chuàng)始人兼 CEO 山姆阿爾特曼(Sam ·ltman)以視頻連線(xiàn)的方式發(fā)表演講，并表示通用人工智能十年就會(huì)超越人類(lèi) 90 年代初的專(zhuān)業(yè)水平。

阿爾特曼認(rèn)為，世界的注意力主要集中在解決當(dāng)今的人工智能問(wèn)題上，很多問(wèn)題的解決非常迫切。人工智能能力正在迅速增長(zhǎng)，現(xiàn)在需要負(fù)責(zé)任地將其應(yīng)用到世界中去，通用人工智能(AGI)最終可能超過(guò)人類(lèi)最大體量公司的總體生產(chǎn)力。

阿爾特曼表示 AI 正在快速變得強(qiáng)大，全球合作的利益變得前所未有地重要，一定要共同合作實(shí)現(xiàn)目標(biāo)并共同管理風(fēng)險(xiǎn)，否則 AI 系統(tǒng)可能會(huì)通過(guò)提供不平衡的建議來(lái)破壞整個(gè)集體系統(tǒng)，推進(jìn)通用人工智能安全也是 AI 行業(yè)最重要領(lǐng)域之一。

阿爾特曼表示行業(yè)必須為開(kāi)發(fā)和部署可能引發(fā)的問(wèn)題負(fù)起責(zé)任，其中最重要的兩個(gè)領(lǐng)域是：一，建立起包容的國(guó)際準(zhǔn)則和標(biāo)準(zhǔn)，并在所有國(guó)家對(duì) AGI 的使用中建立平等、統(tǒng)一的防護(hù)措施;二，需要國(guó)際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立對(duì)越來(lái)越強(qiáng)大的AGI系統(tǒng)安全開(kāi)發(fā)的信任。

據(jù)悉，阿爾特曼當(dāng)初針對(duì) GPT-4 的訓(xùn)練和部署花費(fèi)了八個(gè)月的時(shí)間來(lái)預(yù)判風(fēng)險(xiǎn)以及應(yīng)對(duì)策略，但對(duì)于更高級(jí)的系統(tǒng)來(lái)說(shuō)仍是一個(gè)尚未解決的問(wèn)題，需要新的技術(shù)方法以及加強(qiáng)治理監(jiān)督，未來(lái)面對(duì)一個(gè)十萬(wàn)行二進(jìn)制代碼的 AGI 系統(tǒng)，人類(lèi)是無(wú)法完全監(jiān)督的。

對(duì)此，阿爾特曼表示 OpenAI 正在投資新的方向，第一種是可擴(kuò)展監(jiān)督，嘗試使用 AI 系統(tǒng)來(lái)協(xié)助人類(lèi)監(jiān)督其他 AI 系統(tǒng);第二是更好地理解模型內(nèi)部發(fā)生的事情，比如用 GPT-4 來(lái)解釋計(jì)算機(jī)的復(fù)雜狀態(tài)，最終的目標(biāo)是訓(xùn)練 AI 系統(tǒng)具備更好的優(yōu)化自身的能力。