OpenAI前安全負(fù)責(zé)人離職加盟Anthropic，投入競爭對手懷抱

日前從OpenAI辭職的前首席安全研究員Jan Leike在5月28日宣布，正式加盟AI初創(chuàng)公司Anthropic。后者也被視為是OpenAI的最大競爭對手。

Leike于5月15日宣布了從OpenAI離職的決定。令人驚訝的是，短短幾天之后，OpenAI就解散了他共同領(lǐng)導(dǎo)的超級聯(lián)盟小組。

該研究團(tuán)隊成立于2023年，專注于AI長期風(fēng)險的探索與研究。而就在Leike離職的前一天，OpenAI的聯(lián)合創(chuàng)始人Ilya Sutskever也宣布離職。

Leike在社交媒體平臺X上表示：“我很高興能夠加入Anthropic AI，將繼續(xù)追求超級對齊的使命。我將帶領(lǐng)新的團(tuán)隊致力于可擴(kuò)展的監(jiān)督學(xué)習(xí)、從弱到強(qiáng)的泛化以及自動對齊技術(shù)的創(chuàng)新研究和探索?！?

Anthropic的發(fā)展得到了亞馬遜的支持。亞馬遜已經(jīng)承諾為Anthropic的少數(shù)股權(quán)提供高達(dá)40億美元的資金，幫助該公司在AI領(lǐng)域取得更大的突破。

在離職之后，Leike在一篇帖子中寫道：“決定從OpenAI離職是我做出的最艱難的決定之一，因為我們迫切需要了解如何引導(dǎo)和控制比我們聰明得多的AI系統(tǒng)?！?

自從OpenAI于2022年底推出ChatGPT以來，AI安全在科技行業(yè)的重要性迅速提高，催生了AI產(chǎn)品和投資的熱潮。而一些業(yè)內(nèi)人士表示擔(dān)心，一些科技公司在沒有充分考慮潛在的社會危害的情況下，過于急迫地向公眾發(fā)布強(qiáng)大的AI產(chǎn)品。

OpenAI在5月28日宣布設(shè)立了一個全新的安全和保障委員會，該委員會由包括該公司CEO薩姆·奧特曼在內(nèi)的高層管理團(tuán)隊領(lǐng)導(dǎo)，主要職責(zé)是向董事會提供有關(guān)“OpenAI項目和運(yùn)營的安全與保障決策”的建議。

Anthropic由Dario Amodei和Daniela Amodei兄妹以及OpenAI的其他前高管于2021年共同創(chuàng)立。今年3月，Anthropic成功推出了ChatGPT的競爭對手Claude 3，進(jìn)一步鞏固了其在AI領(lǐng)域的地位。

除了獲得亞馬遜的投資之外，Anthropic還獲得了谷歌、Salesforce和Zoom等科技巨頭的資金支持。