OpenAI 真的 Open 了，GPT-3 使用將更加開(kāi)放

時(shí)間：2021-12-07 11:15:12

關(guān)鍵字： pen AI

手機(jī)看文章

掃描二維碼
隨時(shí)隨地手機(jī)看文章

[導(dǎo)讀]整理?|禾木木出品|?AI科技大本營(yíng)（ID:rgznai100）OpenAI，這次真的要Open了。OpenAI在2020年6月開(kāi)放了GPT-3API接口，但只是開(kāi)放商用，隨即吸引了大量的公司：客服、視頻游戲、輔導(dǎo)服務(wù)和心理健康應(yīng)用程序等。近日，OpenAI宣布，將取消訪問(wèn)其自然...

整理 | 禾木木出品 | AI科技大本營(yíng)（ID:rgznai100）OpenAI，這次真的要 Open 了。OpenAI 在 2020 年 6 月開(kāi)放了 GPT-3 API 接口，但只是開(kāi)放商用，隨即吸引了大量的公司：客服、視頻游戲、輔導(dǎo)服務(wù)和心理健康應(yīng)用程序等。近日，OpenAI宣布，將取消訪問(wèn)其自然語(yǔ)言處理程序GPT-3 API 的等候名單。

GPT-3 是一種大型語(yǔ)言模型，可以自動(dòng)編寫電子郵件和文章、撰寫詩(shī)歌、跨十幾種編程語(yǔ)言創(chuàng)建代碼等等。從11月18日開(kāi)始，對(duì)于受任何支持國(guó)家/地區(qū)的開(kāi)發(fā)者都可以注冊(cè)，開(kāi)始將該模型與他們的應(yīng)用程序或服務(wù)集成。由 OpenAI 構(gòu)建，GPT-3 及其微調(diào)衍生產(chǎn)品（如 Codex）可以進(jìn)行定制，來(lái)處理需要深入理解語(yǔ)言的應(yīng)用程序，從而將自然語(yǔ)言轉(zhuǎn)換為軟件代碼，到匯總大量文本并生成問(wèn)題答案。自 2020 年以來(lái)，GPT-3 一直通過(guò) OpenAI API 公開(kāi)提供；截至 3 月，OpenAI 表示有成千上萬(wàn)的開(kāi)發(fā)者在 300 多個(gè)不同的應(yīng)用程序中使用，并且每天產(chǎn)生 45 億個(gè)單詞。根據(jù) OpenAI 的說(shuō)法，“安全進(jìn)展”使 GPT-3 從內(nèi)測(cè)轉(zhuǎn)向測(cè)試版成為可能。在過(guò)去的一年里，該公司開(kāi)發(fā)了用于“更真實(shí)”的回答問(wèn)題端點(diǎn)，提供了一個(gè)內(nèi)容過(guò)濾器來(lái)幫助減少濫用，并實(shí)施了表面上更符合人類指令的模型—— Instruct 模型。例如，OpenAI 聲稱，具有共享基礎(chǔ) GPT-3 的自然語(yǔ)言生成能力的指令模型更善于理解和遵循，“用幾句話向 6 歲兒童解釋登月”這樣的指令?；卮饐?wèn)題的端點(diǎn)允許開(kāi)發(fā)者為那些需要基于真實(shí)來(lái)源（如文檔和知識(shí)庫(kù)）的“高準(zhǔn)確度”生成的應(yīng)用程序提供額外的上下文。內(nèi)容過(guò)濾器的目的是檢測(cè)來(lái)自 API 生成的敏感性文本。OpenAI 在一篇博客中寫道：“我們相信，通過(guò)一個(gè)易于使用的 API 開(kāi)放對(duì)這些模型的訪問(wèn)，更多的開(kāi)發(fā)者將找到創(chuàng)造性的方法，將人工智能應(yīng)用于大量有用的應(yīng)用和開(kāi)放問(wèn)題?！薄盀榱舜_保 API 支持的應(yīng)用程序是負(fù)責(zé)任地方式構(gòu)建的，我們會(huì)提供工具并幫助開(kāi)發(fā)人員使用最佳實(shí)踐，以便他們能夠快速、安全地將應(yīng)用程序投入生產(chǎn)。隨著我們系統(tǒng)的發(fā)展，我們努力提高對(duì)于安全措施的能力，我們期望繼續(xù)為開(kāi)發(fā)者簡(jiǎn)化流程，完善我們的使用指南，并隨著時(shí)間的推移允許更多的用例。”“我們的政策一直禁止以不符合我們章程中描述的原則的方式使用我們的 API，并且仍然禁止仇恨言論之類的內(nèi)容......我們一直在努力使我們的內(nèi)容過(guò)濾器更加強(qiáng)大，我們打算允許可接受的隨著我們系統(tǒng)的改進(jìn)，可以在某些類別中使用，”O(jiān)penAI 寫道?！拔覀兒芨吲d能夠?yàn)楦嗟拈_(kāi)發(fā)者開(kāi)放 GPT-3 的安全措施。隨著我們的安全措施不斷改進(jìn)，我們將擴(kuò)展 API 的使用方式，同時(shí)進(jìn)一步改善我們的用戶體驗(yàn)?！?/span>

人工智能保障措施

但 OpenAI 承認(rèn)，這些改進(jìn)并不能解決大型語(yǔ)言模型中固有的毒性問(wèn)題。GPT-3 在技術(shù)上還遠(yuǎn)遠(yuǎn)不夠完事，該模型是在超過(guò) 600GB 的網(wǎng)絡(luò)文本上進(jìn)行訓(xùn)練的，其中一部分來(lái)自具有性別、種族、身體和宗教偏見(jiàn)的社區(qū)。研究表明，與其他大型語(yǔ)言模型一樣，它會(huì)放大訓(xùn)練數(shù)據(jù)的偏差。在一篇論文中，米德?tīng)柌飮?guó)際研究所的恐怖主義、極端主義和反恐中心發(fā)現(xiàn)， GPT-3 可以生成“有影響力的”文本，可以將人們激進(jìn)到極右的極端主義思想。喬治城大學(xué)( Georgetown University )的一個(gè)研究小組使用 GPT-3 生成了錯(cuò)誤信息，包括圍繞虛假敘述的故事、為推動(dòng)虛假觀點(diǎn)而修改的文章，以及針對(duì)特定錯(cuò)誤信息點(diǎn)的推文。最近的工作表明，語(yǔ)言模型可能難以理解少數(shù)民族方言的某些方面，迫使使用模型的人轉(zhuǎn)向“白人英語(yǔ)”以確保模型可以繼續(xù)為他們工作。隨著 API 的 Beta 版可用，OpenAI 更新了其內(nèi)容指南，以闡明其 API 不能用于生成哪些類型的內(nèi)容，例如與政治、暴力、騷擾、仇恨、垃圾郵件、惡意軟件、欺騙和自我傷害有關(guān)的內(nèi)容。該公司表示，它正在與一些客戶測(cè)試特定內(nèi)容類別的“目標(biāo)過(guò)濾器”，并禁止其 API 上的某些類型的內(nèi)容，如成人內(nèi)容，其系統(tǒng)“目前無(wú)法可靠地識(shí)別有害的可接受的使用?！?/span>OpenAI 寫道“我們的政策始終禁止不遵守我們章程中描述的原則的方式使用我們的 API，像仇恨言論這樣的內(nèi)容會(huì)一直被禁止……我們正在不斷努力，使我們的內(nèi)容過(guò)濾器更加強(qiáng)大，隨著系統(tǒng)的改進(jìn)，我們打算允許在某些類別內(nèi)可接受的使用。”“我們很高興有保障措施為更多的開(kāi)發(fā)者開(kāi)放 GPT-3 。隨著我們的安全措施不斷改進(jìn)，我們將擴(kuò)展 API 的使用方法，同時(shí)進(jìn)一步改進(jìn)用戶的體驗(yàn)?！?/span>GPT-3 的廣泛應(yīng)用是在微軟推出 Azure OpenAI 服務(wù)之后推出的，該服務(wù)旨在讓企業(yè)能夠訪問(wèn) GPT-3 及其衍生產(chǎn)品，以及安全、合規(guī)、治理和其他以業(yè)務(wù)為中心的功能。微軟與 OpenAI 關(guān)系密切，2020 年已向該公司投資 10 億美元，并獨(dú)家授權(quán) GPT-3 為 Azure 客戶開(kāi)發(fā) AI 解決方案。這次的 OpenAI 是真的open了，你怎么看呢？