Open AI 全球路演概述：重申不針對(duì)API客戶數(shù)據(jù)進(jìn)行培訓(xùn)

在2023年5-6月，SAM帶領(lǐng)openai團(tuán)隊(duì)路演了6大洲（25個(gè)城市），與用戶、開(kāi)發(fā)者、決策者及大眾進(jìn)行交流。

學(xué)到了什么

我們的用戶和開(kāi)發(fā)人員已在構(gòu)建有價(jià)值的應(yīng)用程序。在旅途中看到的創(chuàng)造力給了我們靈感。在尼日利亞，高中生告訴我們他們?nèi)绾问褂肅hatGPT來(lái)幫助分解復(fù)雜的學(xué)習(xí)主題。在新加坡，公務(wù)員是整合開(kāi)放人工智能工具提供公共服務(wù)更有效率。在法國(guó)，一家連鎖雜貨店正在使用我們的工具幫助顧客減少食物浪費(fèi)；開(kāi)發(fā)者正在使用我們的工具為了使代碼更加高效和安全。(我們渴望聽(tīng)到更多關(guān)于公司提供的AI服務(wù)如何產(chǎn)生影響的信息)

對(duì)于人工智能在社區(qū)中的影響，人們有共同的希望和擔(dān)憂。

許多人分享了他們對(duì)這些工具的承諾的熱情，以擴(kuò)大和改善個(gè)性化教育和醫(yī)療保健的獲取，促進(jìn)經(jīng)濟(jì)增長(zhǎng)，并使所有專業(yè)人員能夠減少管理任務(wù)。世界各地對(duì)代碼和服務(wù)的需求不斷增長(zhǎng)。同時(shí)，我們采訪的許多人提出了與錯(cuò)誤信息、經(jīng)濟(jì)轉(zhuǎn)移以及日益強(qiáng)大的模型的安全和安保風(fēng)險(xiǎn)有關(guān)的擔(dān)憂。

各地的政策制定者都在深入研究人工智能。

決策者專注于確保當(dāng)前工具的安全和有益部署，并認(rèn)真對(duì)待未來(lái)的潛力和風(fēng)險(xiǎn)。我們與全球數(shù)十位高級(jí)決策者和國(guó)家元首坐在一起，了解他們快速采用大型人工智能模型的方法；領(lǐng)導(dǎo)人希望最大化這一新技術(shù)為其公民帶來(lái)的好處，同時(shí)設(shè)置適當(dāng)?shù)淖o(hù)欄來(lái)管理其風(fēng)險(xiǎn)，包括來(lái)自現(xiàn)有技術(shù)的風(fēng)險(xiǎn)和我們預(yù)計(jì)隨著技術(shù)變得更加強(qiáng)大而出現(xiàn)的風(fēng)險(xiǎn)。我們采訪的政策制定者希望與領(lǐng)先的人工智能實(shí)驗(yàn)室進(jìn)行持續(xù)對(duì)話，并從他們那里獲得安全承諾，這是他們方法的一個(gè)關(guān)鍵要素，并支持探索一個(gè)全球框架來(lái)管理強(qiáng)大的未來(lái)人工智能系統(tǒng).

人們想更多地了解我們的核心價(jià)值觀。

這次旅行讓我們強(qiáng)化了我們的意圖。例如，一個(gè)常見(jiàn)的問(wèn)題是關(guān)于我們對(duì)客戶數(shù)據(jù)的使用，這給了我們重申這一點(diǎn)的機(jī)會(huì)，我們不針對(duì)API客戶數(shù)據(jù)進(jìn)行培訓(xùn)，以及ChatGPT用戶可以輕松退出也是。我們一直專注于建立周到的安全機(jī)制——不僅是為AGI，也是為我們今天推出的人工智能產(chǎn)品。我們將繼續(xù)深入投資，確保當(dāng)前系統(tǒng)的安全并根據(jù)用戶反饋進(jìn)行改進(jìn)。

下一步是什么

這次旅行幫助我們更好地理解世界各地用戶、開(kāi)發(fā)者和政府領(lǐng)導(dǎo)人的觀點(diǎn)?？紤]到他們的反饋，我們更加關(guān)注以下領(lǐng)域：

讓我們的產(chǎn)品更有用、更有影響力、更容易獲得。

這次旅行讓我們清楚地意識(shí)到，對(duì)于世界各地的用戶和開(kāi)發(fā)人員來(lái)說(shuō)，我們的產(chǎn)品是可訪問(wèn)的和有用的。正在努力改變，使人們更容易引導(dǎo)我們的模型做出反應(yīng)，反映更廣泛的個(gè)人需求和當(dāng)?shù)匚幕捅尘啊Ｎ覀冞€致力于提高英語(yǔ)以外的語(yǔ)言的性能，不僅考慮實(shí)驗(yàn)室基準(zhǔn)，還考慮我們的模型在對(duì)開(kāi)發(fā)人員最重要的真實(shí)部署場(chǎng)景中的準(zhǔn)確和高效程度，致力于繼續(xù)讓定價(jià)結(jié)構(gòu)為全球開(kāi)發(fā)者所接受。

進(jìn)一步開(kāi)發(fā)治理高能力基礎(chǔ)模型的最佳實(shí)踐。

隨著關(guān)于新的人工智能法律和法規(guī)的公開(kāi)辯論繼續(xù)進(jìn)行，我們將加倍努力，試點(diǎn)和完善具體的治理實(shí)踐，這些實(shí)踐專門針對(duì)像我們所產(chǎn)生的那些非常有能力的基礎(chǔ)模型，包括關(guān)鍵的安全工作流程，如預(yù)部署安全評(píng)估和對(duì)抗測(cè)試，以及讓人們能夠跟蹤人工智能生成內(nèi)容的來(lái)源的新努力。我們認(rèn)為，這些措施將是人工智能治理生態(tài)系統(tǒng)的重要組成部分，此外還有針對(duì)一些重要應(yīng)用的長(zhǎng)期法律和行業(yè)特定政策。還將繼續(xù)投資于基礎(chǔ)廣泛的試點(diǎn)公眾意見(jiàn)征詢方法納入部署決策，在系統(tǒng)中增加本地化功能，培養(yǎng)國(guó)際研究團(tuán)體，以擴(kuò)大和加強(qiáng)對(duì)模型功能和風(fēng)險(xiǎn)的評(píng)估，包括通過(guò)外部研究我們的人工智能系統(tǒng)和我們的網(wǎng)絡(luò)安全資助計(jì)劃。

致力于釋放人工智能的優(yōu)勢(shì)。

將擴(kuò)大努力，支持廣泛的人工智能掃盲，我們聽(tīng)說(shuō)許多社區(qū)的優(yōu)先事項(xiàng)，并投資于創(chuàng)作者、出版商和內(nèi)容制作者從這些新技術(shù)中受益的方式，以便能夠繼續(xù)擁有健康的數(shù)字生態(tài)系統(tǒng)。此外，正在組建團(tuán)隊(duì)，為探索如何將我們的工具用于廣泛有益的應(yīng)用的組織提供更多支持引導(dǎo)， 研究對(duì)社會(huì)和經(jīng)濟(jì)發(fā)展的影響和政策建議經(jīng)濟(jì)影響。

在接下來(lái)的幾周和幾個(gè)月里，我們將在這些領(lǐng)域中的每一個(gè)領(lǐng)域做更多探索。

本文轉(zhuǎn)載自“拾珠傳媒新消費(fèi)”微信公眾號(hào)，作者：朱珠；智通財(cái)經(jīng)編輯：黃曉冬。