在2023年5-6月,SAM帶領(lǐng)openai團(tuán)隊(duì)路演了6大洲(25個(gè)城市),與用戶、開(kāi)發(fā)者、決策者及大眾進(jìn)行交流。
學(xué)到了什么
我們的用戶和開(kāi)發(fā)人員已在構(gòu)建有價(jià)值的應(yīng)用程序。在旅途中看到的創(chuàng)造力給了我們靈感。在尼日利亞,高中生告訴我們他們?nèi)绾问褂肅hatGPT來(lái)幫助分解復(fù)雜的學(xué)習(xí)主題。在新加坡,公務(wù)員是整合開(kāi)放人工智能工具提供公共服務(wù)更有效率。在法國(guó),一家連鎖雜貨店正在使用我們的工具幫助顧客減少食物浪費(fèi);開(kāi)發(fā)者正在使用我們的工具為了使代碼更加高效和安全。(我們渴望聽(tīng)到更多關(guān)于公司提供的AI服務(wù)如何產(chǎn)生影響的信息)
對(duì)于人工智能在社區(qū)中的影響,人們有共同的希望和擔(dān)憂。
許多人分享了他們對(duì)這些工具的承諾的熱情,以擴(kuò)大和改善個(gè)性化教育和醫(yī)療保健的獲取,促進(jìn)經(jīng)濟(jì)增長(zhǎng),并使所有專業(yè)人員能夠減少管理任務(wù)。世界各地對(duì)代碼和服務(wù)的需求不斷增長(zhǎng)。同時(shí),我們采訪的許多人提出了與錯(cuò)誤信息、經(jīng)濟(jì)轉(zhuǎn)移以及日益強(qiáng)大的模型的安全和安保風(fēng)險(xiǎn)有關(guān)的擔(dān)憂。
各地的政策制定者都在深入研究人工智能。
決策者專注于確保當(dāng)前工具的安全和有益部署,并認(rèn)真對(duì)待未來(lái)的潛力和風(fēng)險(xiǎn)。我們與全球數(shù)十位高級(jí)決策者和國(guó)家元首坐在一起,了解他們快速采用大型人工智能模型的方法;領(lǐng)導(dǎo)人希望最大化這一新技術(shù)為其公民帶來(lái)的好處,同時(shí)設(shè)置適當(dāng)?shù)淖o(hù)欄來(lái)管理其風(fēng)險(xiǎn),包括來(lái)自現(xiàn)有技術(shù)的風(fēng)險(xiǎn)和我們預(yù)計(jì)隨著技術(shù)變得更加強(qiáng)大而出現(xiàn)的風(fēng)險(xiǎn)。我們采訪的政策制定者希望與領(lǐng)先的人工智能實(shí)驗(yàn)室進(jìn)行持續(xù)對(duì)話,并從他們那里獲得安全承諾,這是他們方法的一個(gè)關(guān)鍵要素,并支持探索一個(gè)全球框架來(lái)管理強(qiáng)大的未來(lái)人工智能系統(tǒng).
人們想更多地了解我們的核心價(jià)值觀。
這次旅行讓我們強(qiáng)化了我們的意圖。例如,一個(gè)常見(jiàn)的問(wèn)題是關(guān)于我們對(duì)客戶數(shù)據(jù)的使用,這給了我們重申這一點(diǎn)的機(jī)會(huì),我們不針對(duì)API客戶數(shù)據(jù)進(jìn)行培訓(xùn),以及ChatGPT用戶可以輕松退出也是。我們一直專注于建立周到的安全機(jī)制——不僅是為AGI,也是為我們今天推出的人工智能產(chǎn)品。我們將繼續(xù)深入投資,確保當(dāng)前系統(tǒng)的安全并根據(jù)用戶反饋進(jìn)行改進(jìn)。
下一步是什么
這次旅行幫助我們更好地理解世界各地用戶、開(kāi)發(fā)者和政府領(lǐng)導(dǎo)人的觀點(diǎn)??紤]到他們的反饋,我們更加關(guān)注以下領(lǐng)域:
讓我們的產(chǎn)品更有用、更有影響力、更容易獲得。
這次旅行讓我們清楚地意識(shí)到,對(duì)于世界各地的用戶和開(kāi)發(fā)人員來(lái)說(shuō),我們的產(chǎn)品是可訪問(wèn)的和有用的。正在努力改變,使人們更容易引導(dǎo)我們的模型做出反應(yīng),反映更廣泛的個(gè)人需求和當(dāng)?shù)匚幕捅尘啊N覀冞€致力于提高英語(yǔ)以外的語(yǔ)言的性能,不僅考慮實(shí)驗(yàn)室基準(zhǔn),還考慮我們的模型在對(duì)開(kāi)發(fā)人員最重要的真實(shí)部署場(chǎng)景中的準(zhǔn)確和高效程度,致力于繼續(xù)讓定價(jià)結(jié)構(gòu)為全球開(kāi)發(fā)者所接受。
進(jìn)一步開(kāi)發(fā)治理高能力基礎(chǔ)模型的最佳實(shí)踐。
隨著關(guān)于新的人工智能法律和法規(guī)的公開(kāi)辯論繼續(xù)進(jìn)行,我們將加倍努力,試點(diǎn)和完善具體的治理實(shí)踐,這些實(shí)踐專門針對(duì)像我們所產(chǎn)生的那些非常有能力的基礎(chǔ)模型,包括關(guān)鍵的安全工作流程,如預(yù)部署安全評(píng)估和對(duì)抗測(cè)試,以及讓人們能夠跟蹤人工智能生成內(nèi)容的來(lái)源的新努力。我們認(rèn)為,這些措施將是人工智能治理生態(tài)系統(tǒng)的重要組成部分,此外還有針對(duì)一些重要應(yīng)用的長(zhǎng)期法律和行業(yè)特定政策。還將繼續(xù)投資于基礎(chǔ)廣泛的試點(diǎn)公眾意見(jiàn)征詢方法納入部署決策,在系統(tǒng)中增加本地化功能,培養(yǎng)國(guó)際研究團(tuán)體,以擴(kuò)大和加強(qiáng)對(duì)模型功能和風(fēng)險(xiǎn)的評(píng)估,包括通過(guò)外部研究我們的人工智能系統(tǒng)和我們的網(wǎng)絡(luò)安全資助計(jì)劃。
致力于釋放人工智能的優(yōu)勢(shì)。
將擴(kuò)大努力,支持廣泛的人工智能掃盲,我們聽(tīng)說(shuō)許多社區(qū)的優(yōu)先事項(xiàng),并投資于創(chuàng)作者、出版商和內(nèi)容制作者從這些新技術(shù)中受益的方式,以便能夠繼續(xù)擁有健康的數(shù)字生態(tài)系統(tǒng)。此外,正在組建團(tuán)隊(duì),為探索如何將我們的工具用于廣泛有益的應(yīng)用的組織提供更多支持引導(dǎo), 研究對(duì)社會(huì)和經(jīng)濟(jì)發(fā)展的影響和政策建議經(jīng)濟(jì)影響。
在接下來(lái)的幾周和幾個(gè)月里,我們將在這些領(lǐng)域中的每一個(gè)領(lǐng)域做更多探索。
本文轉(zhuǎn)載自“拾珠傳媒新消費(fèi)”微信公眾號(hào),作者:朱珠;智通財(cái)經(jīng)編輯:黃曉冬。