美國AI安全研究所成立! 成員陣容龐大：微軟、OpenAI以及谷歌領銜

智通財經(jīng)APP獲悉，據(jù)媒體援引知情人士透露的消息報道，美國政府表示，包括微軟、OpenAI以及谷歌等人工智能領域領導者們在內(nèi)的200多家實體公司加入了一個新的美國聯(lián)營研究團體，以幫助安全開發(fā)和部署生成式人工智能。

當?shù)貢r間周三，美國商務部長吉娜·雷蒙多宣布了領導美國人工智能安全研究所(AISI)執(zhí)行領導團隊的主要成員，該研究所將在美國國家標準與技術研究院(NIST)正式聯(lián)合成立。伊麗莎白·凱利(Elizabeth Kelly)將擔任該研究所的首任主任，埃爾哈姆·塔巴西(Elham Tabassi)將擔任首席技術官。

根據(jù)這份媒體報道，美國人工智能安全研究所(AISIC)的主要成員企業(yè)包括微軟(MSFT.US)、ChatGPT開發(fā)商OpenAI、亞馬遜(AMZN.US)、Alphabet旗下的谷歌(GOOGL.US)、OpenAI最大競爭對手之一Anthropic、Meta Platforms(META.US)、蘋果(AAPL.US)、英偉達(NVDA.US)、Palantir (PLTR.US)、英特爾(INTC.US)、摩根大通(JPM.US)以及美國銀行(BAC.US)。

除了上述這些人工智能領域領導者，該小組的其他成員還包括英國石油公司(BP.US)、思科(CSCO.US)、IBM(IBM.US)、惠普(HPE.US)、諾斯羅普·格魯曼公司(NOC.US)、萬事達(MA.US)、高通(QCOM.US)以及Visa(V.US)，還包括一些學術機構(gòu)和政府機構(gòu)，這些也機構(gòu)將成為美國人工智能安全研究所(AISI)的重要組成部分。

主要覆蓋電商以及云服務領域的亞馬遜表示，該公司將與NIST合作建立一種新的測量科學，這種新的科學將能夠識別經(jīng)過驗證的、可擴展的、可互操作性的測量方法，以促進可信賴的人工智能的發(fā)展及其負責任的使用。

此外，亞馬遜將向該研究所提供基于500萬美元的計算積分，以幫助開發(fā)各種工具和方法，各組織可以使用這些工具和方法來評估其基礎模型的安全性。

該公司補充表示，NIST不評估該聯(lián)營聯(lián)盟旗下成員各自的商業(yè)產(chǎn)品，也不認可任何使用的相關產(chǎn)品或服務。

美國總統(tǒng)經(jīng)濟政策特別助理凱利當天表示:“雖然我們的首要任務是執(zhí)行拜登總統(tǒng)的行政命令賦予NIST的任務，但我期待將NIST建設成為國家和世界的長期資產(chǎn)?！?/p>

2023年10月，美國總統(tǒng)喬·拜登領導的政府發(fā)布了一項行政命令，對人工智能的利益和風險進行管理。拜登政府表示，該命令為人工智能的安全和保障設定了新的標準，并且能夠保護隱私、促進公平和公民權利，維護消費者和工人的利益，促進創(chuàng)新和競爭。

該媒體報道補充表示，該聯(lián)營聯(lián)盟將制定關鍵的red-teaming指導方針、能力評估、風險管理、安全和安保以及合成內(nèi)容水印的指導方針。

2023年7月，包括亞馬遜、Alphabet旗下谷歌、Facebook所有者Meta以及微軟在內(nèi)的科技巨頭們自愿向白宮承諾實施某些實質(zhì)性的措施，例如使用數(shù)字水印來幫助區(qū)分真實內(nèi)容和人工智能生成的內(nèi)容。

美國商務部負責標準與技術的副部長兼NIST主任勞里·洛卡西奧(Laurie Locascio)周三表示:“我相信，在伊麗莎白·凱利(Elizabeth Kelly)和埃爾哈姆·塔巴西(Elham Tabassi)的領導下，美國人工智能安全研究所將能夠很好地發(fā)展促進人類社會人工智能技術安全可靠發(fā)展所需的測量科學?！?/p>

自2022年美國科技巨頭微軟支持的OpenAI 成功推出ChatGPT以來，新一代具備革新意義的生成式人工智能服務席卷全球?；诓煌愋偷拇笮驼Z言模型(LLM)的類似ChatGPT的AI聊天機器人，可以生成使用者所需的內(nèi)容，圖像和聲音，甚至能夠生成龐大的編程工作所需的代買，這類AI聊天機器人正在全球范圍內(nèi)廣泛使用。