微軟(MSFT.US)AI圖像生成工具Copilot Designer被曝存在安全漏洞

智通財(cái)經(jīng)APP獲悉，微軟(MSFT.US)的一名軟件工程師致信該公司董事會(huì)、議員和美國聯(lián)邦貿(mào)易委員會(huì)，警告這家科技巨頭在保護(hù)其人工智能圖像生成工具Copilot Designer免受濫用和暴力內(nèi)容的影響方面做得不夠。

微軟的人工智能工程師Shane Jones表示，他在OpenAI最新的DALL-E圖像生成器模型中發(fā)現(xiàn)了一個(gè)安全漏洞，該漏洞允許他繞過防止該工具創(chuàng)建有害圖像的護(hù)欄。DALL-E模型嵌入了微軟的許多人工智能工具中，包括Copilot Designer。

據(jù)Jones發(fā)給FTC的一封信顯示，他向微軟報(bào)告了這一發(fā)現(xiàn)，并“一再敦促”微軟“在更好的保護(hù)措施出臺(tái)之前，將‘Copilot Design從公眾使用中移除”。

Jones寫道：“雖然微軟公開宣傳Copilot Designer是一種安全的人工智能產(chǎn)品，適合所有人使用，包括任何年齡的兒童，但公司內(nèi)部清楚地意識(shí)到，該產(chǎn)品正在制造有害的圖像，可能會(huì)冒犯消費(fèi)者，不適合消費(fèi)者。Copilot Designer不包括必要的產(chǎn)品警告或信息披露，消費(fèi)者需要意識(shí)到這些風(fēng)險(xiǎn)。”

在給FTC的信中表示，Jones指出，Copilot Designer傾向于在其創(chuàng)作的一些圖片中隨機(jī)生成一個(gè)“不恰當(dāng)?shù)?、性物化的女性形象”。他還表示，人工智能工具創(chuàng)造了“各種其他類別的有害內(nèi)容，包括：政治偏見、未成年人飲酒和吸毒、濫用公司商標(biāo)和版權(quán)、陰謀論和宗教等等”。

FTC證實(shí)收到了這封信，但拒絕進(jìn)一步置評(píng)。

這一猛烈抨擊呼應(yīng)了人們對(duì)人工智能工具產(chǎn)生有害內(nèi)容趨勢(shì)的日益擔(dān)憂。上周，微軟表示，它正在調(diào)查有關(guān)其Copilot聊天機(jī)器人產(chǎn)生用戶稱之為令人不安的反應(yīng)的報(bào)道，其中包括有關(guān)自殺的復(fù)雜信息。今年2月，谷歌(GOOGL.US)的旗艦人工智能產(chǎn)品Gemini因在被提示創(chuàng)建人物圖像時(shí)產(chǎn)生歷史上不準(zhǔn)確的場(chǎng)景而受到指責(zé)。

Jones還寫信給微軟董事會(huì)的環(huán)境、社會(huì)和公共政策委員會(huì)。Jones在信中表示：“我認(rèn)為我們不需要等待政府監(jiān)管來確保我們對(duì)消費(fèi)者透明地了解人工智能的風(fēng)險(xiǎn)。考慮到我們的企業(yè)價(jià)值觀，我們應(yīng)該自愿和透明地披露已知的人工智能風(fēng)險(xiǎn)，特別是在人工智能產(chǎn)品積極向兒童推銷的情況下。”

微軟在一份聲明中表示，它“致力于根據(jù)公司政策解決員工的任何和所有擔(dān)憂，并感謝員工在研究和測(cè)試我們的最新技術(shù)以進(jìn)一步提高其安全性方面所做的努力?！?/p>

OpenAI沒有回應(yīng)置評(píng)請(qǐng)求。

Jones表示，在過去的三個(gè)月里，他多次向公司表達(dá)了自己的擔(dān)憂。今年1月，他寫信給代表華盛頓州的民主黨參議員Patty Murray和Maria Cantwell，以及眾議院眾議員Adam Smith。在一封信中，他要求立法者調(diào)查“人工智能圖像生成技術(shù)以及制造和銷售這些產(chǎn)品的公司的公司治理和負(fù)責(zé)任的人工智能實(shí)踐”的風(fēng)險(xiǎn)。

這些議員沒有立即回應(yīng)置評(píng)請(qǐng)求。