OpenAI聲稱正在開發(fā)可高精度檢測AI生成圖像工具

智通財經(jīng)APP獲悉，OpenAI正在開發(fā)一種工具，以高精度檢測人工智能生成的圖像。聊天機(jī)器人ChatGPT和圖像生成器DALL-E的制造商OpenAI的首席技術(shù)官Mira Murati周二在Tech Live會議上表示，OpenAI的工具在確定圖片是否使用人工智能生成方面“99%可靠”。她表示，在計劃公開發(fā)布之前，公司正在對其進(jìn)行內(nèi)部測試，但沒有具體說明時間表。

據(jù)了解，目前已經(jīng)有少數(shù)工具聲稱可以檢測人工智能生成的圖像或其他內(nèi)容，但這些工具的檢測結(jié)果似乎仍不夠準(zhǔn)確。例如，OpenAI在1月份發(fā)布了一個類似的工具，旨在確定文本是否由人工智能生成的，但由于不可靠，該工具在7月份被擱置了。該公司表示，它正在努力改進(jìn)該軟件，并致力于開發(fā)識別音頻或圖像是否由人工智能生成的方法。

由于人工智能工具可用于操縱或編造全球事件的新聞報道，對此類檢測工具的需求越來越重要。Adobe(ADBE.US)的Firefly圖像生成器通過承諾不創(chuàng)建侵犯創(chuàng)作者知識產(chǎn)權(quán)的內(nèi)容，解決了這一挑戰(zhàn)的另一個方面。

周二，OpenAI高管還暗示了GPT-4之后的人工智能模型。雖然OpenAI尚未公開表示GPT-4的后續(xù)模型可能被稱為什么，但這家初創(chuàng)公司在今年7月向美國專利商標(biāo)局提交了“GPT-5”商標(biāo)申請。

當(dāng)被問及GPT-5模型是否不再編造內(nèi)容時，Murati表示：“也許吧?！?/p>

“讓我們看看。我們在GPT-4的‘幻覺’問題上取得了很大進(jìn)展，但我們還沒有達(dá)到我們需要的程度，”她表示。

最后，OpenAI首席執(zhí)行官Sam Altman還談到了OpenAI可以設(shè)計和制造自己的計算機(jī)芯片來訓(xùn)練和運行自己的人工智能模型的可能性，而不是使用目前被視為市場領(lǐng)導(dǎo)者的英偉達(dá)(NVDA.US)等公司提供的芯片。

“默認(rèn)的做法當(dāng)然是不這么做，”他表示，“但我永遠(yuǎn)不會排除這種可能性?！?/p>