東吳證券：AI發(fā)展引發(fā)新安全問題 圖像、視頻鑒真及內(nèi)容監(jiān)管能力的企業(yè)或率先受益

智通財經(jīng)APP獲悉，東吳證券發(fā)布研究報告稱，中國AI監(jiān)管現(xiàn)階段關(guān)注內(nèi)容合規(guī)，生成內(nèi)容需保證真實準(zhǔn)確，體現(xiàn)核心價值觀，不得對國家安全、經(jīng)濟發(fā)展和社會穩(wěn)定構(gòu)成威脅與挑戰(zhàn)。有圖像、視頻鑒真或內(nèi)容監(jiān)管能力的企業(yè)有望率先受益于AI監(jiān)管政策的出臺與落地。建議關(guān)注AI監(jiān)管相關(guān)公司：人民網(wǎng)(603000.SH)、新華網(wǎng)(603888.SH)、美亞柏科(300188.SZ)、博匯科技(688004.SH)。

東吳證券主要觀點如下：

AI發(fā)展引發(fā)新的安全問題：以ChatGPT為代表的生成式人工智能正在重塑數(shù)字內(nèi)容的生產(chǎn)方式和消費模式，顯著地影響各行各業(yè)變革。今年以來，大模型技術(shù)與AIGC快速融合發(fā)展，大模型生成的內(nèi)容能夠達(dá)到“以假亂真”的效果。相應(yīng)地，應(yīng)用門檻的不斷降低，使得“換臉”、“變聲”等手段更容易實現(xiàn)，因AIGC濫用帶來的虛假信息、偏見歧視乃至意識滲透等問題無法避免，對個人、機構(gòu)乃至國家安全都存在較大的風(fēng)險。因此對生成式人工智能服務(wù)的新監(jiān)管需求也隨著而來。目前。AI多帶來的新安全問題主要包括AIGC內(nèi)容安全和數(shù)據(jù)安全問題。

AI監(jiān)管：政策與法規(guī)先行：考慮到AI可能對社會帶來的安全問題，安全標(biāo)準(zhǔn)、法律法規(guī)和自我監(jiān)管是對AI進行監(jiān)管較為重要的基石。政府層面，亟需出臺監(jiān)管政策對其加以規(guī)范，實現(xiàn)監(jiān)管覆蓋全面化，分階段、全流程規(guī)范AIGC相關(guān)要素。企業(yè)層面，也需要通過被監(jiān)管以消除社會對AI大模型的不信任。中國政府重視AI產(chǎn)業(yè)，國內(nèi)網(wǎng)信辦等7個部委發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》將于2023年8月15日起正式施行，同時《國務(wù)院2023年度立法工作計劃》顯示，《人工智能法》已列入立法計劃， AI監(jiān)管政策正加速推進。

AI監(jiān)管：平衡創(chuàng)新與安全、監(jiān)管手段多樣：AI監(jiān)管主要是面向AIGC技術(shù)的違規(guī)應(yīng)用，應(yīng)對AIGC可能給社會、政治、金融、教育帶來的危害，這是國家安全、社會安全的關(guān)鍵，因此，對于AI監(jiān)管來說，要從內(nèi)容安全機制、技術(shù)監(jiān)管手段等層面進行突圍。內(nèi)容安全機制的原理是通過數(shù)據(jù)安全控制、算法備案和安全評估、內(nèi)容安全合規(guī)等一系列流程確保生成內(nèi)容符合法規(guī)和監(jiān)管要求。技術(shù)監(jiān)管手段的原理是利用AI對抗AI，通過海量測試數(shù)據(jù)集，對AIGC生成式模型的數(shù)據(jù)、過程、生成內(nèi)容進行全過程的測試、監(jiān)管。

AI監(jiān)管有望催生千億市場： 2030年我國人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元人民幣。一般信息化投入中安全占比至少在5%-10%以上，而由于AI大模型特殊性，AI安全未來將成為所有參與方必須考慮的問題，貫穿從數(shù)據(jù)標(biāo)注、模型訓(xùn)練和開發(fā)、內(nèi)容生成、應(yīng)用開發(fā)的事前-事中-事后全過程，投入力度不亞于傳統(tǒng)安全投入，因此假設(shè)AI監(jiān)管在整個產(chǎn)業(yè)鏈中的占比按照5%-10%來測算的話，該行預(yù)計到2030年國內(nèi)AI大模型的監(jiān)管市場規(guī)模將達(dá)到500-1000億元。

風(fēng)險提示：政策落地不及預(yù)期，AI監(jiān)管推進不及預(yù)期，行業(yè)競爭加劇。