每經(jīng)記者｜楊卉    每經(jīng)編輯｜黃博文    

4月16日下午，由中國新聞技術工作者聯(lián)合會、中國經(jīng)濟傳媒協(xié)會聯(lián)合主辦，每日經(jīng)濟新聞、每經(jīng)科技、每經(jīng)AI智庫與中國新聞技術工作者聯(lián)合會AIGC與數(shù)智傳播專委會共同發(fā)起的“共筑可信生態(tài)共創(chuàng)智能未來——AI內(nèi)容生態(tài)與負責任GEO治理研討會”在京舉行。

中央財經(jīng)大學數(shù)字經(jīng)濟融合創(chuàng)新發(fā)展中心主任陳端在研討會上發(fā)表了題為“金融信息‘AI污染’：智能體時代的資本市場新型風險與多元協(xié)同治理”的主題演講。

陳端以“AI殺豬盤”案例，拆解了金融信息“AI污染”的全鏈條：從虛假信息炮制到社交媒體傳播，再經(jīng)AI（人工智能）模型背書、觸發(fā)量化策略，最終達到市場情緒共振。這一鏈條對資本市場定價效率與金融穩(wěn)定構成了系統(tǒng)性威脅。陳端提出，未來，應構建從技術到市場再到監(jiān)管的協(xié)同免疫系統(tǒng)，實現(xiàn)技術免疫、監(jiān)管穿透及生態(tài)共治。

陳端發(fā)表主題演講 圖片來源：每經(jīng)記者 韓陽 攝

金融信息“AI污染”已成為擾動資本市場資源配置的新型風險源

資本市場在服務實體經(jīng)濟、支撐科技創(chuàng)新、推動新質(zhì)生產(chǎn)力發(fā)展中扮演著核心樞紐角色，其核心功能在于通過高效、準確的價格發(fā)現(xiàn)機制，將資本引導至最具發(fā)展?jié)摿Φ念I域。然而，金融信息“AI污染”正從底層侵蝕這一核心功能，成為擾動資源配置的新型系統(tǒng)性風險源。

當AI放大的虛假敘事或偏見性分析成為市場主導聲音時，資產(chǎn)價格會脫離實體企業(yè)的真實價值與未來現(xiàn)金流，資本追逐被“污染信息”吹大的泡沫，從而阻礙了資本向新質(zhì)生產(chǎn)力關鍵領域的精準滴灌。

陳端介紹，由AI污染觸發(fā)的算法共振與流動性驟變，會制造非理性的市場巨震，更可能引發(fā)跨市場風險傳染，干擾宏觀政策的傳導效果，最終削弱資本市場服務國家戰(zhàn)略大局的韌性與效能。因此，治理AI污染不僅是技術或市場問題，更是維護金融安全、保障金融血脈健康暢通的戰(zhàn)略必需。

從“AI殺豬盤”看智能化、系統(tǒng)化的操縱閉環(huán)

AI時代，“殺豬盤”有了新的形態(tài)，陳端以此為例，介紹了新型信息操作邏輯。

據(jù)陳端介紹，2025年末，某中小市值上市公司股價在無明顯基本面變化的情況下突然連續(xù)漲停，引發(fā)市場關注。調(diào)查后發(fā)現(xiàn)，操縱者預先建立大量倉位，利用自動化腳本在股吧、雪球等平臺密集發(fā)布數(shù)百條虛假帖文，內(nèi)容包括“獲得巨額訂單”“與頂尖AI公司合作”等。

隨著此類虛假帖文被“網(wǎng)絡爬蟲”迅速收錄，部分大語言模型的公共語料庫被污染。如此一來，當投資者向AI詢問該公司前景時，模型基于被污染語料，以高置信度輸出“看多”結論。

此后，隨著“AI權威背書”的截圖被“水軍”在社交圈層瘋狂擴散，大量散戶被誘導跟風買入，形成了情緒共振。部分基于輿情分析的量化策略捕捉到“市場情緒高漲”的信號，觸發(fā)程序化買入指令，進一步推升了股價。最終，在這一整套“鏈條”的操縱下，操縱者得以高位套現(xiàn)，留下普通投資者承受損失。

陳端稱，上述案例標志著，金融信息操縱已從傳統(tǒng)的“人工造謠”進入“AI污染”驅(qū)動的智能化、閉環(huán)化、系統(tǒng)化新階段。

與傳統(tǒng)市場操縱手段相比，“AI污染”從信息生產(chǎn)到交易執(zhí)行形成完整閉環(huán)，效率極高。加之AI模型輸出具有“權威感”，既對投資者構成直接欺騙，也對資本市場定價效率與金融穩(wěn)定構成系統(tǒng)性威脅。

陳端表示，金融信息“AI污染”是指因AI模型缺陷、算法機制設計或被惡意利用，導致信息在真實性、客觀性與傳播結構上發(fā)生系統(tǒng)性劣化，進而干擾市場預期形成、資產(chǎn)價格發(fā)現(xiàn)與資源配置功能的過程。

金融信息“AI污染”源于三大根源，一是模型的“幻覺”與數(shù)據(jù)偏見，二是平臺算法對極端情緒的偏好，三是主動的“語料投毒”與深度偽造。陳端指出，應對金融信息AI污染已變?yōu)殛P乎機構生存的現(xiàn)實命題。

三重污染機制與三條傳導鏈條

金融信息“AI污染”的生成與沖擊是一個層層遞進、環(huán)環(huán)相扣的過程，陳端將其概括為“三重污染機制”與“三條傳導鏈條”。

陳端首先介紹了“三重污染機制”。

一是源頭污染（數(shù)據(jù)與模型層）。一方面，AI訓練數(shù)據(jù)本身固化了市場的歷史非理性與偏見；另一方面，模型“幻覺”會生成邏輯自洽但完全虛構的“權威報告”；同時，AI缺乏對監(jiān)管意圖、企業(yè)文化等“暗知識”的理解，導致決策框架先天失真。

二是放大污染（傳播與分發(fā)層）。平臺算法為追求流量，優(yōu)先推送極端情緒內(nèi)容，系統(tǒng)性推高市場情緒烈度；同時，個性化推薦則構筑起對立的“信息繭房”與“敘事孤島”。此外，深度偽造技術更是直接擊穿傳統(tǒng)信任驗證體系。

三是內(nèi)嵌污染（決策與行動層）。機構普遍采用相似AI工具導致研究同質(zhì)化與能力銹蝕；量化策略基于受污染的輿情信號進行同質(zhì)化交易，極易引發(fā)市場共振；AI決策的責任模糊性則為新型監(jiān)管套利提供了空間。

陳端隨后介紹了“三條傳導鏈條”。

一是扭曲預期形成鏈。市場定價從“基本面貼現(xiàn)”異化為“敘事貼現(xiàn)”，價格與價值脫鉤，陷入“污染信息推高價格—價格波動被AI捕捉并強化敘事—進一步推高價格”的惡性循環(huán)。

二是機構集體失靈鏈。一旦傳統(tǒng)風控模型失效，投資經(jīng)理在信息洪水中就被迫從深度研究降維至情緒博弈，使得機構本該具有的市場“穩(wěn)定器”功能癱瘓。

三是擾動市場微觀結構韌性鏈。AI做市商可能因污染信號同步行動，引發(fā)流動性瞬間枯竭；全球化的AI套利網(wǎng)絡則會將局部風險快速傳染至全球市場，放大系統(tǒng)性風險。

構建“技術免疫、監(jiān)管穿透、生態(tài)共治”的協(xié)同免疫系統(tǒng)

談到應對金融信息領域“AI污染”的方式，陳端認為，應構建從技術到市場再到監(jiān)管的協(xié)同免疫系統(tǒng)。

具體來看，技術方面，陳端認為應推行可追溯的“AI水印”標準，對于可能影響市場的關鍵金融信息AIGC（人工智能生成內(nèi)容）內(nèi)容，如分析報告、數(shù)據(jù)解讀，強制或鼓勵嵌入不可移除的數(shù)字水印與元數(shù)據(jù)，實現(xiàn)全鏈條可追溯。

同時，應研發(fā)“反AI污染”監(jiān)測與鑒證平臺，開發(fā)能夠?qū)崟r監(jiān)測網(wǎng)絡信息異常擴散模式、智能識別深度偽造內(nèi)容、檢測文本“幻覺”與邏輯矛盾的監(jiān)管科技工具，為監(jiān)管機構和大型金融機構提供“預警雷達”。

另外，還應探索可信可控的金融AI應用規(guī)范，實現(xiàn)風險模型的協(xié)同訓練與優(yōu)化。

陳端強調(diào)，在“AI污染”的環(huán)境下，抗污染能力本身成為金融機構的核心競爭力。能夠有效識別、過濾、應對“AI污染”的機構，將在信息質(zhì)量、投資決策、客戶服務等方面建立顯著優(yōu)勢。

市場層面則需要重估專業(yè)研究的稀缺價值并給予公允定價，機構需要將“AI治理”納入公司治理核心范疇，并通過投資者“AI素養(yǎng)”教育等方式，提升整體市場免疫力。

此外，監(jiān)管層也要革新，從事后監(jiān)管向“事前預防+事中監(jiān)測”轉變；從單一部門向跨部門協(xié)同轉變，構建適應AI時代的敏捷監(jiān)管體系。

封面圖片來源：韓陽