國家安全部今日發布安全提示，指出人工智能訓練數據存在虛假信息、虛構內容及偏見性觀點等問題，導致數據源污染，威脅AI安全。
新研究提示：訓練數據哪怕混入萬分之一虛假文本，模型有害輸出即可顯著放大，且虛假內容會回流網絡、逐代累積，形成“污染遺留”。在金融、公共安全等場景，此類數據投毒可能觸發市場操縱、輿論誤導等，現實風險不容忽視。
人工智能技術的濫用正催生新型市場操縱手段。通過定向污染訓練數據，攻擊者可系統性生成虛假市場信號，如虛構企業合作、虛增財務指標等，利用AI生成內容的傳播裂變效應，短期內引發市場認知偏差，進而操控特定標的交易價格。
目前來看，虛假信息主要有三板斧，首先是虛構企業合作，篡改官網信息、偽造會議紀要、誘導模型生成“戰略簽約”結論；其次是虛增財務指標，在論壇、問答社會大量植入“超預期盈利”帖子，訓練集吸收后，AI研報自動給出“上調評級”；最后是深度偽造視頻，有些AI模型已經出現偽造“創始人官宣即將上線某交易所”的短片，配合社交媒體裂變傳播，曾在加密市場造成代幣短時暴漲后閃崩。
實驗表明，訓練集中混入約萬分之一虛假文本，模型輸出的有害或誤導性內容即可出現兩位數的增幅；污染信息一旦上網，又會被新一輪爬蟲抓取，形成“遞歸污染”閉環。
監管部門已把“AI數據投毒”列為新型市場操縱手段，要求券商、基金在采購第三方大模型服務時，必須提供數據來源與清洗報告；交易所亦在測試實時語義水印，識別并阻斷異常生成的“研報”與“快訊”。
對投資者而言，凡遇“AI生成”的利好利空，需交叉核驗原始出處；于機構而言，應把訓練數據溯源、對抗樣本檢測納入常規風控，防止模型成為操縱市場的“放大器”。
【以上內容不構成投資決策依據。投資有風險，入市需謹慎。】
【免責聲明】：凡注明文章來源為“長江有色金屬網”的文章，均為長江有色金屬網原創，版權歸本網站所有，任何媒體、網站或個人未經本網站書面授權不得轉載。凡本網注明來源：“XXX(非長江有色金屬網)”的文章，均轉載自網絡，版權歸原作者及其公司所有。本站已盡可能對作者和來源進行了標注，若有疏忽造成漏登，請及時與我們聯系，我們將根據著作權人的要求，立即更正或刪除有關內容。本網站所發布的文章目的在于傳遞更多信息，并不構成任何投資及應用建議。
