近日,一則AI烏龍事件引發熱議:一份由兩位分析師署名的地產行業周報中,將2024年國務院常務會議關于房地產的政策表述,錯誤標注為2026年6月7日的最新政策,出現了離譜的“時間穿越”。多位業內人士表示,這種“時間錯位+內容搬運”的錯誤,正是AI大模型“幻覺”問題的典型體現。這起事件給快速擁抱AI的證券投研行業敲響了警鐘:技術升級可以提效,但專業研究的真實性底線不能失守,信息污染更需警惕。
近年來,AI輔助投研已經成為行業常態。投研工作核心是信息處理與知識生產,恰好契合大模型的能力優勢,從整理資料、潤色文本到生成初稿,AI已經滲透到研報產出的各個環節,不少券商都成立了專門的AI投研團隊。便捷性背后,風險也在潛滋暗長:此次出錯的是常規行業周報,這類高頻次、模板化的研報產品,恰恰是AI“幻覺”的高發區。套用框架、導入信息就能快速成文,AI大幅縮短了制作周期,也讓分析師的復核環節容易被簡化——尤其是面對看似合規的政策表述,很容易直接“放行”。加上年輕從業者普遍習慣依賴AI生成內容,對信源核驗的重視程度不足,當互聯網上已經存在被污染的錯誤信息,AI自然會把“過期舊聞”當成“最新政策”輸出,最終釀成烏龍。
這不是AI第一次在專業領域“闖禍”:此前律師用AI生成法律文書,編造不存在的判例被法院懲戒;醫療領域研究發現,用AI生成數據迭代訓練的診斷模型,錯誤率不降反升。本質上,當前生成式AI的工作邏輯是基于概率拼接語言,而非真正理解事實本身,互聯網上混雜的錯誤信息、過時內容,就像投喂給AI的“垃圾食品”,最終會通過AI輸出進入專業領域,形成“信息污染傳染病”。更值得警惕的是,AI生成的內容往往行文流暢、表述專業,錯誤極具隱蔽性,如果缺少人工復核環節,普通投資者甚至初級審核人員都很難一眼識別。
券商研報是連接資本市場與投資者的關鍵信息橋梁。如何破解AI“幻覺”難題,行業已經形成基本共識:AI輸出必須永遠帶上“人審”標簽,任何未經分析師審核確認的內容,不能出現在正式研報中。這不是效率問題,而是合規問題——最終為研報負責的,是簽字署名的分析師,不是生成內容的AI。
目前監管層面尚未對AI生成研報出臺專門規范,行業合規更多依賴券商內部風控制度,這恰恰要求機構主動補上規則漏洞:一方面要明確AI使用的流程標準,所有AI抓取的公開信息必須回溯原始信源,關鍵政策、核心數據必須做到雙人復核;另一方面也可以用技術解決技術問題,通過AI工具交叉驗證信息真實性,實現效率與質量的平衡。
技術革新始終推動行業進步,AI給投研帶來的效率提升不可否認,但無論工具如何升級,資本市場對信息真實性的要求永遠高于效率訴求。
(大眾新聞·經濟導報記者 趙帥)
|