本報(bào)記者 吳曉璐
近日，“有頂流明星在澳門輸了10億元”的傳言風(fēng)靡網(wǎng)絡(luò)，頻頻登上熱搜。3月14日，公安部網(wǎng)安局辟謠：這則消息是一網(wǎng)民使用軟件“某書”中AI智慧生成功能生成的謠言。
隨著生成式AI技術(shù)快速發(fā)展，各行各業(yè)獲得賦能的同時(shí)，AI也成為造謠者的利器。從資本市場(chǎng)來(lái)看，不少上市公司深陷AI謠言。在行業(yè)人士看來(lái)，AI只是工具，需要各方加強(qiáng)監(jiān)管，以防不合法、不合規(guī)使用，擾亂資本市場(chǎng)秩序，侵害投資者合法權(quán)益。
多家公司被“AI造謠”擊中
在AI技術(shù)的加持下，造謠者制造傳播謠言的成本越來(lái)越低，AI謠言數(shù)量猛增，而且逐漸形成“謠言—AI引用—更多謠言”的黑色鏈條，大量上市公司受到影響。
去年11月份，有人冒充比亞迪員工，稱比亞迪要和蔚來(lái)合作成立比未來(lái)汽車集團(tuán)。此后被合肥市公安局經(jīng)開分局證實(shí)，該謠言系29歲外省男子謝某所做，利用AI軟件合成不實(shí)圖文上網(wǎng)傳播，其目的是為提升自媒體賬號(hào)的知名度、博取流量。
今年春節(jié)期間，某AI大模型爆火之后，一批“馬甲”賬號(hào)通過(guò)散布某上市公司入股該AI大模型或者為該AI大模型提供技術(shù)支持等謠言，誤導(dǎo)AI大模型給出錯(cuò)誤回答，誤導(dǎo)投資者。隨后，相關(guān)上市公司通過(guò)發(fā)布公告等方式進(jìn)行澄清。
資本市場(chǎng)是一個(gè)“信息+信心”的市場(chǎng)，利用AI編造虛假消息、用虛假語(yǔ)料誤導(dǎo)AI炮制“假利好”“假利空”等行為，影響資本市場(chǎng)秩序。目前，已有網(wǎng)民編造傳播虛假不實(shí)信息，影響金融秩序，被公安機(jī)關(guān)依法處罰。
華東政法大學(xué)國(guó)際金融法律學(xué)院教授鄭彧對(duì)《證券日?qǐng)?bào)》記者表示，目前AI生成的信息既可能包括AI通過(guò)網(wǎng)絡(luò)截取到指定信息披露媒體的信息，也有可能包含自媒體或者其它非指定信息披露媒體所刊載的信息，這就使得AI生成的信息真假難辨，且無(wú)法溯源，從而誤導(dǎo)投資者的決策判斷，同時(shí)也使得無(wú)法追索假信息的來(lái)源從而沒(méi)有辦法進(jìn)行損失的維權(quán)。
“利用AI生成的虛假信息對(duì)資本市場(chǎng)的影響是多方面的，其危害不容忽視。”某大型投資機(jī)構(gòu)量化團(tuán)隊(duì)相關(guān)負(fù)責(zé)人對(duì)《證券日?qǐng)?bào)》記者表示，首先，虛假信息可能誤導(dǎo)投資者決策，導(dǎo)致資產(chǎn)價(jià)格偏離其真實(shí)價(jià)值，破壞市場(chǎng)定價(jià)效率；其次，虛假信息可能加劇市場(chǎng)波動(dòng)，引發(fā)恐慌性拋售或非理性追漲，擾亂市場(chǎng)秩序；再次，虛假信息還可能被不法分子用于操縱市場(chǎng)，通過(guò)散布“假利好”或“假利空”來(lái)牟取非法利益，損害投資者權(quán)益；最后，更為嚴(yán)重的是，虛假信息的泛濫可能削弱投資者對(duì)市場(chǎng)信息的信任，影響資本市場(chǎng)的長(zhǎng)期健康發(fā)展。
對(duì)AI信息投資者需長(zhǎng)上“火眼金睛”
今年以來(lái)，在某AI大模型爆火之后，越來(lái)越多年輕投資者向其尋求關(guān)于資產(chǎn)配置的建議。近日，《證券日?qǐng)?bào)》記者做的一份問(wèn)卷調(diào)查結(jié)果顯示，超過(guò)一半（57.5%）的投資者曾向AI軟件咨詢過(guò)投資理財(cái)建議。只有不到兩成的投資者認(rèn)為AI提供的信息準(zhǔn)確，接近六成認(rèn)為AI回復(fù)一半對(duì)一半錯(cuò)，還有超過(guò)兩成認(rèn)為AI的回復(fù)中，絕大部分是錯(cuò)誤內(nèi)容。
“很多AI數(shù)據(jù)都是舊的，所以對(duì)投資理財(cái)沒(méi)什么參考。”有投資者對(duì)記者坦言。問(wèn)卷調(diào)查顯示，超過(guò)六成的投資者也不會(huì)相信AI的薦股信息，有三成投資者認(rèn)為需要視情況而定，只有個(gè)別投資者會(huì)相信AI的薦股。
除了部分投資者直接向AI軟件尋求幫助，可能會(huì)受到AI虛假信息的影響外，量化交易利用AI大模型進(jìn)行投資，部分采用事件驅(qū)動(dòng)量化投資策略也可能會(huì)受到影響。
“傳統(tǒng)量化投資策略主要是基于量?jī)r(jià)因子的挖掘，所用到的基本上是客觀真實(shí)的市場(chǎng)數(shù)據(jù)。對(duì)于這類量化投資策略，黑嘴用虛假語(yǔ)料炮制‘假利好’對(duì)其造成影響的可能性較小。”上述量化團(tuán)隊(duì)相關(guān)負(fù)責(zé)人表示，還有一類量化投資策略是基于分析市場(chǎng)情緒、新聞、社交媒體等信息，進(jìn)而做出投資判斷。對(duì)這種事件型驅(qū)動(dòng)的量化投資策略，如果黑嘴利用虛假語(yǔ)料誤導(dǎo)大模型，炮制“假利好”信息，則可能會(huì)對(duì)量化投資決策產(chǎn)生顯著影響。
格上理財(cái)旗下金樟投資投研總監(jiān)付饒?jiān)诮邮堋蹲C券日?qǐng)?bào)》記者采訪時(shí)表示，資本市場(chǎng)上的信息量較大，信息質(zhì)量也參差不齊，AI能夠做到在極短時(shí)間內(nèi)生成大量?jī)?nèi)容，然而這些內(nèi)容是信息的整合和整理，其可信度通常還需要人為力量來(lái)識(shí)別。這就意味著，基金管理人需要有能力識(shí)別和分析這些內(nèi)容的真實(shí)性，在新的投資時(shí)代下，AI為管理人提供更加高效工具的同時(shí)，對(duì)管理人也提出新要求。
對(duì)于投資者而言，需要提高辨別能力，來(lái)辨別AI消息的真假。上述量化團(tuán)隊(duì)負(fù)責(zé)人表示，首先，應(yīng)優(yōu)先選擇權(quán)威、可信的信息來(lái)源；其次，可以通過(guò)多源信息交叉驗(yàn)證，對(duì)比不同渠道的數(shù)據(jù)和觀點(diǎn)，判斷信息可信度；再次，投資者還應(yīng)關(guān)注信息的邏輯一致性，識(shí)別其中可能存在的矛盾或夸大之處；最后，投資者應(yīng)加強(qiáng)對(duì)AI技術(shù)的學(xué)習(xí)，了解其生成內(nèi)容的局限性，避免盲目依賴AI問(wèn)答結(jié)果。通過(guò)提高信息辨別能力，投資者可以更好地應(yīng)對(duì)AI虛假信息帶來(lái)的挑戰(zhàn)，保護(hù)自身利益。
鄭彧建議，對(duì)于普通投資者，不能直接將AI問(wèn)答作為選股或者投資決策的參考，但是可以借助AI理解有關(guān)資本市場(chǎng)價(jià)格形成機(jī)制的原理和道理，比如詢問(wèn)AI有關(guān)“資產(chǎn)負(fù)債率在特定行業(yè)的影響”等這些專業(yè)性的問(wèn)題，通過(guò)對(duì)于這些問(wèn)題的了解來(lái)理解擬投資行業(yè)、標(biāo)的的投資價(jià)值。
多舉措加強(qiáng)對(duì)AI謠言監(jiān)管
近期，多方已經(jīng)開始行動(dòng)，加強(qiáng)對(duì)AI謠言的治理和監(jiān)管。3月11日，微博社區(qū)觀察員官方賬號(hào)發(fā)文表示，將對(duì)未標(biāo)識(shí)的“AI謠言”及時(shí)展開治理。平臺(tái)將結(jié)合AI技術(shù)能力、專項(xiàng)人工審核與用戶舉報(bào)投訴，積極識(shí)別未標(biāo)識(shí)的AI內(nèi)容，并對(duì)相應(yīng)情況予以相應(yīng)處置。
據(jù)“網(wǎng)信中國(guó)”微信公眾號(hào)3月14日消息，近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會(huì)公共利益。
上述量化團(tuán)隊(duì)負(fù)責(zé)人表示，在AI大模型廣泛應(yīng)用于金融市場(chǎng)的背景下，為減少其對(duì)市場(chǎng)的負(fù)面影響，建議可從以下幾方面作為切入點(diǎn)：一是明確AI大模型在投資決策中的使用范圍和邊界，制定相關(guān)法律法規(guī)，確保其應(yīng)用符合市場(chǎng)公平性和透明性的原則；二是聚焦于數(shù)據(jù)質(zhì)量和真實(shí)性，建立嚴(yán)格的語(yǔ)料審核機(jī)制，防止虛假信息或操縱性數(shù)據(jù)污染模型訓(xùn)練過(guò)程；三是加強(qiáng)對(duì)AI模型的動(dòng)態(tài)監(jiān)控，如要求機(jī)構(gòu)定期提交模型運(yùn)行報(bào)告，包括其預(yù)測(cè)準(zhǔn)確性、風(fēng)險(xiǎn)控制能力和異常事件處理情況，以便及時(shí)發(fā)現(xiàn)并糾正模型偏差或漏洞；四是關(guān)注市場(chǎng)操縱行為，特別是利用AI技術(shù)炮制虛假信息或進(jìn)行高頻交易操縱市場(chǎng)的現(xiàn)象，通過(guò)技術(shù)手段追蹤異常交易行為并加大處罰力度；五是任何向客戶提供分析意見或建議的主體都必須是具有業(yè)務(wù)資質(zhì)的持牌機(jī)構(gòu)，防止非法或不合規(guī)的機(jī)構(gòu)誤導(dǎo)投資者。
手機(jī)看中經(jīng)
經(jīng)濟(jì)日?qǐng)?bào)微信
中經(jīng)網(wǎng)微信
