央視網(wǎng)消息：隨著AI人工智能技術(shù)和應(yīng)用的蓬勃發(fā)展，各類AI工具已經(jīng)成為我們?nèi)粘９ぷ骱蜕畹闹?。不過近年來，不少網(wǎng)民發(fā)現(xiàn)，部分人工智能的回答開始有些不靠譜，也就是AI數(shù)據(jù)被污染了。

今年2月6日，寧波警方注銷了“寧波交警”抖音號。5月2日，在浙江寧波余姚境內(nèi)，一輛未懸掛車牌的轎車在違法超車過程中撞倒一輛摩托車。當(dāng)網(wǎng)民詢問AI軟件寧波交警抖音號為何注銷時，人工智能給出的答案竟然是“主要與5月2日的這起交通事故引發(fā)廣泛關(guān)注有關(guān)”。人工智能的這一荒唐回答引起了網(wǎng)民廣泛關(guān)注，寧波交警隨后進(jìn)行了緊急辟謠。 

近年來，AI杜撰的信息更是數(shù)不勝數(shù)，杜撰不存在論文、論文的作者、網(wǎng)址等，AI更是成為了謠言類信息的幫兇，游船側(cè)翻、幼兒園大火等謠言都可以幫網(wǎng)民編造出來。 

專家介紹，人工智能數(shù)據(jù)污染分為兩類，一種是人為主觀惡意去篡改數(shù)據(jù)，誤導(dǎo)人工智能的輸出結(jié)果，另一種是人工智能本身會海量收集網(wǎng)絡(luò)的龐大數(shù)據(jù)，其中不良信息如果沒有被甄別刪除掉，而是當(dāng)做可以信任的信息源加入算力中，輸出的結(jié)果同樣不可信任。 

國家安全部數(shù)據(jù)顯示，AI在訓(xùn)練過程中，即使是0.001%的虛假文本被采用，其有害輸出也會相應(yīng)上升7.2%。另外，AI數(shù)據(jù)污染還可能在金融、公共安全等領(lǐng)域引發(fā)一系列現(xiàn)實(shí)風(fēng)險。 

中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會委員薛智慧稱：“例如在經(jīng)濟(jì)金融領(lǐng)域，一旦數(shù)據(jù)受到污染，一些市場行為分析、信用風(fēng)險評估、異常交易監(jiān)控等工作就可能出現(xiàn)判斷和決策錯誤，進(jìn)而造成直接的經(jīng)濟(jì)損失。而在社會輿論方面，數(shù)據(jù)污染會破壞信息的真實(shí)性，讓民眾難以辨別信息的真?zhèn)?，這就可能會引發(fā)社會輿論風(fēng)險?！?/p>

針對AI數(shù)據(jù)污染，專家表示，應(yīng)加強(qiáng)源頭監(jiān)管，防范污染生成。安全機(jī)關(guān)此前針對AI數(shù)據(jù)污染也提示，要定期依據(jù)法規(guī)標(biāo)準(zhǔn)清洗修復(fù)受污數(shù)據(jù)，逐步構(gòu)建模塊化、可監(jiān)測、可擴(kuò)展的數(shù)據(jù)治理框架，實(shí)現(xiàn)持續(xù)管理與質(zhì)量把控。

廣大網(wǎng)友在日常生活和工作中，要使用正規(guī)平臺和企業(yè)提供的AI工具；AI產(chǎn)生的結(jié)果可以參考，但不能盲信；同時不作不良信息的投喂者，共同守護(hù)網(wǎng)絡(luò)家園。