国家安全部近日发文提示，人工智能的训练数据存在良莠不齐的问题，其中不乏虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。
“数据污染”在网络上泛滥，“数据投毒”冲击安全防线，我们该如何防范？
网络配图
（一）
数据有多重要？
人们常说“人是铁，饭是钢”，对于AI大模型而言，大量的数据集就像是它的“一日三餐”，而高质量、清晰标注的数据无疑是最美味的：各种“营养素”一应俱全，“制作过程”干净卫生，每种“食材”的源头都可追溯。
所谓“数据投毒”，是通过向AI大模型训练数据中注入伪装成正常样本的恶意数据，实现削弱模型性能、降低准确性的攻击方法，常用于恶性市场竞争，甚至涉及国与国之间的间谍活动。这确实很像是在“投毒”，且往往是一种“慢性毒药”，短期会出现结论偏差报错，像是“吃坏了肚子”，若轻视其破坏力，还会带来现实风险。
在金融投资领域，一个小数点的误差，就可能引发股价异常波动、亿万资金损失；在医疗卫生领域，AI开方越来越流行，若是有人从中使坏，这“毒”可就是真毒了；在智能驾驶领域，若在训练环节就埋下隐患，或在行驶时输入干扰指令，后果不堪设想……
“蝴蝶效应”在“数据投毒”中同样存在，表现为“递归污染”或是“污染遗留效应”。如今的互联网，AI生成内容在数量上已远超人类生产的真实内容，大量低质量及非客观数据充斥其中，若不加约束，可能导致将错就错，进一步侵蚀知识大厦的根基。
（二）
谈到“数据投毒”，不可避免会与当下热议的“数据污染”“AI幻觉”等现象联系在一起。一旦数据污染，“流毒”入脑，自然会误导判断，产生“幻觉”。
恐怕不全是，因为许多低质量的数据、极端的言论、错误的观点，本就是由平台和用户共同生产出来的，它们在网络空间中层层累积，在现实社会中侵蚀理性，久而久之误导舆论，“代谢”起来更是格外困难。
比如，不合理的推送机制营造出越来越多的“信息茧房”，纵容极端发言在其中“养蛊”，群体对立进一步激化，不实内容未经证实便全网推送。
你能想象，这些充斥着戾气与偏见的文字被AI大模型反复抓取，又再次生成内容和观点的后果吗？之前微博评论区失控的“评论罗伯特”（生成式AI机器人账号）就是明证——或是阴阳怪气，或是胡言乱语，或是互喷互骂，着实让人捏了一把冷汗。
又比如，虚假文本被交叉引用，使得AI的“幻觉”越来越严重。部分账号将“包含AI生成内容，请谨慎甄别”等提醒作为挡箭牌，似乎这样就可免于对内容质量负责，读者举报纠错往往石沉大海。低质量的生成内容充斥网络又缺乏监管，可能导向恶性循环。
从这个角度看，便不难理解为何最近国家网信办联合各家媒体机构，加大辟谣力度，提升辟谣精度，增强信息发布的时效性。其中一个目标，就是要将不断进化的“流毒”扼杀在源头，避免AI越来越“笨”、越来越极端。
（三）
数据污染并非一天产生，更不是AI出现后才冒头的。
在社交媒体、商业平台上，自媒体的内容得到重点呈现，其中“标题党”长期横行，猎奇炒作成为“主流”，而主流媒体的内容反而变得不受欢迎，常常被隐于角落。
以周口妇产科医生因网暴坠楼一事为例，本该用客观事实和法律裁决说事，却仅凭三个自媒体账号的互相转发、粉丝群体的无端谩骂，就污蔑一位尽职尽责的医生，误导网友的判断。若自媒体依旧没有边界，平台监管依然无力，类似悲剧可能还会发生。
上述例子并无AI的参与，更谈不上是“投毒”，而是我们的信息生产和曝光的机制出现了问题，给了自媒体耀武扬威、裹挟网民的空间。AI检索、数据抓取、模型训练则发挥了“加速器”的作用，将部分低质量甚至不实的内容广为传播和应用。
如今许多人使用搜索引擎时，倾向于点击“资讯”分类而非默认的“网页”栏，只是不想看到众说纷纭却又真假难辨的自媒体文章；许多运营者也习惯了用争议话题、挂各种tag（标签）来“起号”“养号”，正是在利用平台的曝光机制弥补内容上的硬伤。当你拿着这些去问DeepSeek，它都会忍不住提醒你“反复核查真实性”。
净化数据不仅要警惕外部“投毒”，更要不断在内部“清污”。唯有标本兼治，对症下药，方能练就AI时代的“信息免疫力”。