打开手机，看到一则突发火灾视频，实际却是AI生成的虚假新闻；号称“亲测好评”的消费攻略，可能是AI炮制的虚假“种草笔记”；视频里，将士们身着古装，却上演激光大战；小说中，主角以暴制暴，还能一夜暴富……

当前，伴随人工智能的广泛应用，一大批质量低下、营养缺失、追求强感官刺激的内容，正以前所未有的速度蔓延网络。这些我们俗称的“数字泔水”，不仅挤占优质内容生存空间，还往往裹挟情绪诱导，放大公众认知偏差，冲击正常社会秩序。

“数字泔水”从何而来，有何表现？技术狂飙的时代，怎样抵御“数字泔水”的侵蚀？带着这些问题，记者深入探寻“数字泔水”背后的灰色产业链，探讨务实可行的治理路径。

“数字泔水”，蔓延网络

最近，杭州的杜女士十分苦恼：9岁的儿子动不动就拿她的手机刷各种AI“魔改”视频——从孙悟空大战奥特曼，到林黛玉扛起高科技武器，再到激光大战版《三国演义》……这类视频往往用AI对经典影视作品进行颠覆性重组，将毫不相干的角色和剧情强行拼凑，搭配夸张的音特效，动辄收获数十万点赞。

“孩子爱看的东西，我们越来越看不懂了。”杜女士发现，儿子和不少同学还将此当作谈资，谁看的“魔改”多、谁知道的“梗”新，谁就有话语权。

调查中，家长陈先生则向记者展示了他上初二的儿子沉迷的网络小说：“实际上就是AI爽文，比如主角以暴制暴，替同学‘复仇’，不爱学习，却能考出高分‘碾压’他人。”

“魔改”经典的AI视频、价值观扭曲的AI爽文、靠猎奇擦边博人眼球的AI短剧……这些都是典型的“数字泔水”，其共同特征为量产化、高重复、强刺激、低营养、无价值。

今年4月底，中央网信办部署开展“清朗·整治AI应用乱象”专项行动，其中一项重点整治内容就是利用AI技术生成“数字泔水”等问题。

比直观可辨的低质内容更具迷惑性的，是披着“真实”外衣的虚假信息——凭空编造的文字、移花接木的视频、无中生有的图片……它们是“数字泔水”中最隐蔽也最具破坏力的一类。

记者从相关部门了解到，2023年7月，浙江告破首例利用AI生成发布虚假视频案。涉案企业利用AI拼凑热点要素生成视频，编造并发布上虞工业园区火灾等虚假信息。最终，两名犯罪嫌疑人因编造、故意传播虚假信息罪各被判有期徒刑一年一个月，缓刑一年六个月。

去年8月，全国首例涉AI代写“种草笔记”的不正当竞争案在杭州二审宣判。两家科技公司针对某社交平台推出“一键生成爆款种草笔记”的AI写作工具，帮助博主批量炮制虚假消费体验和商品推荐。法院认定，该服务构成不正当竞争，两家科技公司被判共同赔偿10万元。

眼下正值汛期，今年7月下旬，公安部公布的20起涉汛网络谣言典型案例中，有7个涉及AI造假。“地面塌陷，车辆落入水中”“洪峰冲断铁路桥梁”等虚构视频画面冲击力强，普通网民很难分辨真伪。

这些案件，无不在警示：“数字泔水”正在大肆蔓延，危害不容小觑。

浙江省社科院社会学研究所所长钟其指出，对个人而言，它会让人陷入“信息茧房”，被伪知识、假信息误导，妨害认知与判断；长此以往，大脑会变得懒惰，削弱深度思考能力；还可能带偏社会价值观，心智稚嫩的青少年首当其冲。

在浙江大学医学院附属精神卫生中心的青少年心理健康门诊，已能窥见这种“精神污染”——平均每30个就诊的青少年患者中，至少有两人受到“数字泔水”影响。

该中心物质依赖科副主任孙继军告诉记者：“有的孩子看多了爽剧、爽文，追求即时满足，沉浸在相关故事情节中不能自拔，甚至幻想不努力学习也能一鸣惊人。可实际考试一次次把梦击碎，这种落差感往往让孩子失望，不敢面对现实、不愿上学。”

放到社会层面，“数字泔水”泛滥挤压优质原创的生存空间，使得真实信息容易被淹没，甚至误导公众情绪，制造信任危机，扰乱社会秩序。

绍兴市上虞区检察院第一检察部副主任李媛对此深有感触。此前的浙江首例利用AI生成发布虚假视频案由她经办，“一段无中生有的火灾视频，不仅造成了公众恐慌，还挤占并浪费了有限的公共管理资源”。

钟其还提出更深层的隐忧：这些低质内容有很大概率会被当作新的语料用于训练下一代AI大模型，形成“泔水投喂泔水”的恶性循环，进一步污染数字生态，必须加快系统治理。

新型污染，为何难治

要治理“数字泔水”，首先得弄明白，它究竟从何而来。

今年4月，一对90后夫妻因其“躺赚秘诀”引发舆论关注，也揭开了这条灰色产业链的冰山一角。两人利用自建的AI智能创作系统，生成迎合算法但价值匮乏的文章，招募数千名签约达人，撬动5000多个合作账号进行分发引流，赚取流量收益，年获利200万元。

个人蜂拥而上，商家也闻风而动。

记者发现，在网络平台上，AI批量运营教程数不胜数。一些商家宣称，使用相关工具可24小时自动抓取热点、自动写稿排版。还有不少头部创作者兜售“魔改”视频的教学课，号称“轻松月入过万”。记者加入了两三个“AI速成班”会员群，每个群里都有数百人。

这条产业链上，还藏着违规经营的公司与机构。

00后小陈和80后小张原本经营一家动漫解说公司，嗅到AI“造富”的所谓商机后，竟用AI拼凑热点要素，批量炮制虚假视频。

不难看出，“数字泔水”的根源，是对“流量红利”的过度追逐。个人、商户、企业为了追逐利益，量产爽文、爽剧、“魔改”视频等内容收割流量，平台则追求点击量、完播率，流量至上的考核导向，进一步助长低质内容的泛滥。

从内容生产到分发传播，这条灰色产业链环环相扣、错综复杂，给治理带来了现实阻碍。

受访专家表示，由AI模型生成初稿，账号搬运改写，平台推荐放大，用户的二次创作又让它变异出无数面孔。“数字泔水”的形成往往经过多个环节、多道工序“接力”，导致了责任界定难、追责落地难。

同时，批量生成的特质，也使“数字泔水”清理难度急剧攀升，变成治理的第二道坎。

中国传媒大学信息传播学院教授赵如涵表示，生成式AI极大降低了内容生产成本，使“造假”与“拼接”几乎零门槛。面对海量的低质内容，治理变成了一场“猫鼠游戏”——核查与澄清始终追不上生成与传播的速度。

如上述违规经营的公司，短短一个多月，小陈和小张就带着10多名员工，在某内容平台非法购买2900多个账号，发布万余条虚假视频，内容涉及全国各地。其中，20条涉及警情、灾情、险情的视频点击量高达160余万次。直到他们凭空捏造的“上虞工业园区火灾”造成恶劣影响，才东窗事发。

治理“数字泔水”的第三道坎，来自AI擅长“精准投喂”的传播特性。

清华大学新闻与传播学院助理研究员符伦瑞指出，AI可以根据不同人群的兴趣、立场和情绪偏好，生成“更像你会相信的版本”，而平台的流量分发机制天然偏好冲突性强、情绪浓度高的内容，两者叠加，给“数字泔水”创造了生存和扩散空间。

山东烟台警方曾抓获多个团伙：他们专门盯上新能源汽车，利用AI技术批量炮制投用户所好的“黑稿”。虽然没有敲诈车企、收费删稿，只挣平台的流量分成，但相关内容严重歪曲事实，误导公众认知，损害了企业品牌形象和生产经营秩序。

即便完成内容下架清理，想要彻底消解已经造成的负面社会影响，往往还要耗费更长时间。

建好“排水系统”，净化网络生态

近年来，生成式AI相关的监管法律规章逐渐完善。新修订的网络安全法今年施行，进一步明确了AI内容监管与平台主体责任。

各大内容平台也对恶意博取流量的“AI代笔”等开展了集中治理。近期，小红书聚焦“利用AI工具批量拼凑、自动化发布违规笔记”的新趋势，全面拦截并锁定约13万个AI托管账号；抖音发布《关于“恶意营销号”的治理规范》，并推出“账号健康分”评估机制，通过分值管理实现对违规账号的引导教育。

但治理“数字泔水”，本质上是一场网络生态保卫战。就像城市运转离不开完备的排水管网，网络空间同样需要一套高效的“排水系统”，构建从源头截污、技术清淤到末端追责、全民参与的完整治理闭环。

首先，上游要“堵”，主动搭建防御机制，把好内容准入关。

多位专家指出，AI大模型服务提供商等信息内容生产者必须守好第一道门，主动承担内容安全责任，在AI生成工具中内置合规红线，包括对疑似未授权的人脸与声纹素材进行识别、提示和限制使用，过滤低俗关键词，遏制生成暴力、血腥等有害内容，让“数字泔水”无法从源头流出。同时，要为生成内容强制添加不可篡改的AI水印，实现可溯源、可追踪。

生产端堵住了，流通环节也不能松懈。

中国人民大学法学院教授刘俊海认为，内容平台应全面改造流量奖励机制和账号监管机制，一方面，将价值权重植入算法底层，创新激励方式，通过专项扶持、流量补贴、优秀创作者认证等举措，实质性鼓励生产更多优质内容；另一方面，设立严格的主体准入机制，限制批量注册行为，加强个人信息比照、内容原创、互动真实、账号活跃等方面的账号真实性核查。

其次，中游要“截”，积极发展审核技术，增强分级拦截功能。

暨南大学网络空间安全学院教授夏志华长期研究视觉深度伪造的检测、溯源与防御。他认为，内容平台需部署相关检测技术，升级拦截手段，建立动态特征库对高频侵权场景主动出击，对用户未标注、但疑似AI生成的内容添加“疑似AIGC”标识，或要求上传者确认，以客观披露信息供用户参考。

不过，生成技术与识别技术始终处于动态博弈中。夏志华坦言，目前识别AIGC的准确率可达90%以上，但仍存在一定的误伤风险，需不断突破泛化难题。

来自东阳市横店影视文化产业发展服务中心的周英豪长期从事影视行业法治相关工作，他提出另一种治理思路：从内容呈现方式入手，实行分级分类管理。他建议，平台在主动清理“数字泔水”基础上，推出“未成年人模式”，支持通过关键词过滤，进一步屏蔽不良信息。

最后，下游要“疏”，通过开展教育引导，培育全社会的“自净能力”。

再好的外部防御，也比不上使用者的理性分辨。多位专家认为，治理“数字泔水”不仅是技术攻防战，更是认知保卫战。

杭州市富阳区富春第七小学正在探索，一边通过班会和德育课，鼓励孩子讨论算法规则、分辨网络上的真知识和伪科普等；一边在老师的引导下，制定班级数字公约，规划屏幕时间，培养媒介素养。“我们还带着孩子拍劳动微纪录片、做科学趣味实验短视频，让他们成为数字内容的创作者，进而懂得什么是好的有价值的内容。”校长章振乐认为，当真实的快乐占了上风，虚拟的诱惑就钻不了空子。

整治“数字泔水”，不只需要制度、技术、平台发力，更关乎每一位网民的判断与选择。浏览网络信息时多一分审慎辨别，便是守护我们共同的网络精神家园。