刘裕 张雪儿

当前,以生成式人工智能为核心驱动的新一轮技术浪潮,正以前所未有的广度与深度重塑社会信息生态。然而,其伴生的“数字泔水”,即由算法批量炮制或为追逐流量而粗制滥造,具有逻辑混乱、事实失真、价值导向模糊等特征的海量低质内容,正大规模涌入我国未成年人的数字生活空间。可以说,“数字泔水”已远非简单的信息过载,而是一种直接侵蚀青少年认知根基、扭曲其价值观养成并可能弱化未来社会创新潜力的新型“认知污染”。

近年来,我国未成年网民规模持续增长,共青团中央发布的调查报告显示,我国未成年网民规模已突破1.96亿,互联网普及率高达97.3%,意味着这一群体已基本全员触网。他们在信息流中长时间暴露,成为“认知污染”最易感、受害最深的群体。面对这场在技术狂飙中悄然蔓延的危机,构建系统性的治理体系已是一项刻不容缓、关乎长远的社会工程。

“数字泔水”的危害具有深层性和隐蔽性

“数字泔水”的危害通常具有深层性和隐蔽性,主要体现在三个方面:一是侵蚀深度认知能力。认知心理学研究表明,长期接收碎片化、高刺激、低逻辑密度的信息,会强化大脑的浅层处理模式,抑制负责深度思考与复杂推理的前额叶皮层功能发展,易使青少年形成追求即时满足、回避复杂思考的思维惰性。二是扭曲价值观与社会认知。根据传播学的涵化理论,媒介内容长期、重复的呈现会潜移默化地塑造受众对现实的感知。“数字泔水”中充斥的庸俗成功学、戏剧化人际关系和历史虚无主义等,为未成年人营造了一个失真、浮躁的“拟态环境”,干扰其是非判断与健康价值观的建构。三是加剧数字文化生态恶化。当“数字泔水”凭借其制造流量的高效率,在算法分发中持续挤压优质、严肃内容的空间时,就会形成“劣币驱逐良币”的结果,从供给侧剥夺了未成年人接触精品文化的机会。更值得警惕的是,大量“数字泔水”本身可能作为训练数据“反哺”人工智能模型,形成“泔水投喂泔水”的恶性循环,导致信息生态陷入低质化内卷,最终抑制整个社会的文化创造力与审美格调。

“数字泔水”的泛滥是多重因素耦合的结果。从技术与市场逻辑看,生成式AI降低了低质内容的生产门槛,而平台基于用户参与度优化的推荐算法,构成了以“流量至上”为核心的分发引擎。这一系统天然倾向于识别和放大那些最能激发本能情绪反应的内容,形成“情绪化内容—高互动数据—算法加权—更大曝光”的自增强回路,使得“数字泔水”在流量竞争中占据优势。与此同时,平台在商业增长驱动下,往往将内容审核、算法价值校准等具有公共属性的治理责任后置,导致传统媒体时代由专业“信息守门人”构筑的过滤机制在算法分发环境中被大幅削弱。从认知与教育层面看,未成年人处于前额叶皮层发育关键期,对强烈刺激敏感而批判性过滤能力不足,成为“数字泔水”最易感染的群体,然而,旨在培养信息辨识与批判思维的系统性媒介素养教育仍显滞后,未有效植入现行课程体系,进一步扩大了数字时代的防护缺口。

建立多方协同的综合治理体系

面对这一复杂挑战,任何单一措施都难以奏效,必须建立技术、法治、教育与社会力量协同的综合治理体系。

以“算法向善”为导向,压实平台源头治理责任。治理必须直指“分发端”核心,推动算法逻辑从“流量至上”向“价值优先”的根本转型。平台企业应摒弃“技术中性”的托辞,将未成年人权益保护内化为算法设计的核心准则。这要求建立强制性算法透明度披露制度与审计制度,平台要定期公开其推荐机制的保护成效并接受第三方评估。在操作层面,应强制对AI生成内容进行“数字水印”标识与溯源,并建立高效的违规内容识别系统。更为关键的是,必须推动平台建立“优质内容推荐池”,对符合主流价值、富含知识营养的精品内容实施显著的流量权重加成,从根源上重塑信息竞争规则,阻断“数字泔水”的传播链路。

以“精准共治”为原则,构建敏捷协同的监管体系。法规监管需要从事后响应转向事前预防与事中干预。应在未成年人保护法框架下,加快出台针对生成式AI内容治理的专项细则,清晰界定“数字泔水”的表现形式与平台审查责任。建立由网信部门牵头,宣传、教育、文旅、广电等多部门参与的常态化联合研判与执法机制,实现对新型风险的动态识别、快速定性与联合处置。监管手段应突出精准性与敏捷性,例如,运用大数据绘制风险传播热点图谱,对重点领域开展靶向治理,并探索试验性“监管沙盒”机制,鼓励平台在可控范围内测试创新治理方案,平衡安全与发展。

以“生态优化”为目标,激励优质内容的生产与供给。清除“污染”的根本在于繁荣“生态”。建议政府通过设立专项创作引导基金、实施税收优惠、完善评优推广机制等政策组合,实质性降低涉及青少年群体的内容的生产与传播成本。推动形成优质内容共创联盟,鼓励主流媒体、文化机构、高校与平台企业开放资源、协同孵化。最关键的改革在于平台内部激励机制:必须将内容的社会效益指标、知识价值密度及青少年正向反馈等纳入流量分配与商业分成的核心算法,让优质创作者获得市场级的认可与回报,从而系统性扭转内容生产的激励导向。

以“素养筑基”为根本,筑牢家校社协同的教育防线。提升未成年人的内在“数字免疫力”是最稳固的长期防线。必须将系统的网络素养与批判性思维教育作为基础课程,全面融入中小学各学段,重点涵盖算法认知、信息辨伪与价值批判。同步实施家庭数字素养支持计划,通过开发权威指南、开设社区工作坊等方式,有效赋能家长成为孩子合格的“数字护航员”,筑牢家庭第一道防线。此外,应广泛动员图书馆、博物馆、科技馆及优秀企业,开发体验式、交互式的素养教育公益项目,在全社会营造崇尚深度思考、理性对话与审美向上的文化氛围,构筑起立体化的教育防护共同体。

(作者单位:电子科技大学公共管理学院)

相关词解

“数字泔水”

?

指由算法批量炮制或为追逐流量而粗制滥造,具有逻辑混乱、事实失真、价值导向模糊等特征的海量低质内容。其表现形式多种多样,如虚假剧本短视频、畸形价值观微短剧,利用AI技术对经典文学、历史典故进行低俗恶搞的“魔改”作品,毫无逻辑链条的AI生成小说、东拼西凑的网络文章等。