最近打开社交平台，一些笔记多了个“AI生成”的标志。有人用AI让古画里的猫灵动起舞，有数字艺术家借AI打造东方神话主题短片，与此同时，一批靠机器批量生产内容的账号，也被平台限流甚至下架。
面对AI，平台究竟该扮演什么角色？是双手插兜的旁观者，还是主动介入的守夜人？近日，小红书首次系统发布了AI治理主张，鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器。这种鲜明的态度，切中当下互联网内容生态的普遍痛点。
“数字泔水”泛滥，治理不是“选修课”
AI工具正在改变内容生产的整体面貌。过去需要经过专业训练、耗费数小时才能完成的文案撰写、配图生成、视频制作，如今短短几分钟就能落地。创作门槛的大幅降低，实实在在帮不少创作者突破了创作瓶颈。
例如央美毕业的一方专攻宋代院体画，一幅作品往往要耗时近一个月。2024年末起，她开始尝试用AI为画作赋予动态，让小龙猫角色可以实现穿云而过的效果，静态的国画由此有了呼吸感，传统文化的表达也找到了新的出口。
创作者@一方画猫呢 利用AI让国画动起来的视频截图
但技术便利的另一面，是失序的蔓延。有人用AI换脸伪造名人视频带货，有人批量生成“真人测评”笔记做矩阵号，有人把聊天记录、消费凭证等截图用AI篡改后当作“亲测”经历发布，还有人靠AI“托管”账号实现全自动发文、回帖、互动。流水线上批量灌装的“数字泔水”，稀释了真实分享的空间。等到虚假内容传播开来再删帖封号，人工审核根本追不上机器的脚步。
面对这一态势，被动应对已远远不够。国家层面，国家互联网信息办公室等四部门联合印发《人工智能生成合成内容标识办法》，自2025年9月1日起施行，明确“规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益”。此后，中央网信办部署“清朗·2026年营造喜庆祥和春节网络环境”专项行动，督促网站平台集中整治借AI生成传播“数字泔水”等垃圾信息问题。
从建章立制到专项行动，国家层面的信号已经清晰，这也意味着，平台的AI治理不能再停留于“头痛医头”的零散规则，必须走向体系化的顶层设计。
要刻度，也要温度
AI治理的核心价值在于“有所鼓励、有所禁止”的清晰态度。在鼓励方向上，小红书支持用AI将复杂知识转化为可视化科普，支持创作者独立设计的原创虚拟角色，以及有审美、有叙事逻辑的短片。公域流量将优先倾斜给那些具备审美、叙事与真实信息增量的优质内容。同时，要求AI生成内容必须主动标识，引入社区用户参与监督，还上线了专属申诉通道，既把知情权还给了用户，也为合规创作者留出了空间。
与之对应的，是四条清晰、具体的行为红线。小红书明确制止四类行为：AI违规运营，包括利用AI教唆做号、AI及第三方托管批量运营账号；AI造假行为，包括仿冒名人、虚构人设信息、伪造经历、魔改经典、低差营销；AI侵权行为，侵犯肖像权和著作权；利用AI进行低质创作，传播不良价值观、生成猎奇内容、批量生产同质化内容。
事实上，对AI乱象的治理并非个别平台的单打独斗。今年以来，行业共识正在加速落地：微信在二季度批量处置了大量AI自动化创作内容，对机器批量灌装的营销号实施梯度处罚；红果短剧一季度下架违规漫剧1718部，用硬性门槛为内容质量托底；小红书通过密集迭代规则，在2月明确AI生成内容须主动标识、3月重拳整治AI托管账号，对全自动运营、冒充真人互动的行为予以严格打击。各平台看似打法不同，实则殊途同归——从源头压缩劣币驱逐良币的生存空间，在保障用户知情权与创作者权益的同时，牢牢守住内容社区“真人、真心、真分享”的核心根基。
治理的重点从来不是AI工具本身，而是那些“用AI替代真实、消解真实”的行为。对于能辅助真实表达、提升创作效率的AI应用，平台持开放态度；对缺乏真实经验支撑、可以批量复制、不断侵蚀用户信任基础的内容，则持续清理。
AI治理从来没有放之四海而皆准的统一模板。短视频、资讯类、长视频平台的用户构成各不相同，治理方案自然不能一概而论。但无论形态如何变化，行业底线是共通的：不能放任机器内容淹没真人创作。唯有以清晰规则引导技术向善，以主动作为守护生态底色，才能让技术真正服务于人的创作与表达。
技术奔流不息，内容生态的治理挑战也将长期存在。小红书此次发布 AI 治理主张，是一次以“真实”为核心竞争力的线上内容社区对技术边界的主动探索。当越来越多的平台开始从被动应对走向主动立规，行业才有可能在创新与秩序之间找到可持续的平衡。
归根结底，技术可以生成无限趋近完美的画布，但唯有真实的人生经历与真诚的情感表达，才能在画布上绘就真正有温度、有生命力的作品。
来源：中国青年网
关注！
【未经授权，严禁转载！联系电话028-86968276】
