高盛楠
习近平总书记在中央政治局第二十次集体学习时强调：“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。”这一重要论断为我们分析人工智能意识形态风险与治理提供了科学方法与根本遵循。数字技术的更新迭代，推动着人类社会认知发生重大转变。从虚拟仿真到深度制造，从文生视频到算法编织，算法算力算料等诸多要素系统性集成着智慧化的崭新生存环境与存在方式。在数字浪潮的冲击下，数字游民在认知领域的隐秘战争已悄然打响，面对网络空间意识形态领域的纷杂状况，培育全民“数字安全免疫力”成为关乎社会稳定的时代课题。
新型社会样态催生新型风险。从社交平台的精准推荐到元宇宙的虚实交融，技术的“温柔操控”正在重塑人们的思维模式与价值判断，对社会主流意识形态形成潜在挑战。一是非主流价值观的渗透。技术产品并非绝对中立，算法推荐下隐藏的技术权力悄然扩张。以短视频平台为例，其推荐算法并非简单的数据匹配，而是通过用户点击、停留时长等行为数据，构建出一套隐形的价值筛选器。部分社交媒体、短视频、游戏等平台，以娱乐化、碎片化的内容影响网民的价值判断与行为选择，稀释主流价值观的话语权。二是信息茧房造成认知窄化。算法会通过语义分析自动生成用户“认知画像”，进而推送强化既有观点的内容。若安享“舒适区”，存在用户对世界的理解逐渐碎片化、极端化风险。信息茧房推动数字茧房的生成，进而形成认知茧房与知识壁垒。三是虚拟空间与现实社会边界的模糊化。元宇宙的兴起让虚拟与现实的界限愈发模糊。数字孪生技术将工厂、城市复刻到虚拟空间，深度伪造让“眼见为实”成为过去式。虚实共生、协同演化的新型社会样态成为未来发展趋势，但也催生了新型社会风险。如AI换脸诈骗案、伪造演讲视频引发股市震荡、论文代写产业链等，不仅滋生大量的网络舆情，也引发社会心理不安。这种边界的消融，使得人们逐渐习惯于虚拟空间中构建社交关系、获取情感寄托，由此导致现实社会的行为准则与道德底线遭遇冲击。
构建认知防线的三重维度。应对智能时代的认知危机，需要我们构筑包含技术认知、价值判断与风险防御的复合防线体系。一是夯牢技术认知的基础。通过多种形式，开展相关线上宣传培训，增强数字游民对AI伪造的识别度。理解技术底层逻辑，强化技术认知的普及，是抵御认知侵袭的第一道屏障。例如，适度开发“算法透视”工具，可将推荐系统的运作机制可视化——当用户点击某个短视频时，系统并非简单推送同类内容，而是通过协同过滤算法关联多个兴趣标签，形成“信息投喂”的增强回路。这种透明化呈现，让用户看清“猜你喜欢”背后商业诱导的传导链条。也可以开发简便易用的“数字家园”计划，重点加强社区培训，普及AI技术原理，以便增强社区治理网格员识别虚假信息的能力。二是提升网民价值判断。当AI生成内容以日均百万条的速度涌入公共空间时，培育独立的价值判断能力已成刚需。可开发相应的“认知免疫”评估体系，实施“信息溯源行动”，定期进行多信源交叉验证，让网民积极参与其中，用多个信源交叉验证AI提供的史料，借以提升虚假信息的辨识准确率。三是健全规制。在实际工作中，一方面要完善算法备案与认证制度，对涉及重大公共利益（如新闻推荐、信贷评估等）的算法实施强制备案制度，推动建立“可信AI算法”认证标准，引导技术向善；另一方面，针对AI生成内容进行强制标识与溯源。借助规则强制要求AI生成的文本、图像、音视频等内容进行清晰、不可篡改的标识，并确保其生成源头可追溯，增加造假成本和识别便利性。
全民行动筑牢智能防线。技术风险的防范需要制度与技术双轨并进，守护认知主权需要多方协同。一是助推教育端发力。将数字素养、媒介信息批判能力、AI风险认知教育系统纳入国民教育体系各学段，并作为关键职业培训的必修内容，以培育长期免疫力。如在信息技术类课程中，强化“智能信息鉴别”内容，让学生通过模拟AI钓鱼邮件分析、虚假新闻溯源等实践增强辨别能力。二是强化技术端制衡。针对平台企业，加强把关审核，严格执行AI内容标识制，为AI产品安装价值观滤网，在内容生成与供给环节过滤错误言论等，以技术赋能全过程、多要素认知安全建设。三是注重社会端协同。构建全民参与的防御网络，打造基层社区治理的“数字护卫队”，借助多个网络平台开通AI可疑内容举报通道，多部门联合研发认知防护图谱，让技术认知赋能民众“破壁”，让价值判断塑造群体“免疫”，让社会协同达成共治善治。
（作者系电子科技大学马克思主义学院副教授，本文系四川省哲学社会科学基金青年项目“人工智能时代意识形态安全风险防范及其治理研究”阶段性成果，项目批准号：SCJJ23ND387）
【未经授权，严禁转载！联系电话028-86968276】
