余晓晖
当前，人工智能作为引领新一轮科技革命和产业变革的战略性力量，正在深刻重构全球创新版图、发展范式与人类生产生活方式，同时其广泛应用也带来一系列风险挑战。习近平总书记高度重视人工智能治理，强调“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系”“形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性”等，系统回答了新时代为什么要加强人工智能治理、怎样加强人工智能治理等一系列具有全局性、前瞻性、战略性的重大理论和实践问题，为确保我国人工智能始终沿着有益、安全、公平方向发展提供了根本遵循。
新形势下加强人工智能治理具有重要意义
面对人工智能技术加速迭代、应用深度渗透、风险复杂交织的新形势，准确把握人工智能发展趋势和规律，加强人工智能治理，才能切实推动我国人工智能健康有序发展。
事关抓住新一轮科技革命和产业变革战略主动权。习近平总书记指出：“人工智能是新一轮科技革命和产业变革的重要驱动力量”。当前，人工智能技术创新进入密集活跃期，产业化进程加快，为赢得未来发展先机创造了有利条件。世界主要大国均在布局加快人工智能发展，催生智能体、无人驾驶、具身智能、智能穿戴等新领域新赛道，成为改变商业格局、重塑世界经济的新场域。加强人工智能治理，构建稳定、透明、可预期的治理环境，能够为企业、科研单位等提供明确规则指引，使其敢于投入、安心创新，进而最大程度激发创新潜能，提升国家创新体系整体效能，进一步夯实我国人工智能技术与产业发展的根基，并在这场科技竞赛中牢牢把握战略主动。
事关推动我国经济社会高质量发展。习近平总书记强调：“我们要深入把握新一代人工智能发展的特点，加强人工智能和产业发展融合，为高质量发展提供新动能。”人工智能作为发展新质生产力的重要推动力，是推动产业智能化升级、培育经济新增长点的关键动能。截至2025年底，我国人工智能企业超过6000家，形成了从基础底座、模型框架到行业应用的完整产业体系。一批国产大模型通过开源战略引领全球生态，推动人工智能从少数企业的尖端科技转变为千行百业可便捷调用的普惠性工具，为我国发挥超大规模市场与完整产业体系优势、实现换道超车奠定了独特生态基础。根据有关测试，我国的大语言模型基础能力与美国都居全球前列，模型复杂推理能力与美国的差距显著缩小，视频生成模型能力持续领先。在此背景下，探索科学有效的人工智能治理路径，能够更好防范风险，营造稳定的政策环境与发展预期，构建公平公正、健康有序、富有活力的产业生态，让人工智能真正成为驱动经济提质增效、社会全面进步的强大引擎。
事关维护国家安全和社会稳定。习近平总书记指出：“完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权。”当前，人工智能安全风险日益凸显，呈现复杂性、系统性和泛在化特征。一方面，技术发展伴生安全风险，人工智能大模型的内在特性增加了安全可控的难度与复杂性。与传统网络安全相比，人工智能安全领域的攻防非对称性加剧，技术安全面临“易攻难守”新形势。另一方面，应用延展衍生安全新难题。人工智能大模型的广泛应用既带来应用形态迭代、开源生态滥用、软件供应链漏洞等外部性安全难题，也引发个人、群体、社会多层面次生风险。例如，人工智能拟人化互动服务诱导情感过度依赖现象高发，智能体任务失控及安全问题初显。因此，加强人工智能治理是贯彻落实总体国家安全观的内在要求，必须建立健全覆盖从技术研发、产品应用到社会影响全链条的风险防控体系，确保人工智能始终被用于维护国家利益和人民福祉。
事关构建人类命运共同体。习近平总书记指出：“人工智能应该是造福全人类的国际公共产品”“推动各方加强发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架和标准规范”。当前，人工智能发展处于技术跃迁、应用爆发、治理探索的关键窗口期，地缘政治动荡和逆全球化思潮，严重影响全球协作和可持续发展。加快推动我国人工智能治理理论创新、制度创新、实践创新，主动提出蕴含中国智慧、符合世界各国共同利益的治理方案，有助于构建一个更加公平、合理、包容、共享的全球人工智能治理体系，反对以意识形态划线或构筑“小院高墙”，防止全球人工智能治理的碎片化和阵营化，展现负责任大国担当，推动构建人类命运共同体。
加强人工智能治理需要把握若干基本原则
有效的治理必须以科学理念和清晰的原则作为指导。加强人工智能治理，要以习近平总书记关于人工智能治理的重要论述为指引，准确把握以下基本原则。
确立智能向善的价值取向。加强人工智能治理，应确保技术发展的最终目的是增进人类福祉、推动人的全面发展，实现智能向善。增进人类福祉，就是以人民群众获得感、幸福感、安全感为衡量标准，保障各个社会群体智能服务可及性，加速弥合“数字鸿沟”；推动人的全面发展，就是要保证人的主体性永远在场，让人工智能成为拓展人类认知边界和行动能力的“放大器”。只有将以人为本、智能向善作为人工智能治理的价值取向，才能确保技术进步不偏离人类价值坐标，使人工智能真正成为服务人民、造福社会的强大正能量。
贯彻统筹兼顾的系统思维。人工智能发展和安全具有高度内在一致性。从发展看，人工智能既是事关国家竞争力和国家安全的战略性技术，也是推动生产力跃迁的关键通用技术，不发展就难以在激烈的国际竞争中占领先机、赢得优势；从安全看，我国人工智能发展中面临的风险触点多、传导快，各类风险跨界性、关联性、穿透性较强，坚守安全底线才能在技术变革浪潮中行稳致远。处理好发展和安全动态依存的关系，必须牢牢掌握人工智能发展和治理主动权，以前瞻性统筹、整体性谋划、系统性布局，主动构建动态适配技术快速演进的治理框架，在可控边界内释放创新活力。
夯实良法善治的制度根基。加强人工智能依法治理是坚持在法治轨道上全面建设社会主义现代化国家的时代要求，能够更好为人工智能发展提供制度保障。从原则要求看，加强人工智能依法治理既要适应生产力进步所带来的新需求，也要回应技术产业发展伴生的新问题，进而实现以良法善治保障新业态新模式健康发展。从实践路径看，加强人工智能依法治理，需要把握人工智能发展趋势和规律，建设涵盖高中低位阶的法律法规、监管政策、技术标准等制度体系，明确数据、知识产权、开源模型等相关权责边界，统筹推进立法执法司法普法工作，真正做到科技发展到哪里、法治建设就跟进到哪里。
创新敏捷动态的治理模式。应将包容普惠导向贯穿人工智能治理全过程，推动算力、算法、数据等核心资源开放共享，降低技术应用门槛；支持开源社区建设和公共数据集开放，促进知识扩散与技术扩散；保障各社会群体在智能时代的平等参与权与发展权，让人工智能发展成果更好惠及全体人民。针对人工智能应用的复杂性与不确定性，加快建立与技术演进相匹配的治理机制，探索“沙盒监管”、触发式监管等新型监管方式，降低制度性成本，为处于初创期、成长期的人工智能技术和应用建立必要的容错纠错机制，为市场提供稳定预期。
多维协同推进人工智能治理加速落地
理论的科学性最终要体现为实践指导力。贯彻落实习近平总书记关于人工智能治理的重要论述精神，应运用系统思维，构建覆盖人工智能研发、部署、应用与影响全链条的人工智能治理体系。
夯实数据治理基础。数据是人工智能发展的核心要素与战略资源，其质量、规模与治理水平直接决定了人工智能发展的深度与广度。加强数据治理，旨在突破数据要素化进程中的关键瓶颈，构建从原始数据到智能价值的安全可信通道。我国数据资源规模庞大、应用场景丰富，为人工智能发展提供了独特优势，但数据治理仍面临挑战，如数据基础质量与供给效率有待提升、数据安全威胁持续演进、生成式技术滥用导致数据生态污染等。为此，要创新数据要素市场化配置机制与生态，建立数据产权结构性分置制度；开展常态化的数据安全风险评估，对各类数据来源开展合规性审查，提升训练数据清洗效能；通过分场景、分层级、分应用进行数据管控，建立数据溯源体系，积极回应端云协同等新技术形态下用户数据保护难题，夯实人工智能发展的数据根基。
提升模型治理效能。人工智能大模型已成为智能系统的核心载体与能力中枢。模型自身的可靠性、安全性与价值观等，直接决定了立基于其上所有应用的品质与安全。因此，模型治理是人工智能治理体系中的关键环节。当前，模型安全面临新挑战，一是模型复杂度跃升，新型攻击手段难防御，补丁式防护思路不适用；二是模型风险识别难度高，一些风险指标难量化；三是随着智能体自主性的增强，其对物理世界和数字空间的运行秩序构成潜在威胁。我国已出台《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件，推动算法备案、大模型安全评估、内容标识等治理手段取得积极成效。下一步，应构建制度建设与技术创新并重、风险防控与应用赋能协同的模型治理体系。一方面，加强模型安全能力建设。可加强人工智能测试验证平台建设，支持第三方审计、评估、认证机构发展，提供模型测试验证、供需对接、内容标识检测等服务，落地模型对抗安全、后门安全、可解释性等检测能力，推进加固工具等技术开发共享。另一方面，可构建多主体协同联动的模型风险预警与应对机制。探索推动监管结果互认，统一监管要求与执行标准；推动企业定期报送风险阶段性评估报告，建立完善内部监测与预警机制；充分发挥行业组织的协调作用，加强对行业企业发展态势跟踪监测和合规评估。
优化应用治理生态。随着“人工智能+”行动纵深推进，人工智能正加速从“能思考”向“能实干”转变，应用场景持续扩大。这在解放和发展生产力的同时，也导致技术应用呈现跨域融合与系统性外溢特征，风险从虚拟数字空间向物理实体空间、伦理价值范畴等不断扩展和深化。优化人工智能应用治理生态，应确立场景化、精细化的治理导向，摒弃“一刀切”的监管模式，针对不同应用领域、具体应用场景实施科学的分级分类管理；着力厘清人机协作新形态下的权责边界，确保在关键决策节点上人类始终掌握最终的价值判断权与控制权，切实防范技术失控可能带来的实质性伤害；致力于维护公平竞争的市场秩序，营造开放包容的创新环境，推动算力、模型、数据等核心要素开放共享，从而实现人工智能红利的广泛覆盖与社会公平。
细化伦理治理要求。人工智能的伦理治理，不仅是技术规则的制定，更是价值秩序的构建。从全球来看，关于算法公平、数据隐私、机器责任的讨论大都深植于各国的历史文化传统之中。中华优秀传统文化中蕴含的“民为邦本”思想、“厚德载物”精神、“天人合一”理念、“执两用中”方法等，为我们构建以人为本、智能向善的伦理框架提供了深厚文化根基。将中华优秀传统文化融入人工智能伦理治理，是形成中国特色治理范式、为全球贡献中国方案的关键路径。应着力构建人工智能伦理治理的文化内核，系统挖掘中华优秀传统文化资源，形成一套与社会主义核心价值观相契合的人工智能伦理规则体系，推动研究机构、企业等将文化伦理理念转化为具体的技术标准与评估工具，并以多种形式前置到产品开发流程中。
强化全球治理协同。人工智能治理关乎全人类命运，是世界各国面临的共同课题。近年来，受地缘政治、文化传统、体制差异等影响，全球人工智能治理导向发生深刻分化。特别是个别国家采取去监管化、去多边化、出口管制等策略，将人工智能视为大国竞争的战略工具而非共同治理对象，极大削弱了全球人工智能治理的协调性。为此，必须积极落实《全球人工智能治理倡议》，构建开放、公正、有效的治理机制，从对人类文明进步负责的高度，加快形成具有广泛包容性的人工智能治理框架。坚定维护联合国在国际治理中的作用，在充分尊重各国国家主权、法律体系及文化传统的基础上，形成具有广泛共识的国际治理框架和标准规范。坚决反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展。倡导并践行真正的多边主义，通过多种方式支持发展中国家提升人工智能研发与应用能力，确保不同地区、不同群体公平地获取和受益于人工智能技术。
（作者为中国信息通信研究院院长）
【未经授权，严禁转载！联系电话028-86968276】
