四川法治报全媒体记者 曾昌文 受访者供图
当下，人工智能正加速融入医疗、教育、司法、行政等公共生活。技术带来效率的同时，也抛出了算法黑箱、数据安全、责任归属等法治新命题。当“技术跑得比法律快”，法治如何既不扼杀创新，又能守住公平正义的底线？近日，四川法治报《大家说法》栏目独家专访西南政法大学人工智能法学院教授、博士生导师、数字法治政府研究院执行院长冯子轩，听她拆解“AI+法律”的深层逻辑。
法律如何跟上人工智能发展的速度？
四川法治报：近年来，人工智能快速发展，已经进入医疗、教育、司法、行政管理等多个领域。与此同时，算法风险、数据安全、个人权益保护等问题也受到社会关注。您如何看待人工智能发展给法治建设带来的新挑战？
冯子轩：人工智能的发展正在改变社会运行方式，也对传统法治体系提出了新的挑战。人工智能不仅影响法律调整的对象，也改变了法律规范作用的方式，具体来看，主要体现在三个方面。
一是人工智能的发展对法律规则提出了新的要求。人工智能技术具有快速迭代、应用扩展和高度复杂等特点，传统以固定行为模式为基础的法律规则难以及时回应新型法律问题。同时，人工智能应用具有跨领域特征，需要推动法律规则从单一领域规制向综合治理转变。
二是人工智能的发展对责任认定提出了新的挑战。人工智能参与决策后，行为形成过程转变为技术系统、数据提供者、算法开发者和应用主体共同作用的结果。传统法律责任认定主要围绕人的行为展开，而人工智能应用增加了责任链条的复杂性，需要进一步明确不同主体的责任范围和归责依据。
三是人工智能的发展对权利保护提出了新的要求。算法决策和数据处理改变了个人与技术系统之间的关系，可能影响个人信息权益、知情权、程序参与权等基本权利。例如，算法推荐、智能执法和辅助司法中的不透明性，可能削弱公众对决策过程的理解和监督。因此，需要完善相关法律制度，保障技术应用符合公平、公正和程序正义要求。
四川法治报：人工智能的发展需要技术创新，也需要法律规范。有人认为，科技发展速度远远快于法律调整速度。面对人工智能带来的新问题，法律治理应当如何把握创新与规范之间的关系？
冯子轩：面对技术快速发展带来的新问题，法律治理需要在促进创新和防范风险之间实现平衡。人工智能治理需要根据技术特点完善治理理念和制度机制，具体来看，需要把握三个方面。
第一，要坚持发展导向，为技术创新提供制度空间。人工智能具有高度创新性和不确定性，法律治理需要保持必要的开放性，为技术研发和应用提供稳定预期。同时，应当避免过度规制影响技术发展，通过明确基本规则和行为边界，引导创新活动依法开展。
第二，要坚持安全导向，明确技术应用的基本要求。人工智能应用需要根据不同应用场景和风险程度采取相应监管措施。对于涉及国家安全、重要公共利益及个人重大权益的应用，应当强化法律约束，明确技术使用条件和责任要求。
第三，要坚持回应导向，完善动态治理机制。人工智能技术具有快速迭代特点，法律规则需要保持适应性，根据技术发展和社会需求不断调整。
如何应对人工智能应用的法律风险？
四川法治报：人工智能技术已经深入日常生活和民事活动领域，AI换脸短视频、AI克隆声音带货等现象屡见不鲜。您如何看待人工智能给民事生活领域带来的法律风险？
冯子轩：我们需要客观看待人工智能的发展，既发挥技术创新带来的积极作用，也关注技术应用产生的法律风险，通过法律治理推动人工智能健康发展。
具体来看，人工智能在民事社会生活领域带来的法律风险主要体现在以下四个方面。
一是人格权益侵害风险。人工智能生成、修改图像和声音的能力不断增强，未经本人同意使用他人的肖像、声音等人格要素，可能侵害个人的肖像权、声音权益。例如，AI换脸技术可以将他人的面部特征应用于生成视频，未经授权使用他人形象本身就可能构成人格权益侵害。如果相关内容经过歪曲、丑化或者误导性传播，还可能侵害个人名誉权。
二是个人信息保护风险。人工智能运行需要收集和处理大量数据，其中可能包含身份信息、行踪信息、生物识别信息等敏感个人信息。如果数据收集、使用和保存缺乏规范，可能导致个人信息被过度利用、非法传播，损害个人信息权益。
三是生成内容失真风险。生成式人工智能在运行过程中可能出现“幻觉”现象，即系统根据已有数据生成看似合理但实际错误的信息。这一问题可能导致人工智能生成内容存在事实错误。例如，用户在医疗咨询、消费决策等场景中向人工智能获取信息时，系统可能提供不准确的回答，影响用户判断。如果相关错误信息进一步传播，还可能误导他人，造成不良影响。
四是知识产权保护风险。生成式人工智能的发展依赖大量数据训练，训练数据的来源、获取方式和使用规则涉及知识产权保护问题。目前，人工智能训练过程中如何处理与已有作品之间的关系，仍存在一定争议。同时，人工智能生成内容的权利归属问题也需要进一步明确。
面对人工智能应用带来的法律风险，需要坚持科技向善理念，从权利保护、内容治理、责任规范等方面加强法律规制，引导人工智能健康发展。具体来说，第一要加强个人权益保护。人工智能应用涉及人格权益和个人信息保护，对于涉及肖像、声音、个人信息等内容的处理，应当强化授权和保护要求，保障个人能够有效维护自身合法权益。第二要加强人工智能生成内容管理。针对生成式人工智能可能产生错误信息的问题，需要提高生成内容的准确性和透明度。对于医疗咨询、消费决策等涉及重要利益的应用场景，应当加强风险提示，帮助用户正确理解和使用人工智能生成内容，减少错误信息带来的影响。第三要明确人工智能应用中的知识产权规则。针对人工智能训练数据来源、使用方式及生成内容权利归属等问题，需要进一步明确相关法律规则，在保护知识产权的同时，为人工智能技术发展提供合理空间。第四要明确相关主体责任。人工智能应用涉及技术开发者、服务提供者和使用者等多个主体，需要根据不同主体在技术开发、数据处理和内容生成过程中的作用，明确责任范围，保障受侵害主体获得有效救济。
四川法治报：算法是人工智能运行的重要基础，但算法不透明可能带来决策依据不清、责任难以追溯等问题。面对“算法黑箱”，法律应当如何回应？
冯子轩：算法是人工智能运行的重要基础，算法治理也是人工智能法治建设的重要内容。面对“算法黑箱”问题，法律需要关注算法运行过程中的可理解性、可监督性和责任承担问题，推动算法应用符合基本法治要求。
第一是要完善算法透明制度。算法透明的核心在于保障算法运行过程具有必要的可理解性和可监督性。由于算法系统具有专业性和复杂性，我们不要求公开全部技术细节，而是要求相关主体能够了解影响决策的重要因素、基本逻辑和运行规则。特别是在行政执法、司法裁判等领域，应当提高算法应用透明度，保障公众对技术决策过程的合理监督。
第二是要完善算法解释制度。算法解释制度能够帮助公众理解决策依据，也能够促使算法设计者和使用者对技术应用承担相应责任。对于自动化决策、智能推荐等影响个人权益的场景，需要明确解释范围、解释主体和解释方式，保障程序公正。
第三是要完善算法责任制度。算法应用涉及数据收集、模型开发、系统部署和具体使用等多个环节，责任主体具有多元化特点。法律需要根据不同主体在算法运行过程中的作用，明确责任分配规则，完善算法审查、风险评估和责任追究机制。
公众如何认识和使用人工智能？
四川法治报：近年来，我国司法实践中出现了与人工智能相关的新型案件，例如全国首例AI生成声音人格权侵权案。结合中国实践，人工智能应用中的法律问题可以如何解决？
冯子轩：结合中国实践，当前人工智能法治建设应当坚持发展与规范并重，通过完善制度体系、细化治理规则、强化权益保障，推动人工智能依法有序发展。
关于完善人工智能领域的法律规则，7月30日召开的中共中央政治局会议指出，“发展智能经济新形态，完善人工智能治理体系”。这为人工智能规范发展提出了新的要求。随着人工智能应用范围不断扩大，需要加快人工智能立法，明确技术应用中的基本要求、责任边界和权利保护规则，为人工智能发展提供稳定的法律依据。
关于加强重点领域规则建设，人工智能应用具有较强的场景差异，不同领域面临的风险类型和治理需求不同。因此，需要围绕自动驾驶等重点领域完善具体规则，根据应用风险程度建立差异化治理机制，提高人工智能治理的精准性和有效性。
针对强化人工智能应用中的权益保护，由于人工智能应用涉及个人信息、人格权益和公共利益，需要将权利保障贯穿技术开发、部署和使用全过程。应当完善数据保护、算法解释、程序参与和责任追究等制度，推动人工智能发展符合公平、公正和法治要求。
四川法治报：对于公众而言，人工智能已经成为日常生活的一部分。您认为公众应当如何认识人工智能？
冯子轩：人工智能正在深刻影响公众生活方式，公众需要以理性、客观的态度认识和使用人工智能。
首先要理性认识人工智能的作用。虽然人工智能能够提高社会运行效率，为公众提供更加便利的服务，但其运行依赖数据、算法和技术设计，具有一定的不确定性。公众需要了解人工智能的基本运行逻辑，正确认识技术能力和应用范围，避免对人工智能产生过度依赖或者不合理期待。
其次要增强数字权益保护意识。由于人工智能应用涉及大量数据处理，可能影响个人信息权益、隐私权益和人格权益，因此，公众在使用人工智能过程中，需要提高数字权利保护意识，从而依法维护自身合法权益。
第三要提升人工智能应用责任意识。人工智能的发展需要良好的应用环境，公众作为人工智能服务的重要使用者，应当遵守相关法律规则，合理使用人工智能工具，避免利用技术实施侵害他人合法权益或者破坏社会秩序的行为。
【未经授权，严禁转载！联系电话028-86968276】
