近日，
知名模特叶凯薇发视频称，
其被人利用AI换脸制作淫秽视频，
并大量传播，
造成严重困扰，
目前已经收集证据并报警。
有媒体从警方处获悉，
经鉴定，
该视频确系拼凑伪造，
正在进一步调查中。
利用AI换脸制作淫秽视频，
该担何责？
AI换脸乱象频现
如何治理？
一起来看《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程律师的专业解读！
利用AI换脸制作淫秽视频，
该担何责？
利用AI换脸制作淫秽视频，行为人需承担相应的法律责任，可能包括刑事责任和民事责任。从刑事责任来说，若行为人以牟利为目的，使用AI换脸技术制作并传播淫秽视频，可能触犯制作、复制、出版、贩卖、传播淫秽物品牟利罪。即使不以牟利为目的，只要制作和传播淫秽视频达到一定标准，也涉嫌传播淫秽物品罪。例如，传播的淫秽电子信息实际被点击数达到2万次以上，就可能被处以二年以下有期徒刑、拘役或者管制。向不满十八周岁的未成年人传播淫秽物品的，从重处罚。
从民事责任来说，行为人对受害人构成侵权，可能涉及到侵犯其肖像权、隐私权和著作权等。民法典明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经本人同意，使用其面部特征进行AI换脸制作淫秽视频，明显构成对肖像权的侵犯，受害人有权要求侵权人承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任。另外，使用他人非公开的面部数据（如私人照片、视频）进行换脸，或者传播涉及私人生活的换脸内容，可能侵犯他人隐私权，受害人可依法要求侵权人承担相应的民事责任，包括赔偿精神损害抚慰金等。如果在AI换脸过程中使用了受版权保护的影视作品或摄影作品作为素材，可能构成侵犯著作权，著作权人有权要求侵权人承担停止侵权、赔偿损失等责任。
AI换脸乱象频现如何治理？
AI换脸技术的滥用，不仅是对受害人个体的侵害，更是对社会公序良俗的践踏、对稳定的社会环境和清朗的网络空间的挑战。我国民法典、治安管理处罚法、刑法等法律，对于利用AI换脸制作淫秽视频的违法行为，规定了相应的民事责任、行政责任、刑事责任，行为人需承担相应的法律责任。同时，针对AI以假乱真、虚假信息泛滥、破坏网络生态等问题，我国目前已出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规，对内容造假者和传播平台的法律责任都有明确规定。近日，国家网信办联合多部门发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行，重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，规范人工智能生成合成内容标识。
对此，相关服务主体应建立健全AI内容审核机制，及时发现和处理违规的AI换脸作品。同时，明确技术使用规则，要求使用者遵守法律法规和道德规范。公众则需提高对AI换脸技术的认识和风险意识，在网上发布照片时注意保护个人隐私，发现不法行为时第一时间报警。治理AI换脸乱象需要全社会的共同努力，通过完善法律法规、加强监管和行业自律等多种方式，营造一个健康、安全的网络环境。
策划：杨新顺 宋胜男
文字：罗聪冉
视频：李唯祎 李宗奇
来源｜法治日报编辑｜宋胜男 朱雨晨 岳铼