封面新闻记者 边雪
10月18日凌晨3时许，演员吴越在微博发文质问：“一觉醒来，谁在利用AI肆意抓人替自己作恶？”吴越还向一个名为“花姐”的账号喊话，要求对方退还骗取的钱款。
当天上午，相关话题迅速登上热搜。根据公开报道，涉事账号发布了一段以“明星同款、吴越推荐”为卖点的护肤品推广视频，视频中的声音模仿吴越的口吻，宣称产品效果明显，甚至称“孕妇都能用”。视频还出现了乒乓球冠军邓亚萍相关的带货画面。值得注意的是，该视频页面标注了“含AI生成内容”。
微博截图。
明星推荐产品，本是商业营销中常见的做法。但当推荐者本人可能根本没有参与，熟悉的面孔、声音和口吻却被用来推销商品，消费者面对的就不再只是广告真假问题，如果眼睛看到的、耳朵听到的都可以被人工智能仿造，人们还凭什么相信视频推荐的产品质量可靠？比虚假推荐更值得警惕的是，如果消费者真的因为相信明星背书而下单，买到的产品又存在质量问题，甚至使用后出现身体不适，损失该由谁承担？
“用户利用AI换脸技术伪装，导致被伪装人的肖像权等权利受到侵害，或造成他人财产损失时，如果平台未尽到合理审核义务、未能有效规制相关行为，可能需要承担相应的帮助侵权责任，甚至直接侵权责任。”泰和泰律师事务所律师刘青接受封面新闻记者采访表示，不过，除非平台故意为之或协助实施诈骗，否则不能简单认定平台构成诈骗罪。
从“明星推荐”到“明星被推荐”：AI正在消耗信任
这类视频真正值得警惕的，并不只是画面是否逼真，而是它试图让消费者相信一件原本没有发生的事：某位明星亲自试用了一款产品，并愿意为其背书。
在涉事视频中，推广者将产品包装成吴越主动选择、亲自体验后推荐的商品，并以回馈老粉丝、厂家送福利等话术营造亲近感。“这个产品不是他们找我，是我找他们”，这样的表达尤其容易让人产生一种印象：这不是一条普通广告，而是明星主动分享的使用体验。
视频中的人物形象、声音和台词，并不能单独证明当事人确实参与了产品推广。相关说法是否出自吴越本人、她是否实际使用过该产品、产品宣传内容是否真实，都需要独立核实。AI生成的推荐内容，也不能作为产品功效的证据。
这类内容的风险，在于它把消费者对公众人物的既有信任，转化为商品销售的工具。传统虚假广告往往需要编造产品效果、伪造用户评价；而AI仿冒则可能进一步把一个真实存在的人，包装成虚假宣传的“证人”。即使消费者对产品本身了解有限，只要相信推荐者确实是自己熟悉的明星，就可能降低警惕。
类似问题并非只有吴越一人遇到。据封面新闻此前报道，演员温峥嵘此前曾表示，自己发现多个直播间出现疑似冒用其形象的带货内容，甚至在进入相关直播间质疑时被拉黑。她曾感叹，很难证明自己才是本人。
当同一个人的形象能够同时出现在多个直播间，向不同消费者推销不同商品时，公众人物面临的就不只是肖像被使用的问题。消费者可能把虚假推荐误认为真实意见，商家可能借名人影响力获客，而真正的当事人则要花费额外精力澄清、维权。
AI在这里扮演的角色是放大器，能够降低制作门槛，却不能自动为内容提供真实性。一个人的声音可以被模拟，一段看似自然的推荐可以被生成，但这些技术结果并不意味着当事人作出了相应承诺。
某视频软件可生成AI数字人。（图源新华社）
10月17日，某头部直播带货平台工作人员王羽（化名）告诉封面新闻记者，AI技术的发展将推动AI换脸直播“更加精确和真实”，从而更好地满足品牌方需求；消费者偏好也会影响这一行业的发展方向。据其透露，当前实时换脸延迟已压缩到200毫秒左右，经算子优化后单帧处理甚至能到30毫秒以内，直播观看距离下肉眼几乎无法分辨。技术上的“像”，对AI工具来说早已不是瓶颈。
视频已标注“含AI生成内容”，为何风险仍然存在？
截至发稿，涉事视频页面已无法查看，据报道该视频此前已经标注“含AI生成内容”。这也带来一个现实问题：有标识，是否就意味着风险已经得到控制？
2025年9月1日起施行的《人工智能生成合成内容标识办法》，对AI生成合成内容的显式标识、隐式标识以及传播平台的相关责任作出了规定。办法要求相关服务提供者按照规定添加标识，网络信息内容传播服务提供者也应核验相关标识信息，并根据不同情形采取提示措施。用户发布生成合成内容时，应主动声明并使用平台提供的标识功能。
然而，标注内容由AI生成，与标注内容中涉及的事实是否真实，是两个不同的问题。
一段视频即使明确标注了AI生成，也不意味着它可以随意使用他人的形象和声音，更不意味着其中的商业宣传因此获得合法性。反过来，如果视频标识不够醒目，消费者在刷视频时没有注意到提示，或者内容在转发、剪辑过程中脱离原有语境，标识也未必能有效阻止误导。
从技术原理看，声音克隆可以通过学习目标人物的音色、语调、语速等特征，生成听起来相似的语音；深度合成技术还可以用于生成或修改人物影像。
中国社会科学院大学互联网法治研究中心主任刘晓春指出，未经授权、未进行标注地使用他人声音制作AI语音产品，尤其是借用公众人物声音，容易引起误解，并可能侵害个人信息权益、扰乱网络空间秩序。
明星换脸直播。
对消费者而言，视频是否真实，往往不能仅靠肉眼或耳朵判断。画面可能经过处理，声音可能经过合成，台词也可能是模型根据营销需求生成的。即便某些细节看起来不自然，也不能据此断定所有AI视频都能被普通用户轻易识别；同样，画面流畅、口型自然，也不能证明内容真实。
防范这类风险不能只靠消费者“看破绽”，更有效的做法，是让内容来源、制作主体和商业授权关系更容易被核验。平台可以结合显式标识、文件元数据、内容检测和账号行为识别等措施，对疑似仿冒公众人物进行进一步核查。对于涉及产品功效、医疗健康等高风险宣传的内容，还应强化广告资质和相关证据的审核。
记者注意到，中央网信办发布的《人工智能生成合成内容标识办法》专家解读也提出，治理需要覆盖内容制作和传播环节，通过标识、技术检测、多模态鉴伪和溯源等手段共同发挥作用。这意味着，AI治理的重点不只是识别“视频是不是AI做的”，还要进一步回答：谁制作了它，谁发布了它，是否获得授权，是否借此实施虚假宣传，以及发现问题后能否及时追溯和处置。
从虚假背书到消费损失：谁来为AI造假买单？
在类似的AI仿冒带货中，一旦虚假推荐与产品质量问题、夸大功效甚至消费欺诈叠加，消费者面对的就可能不只是一场购物纠纷。不少网友质疑，如果消费者真的因为相信明星背书而下单，买到的产品又存在质量问题，甚至使用后出现身体不适，损失该由谁承担？
针对AI仿冒内容的维权问题，刘青建议，发现肖像被盗用或遭遇AI换脸时，应第一时间保留证据，并向网络平台运营商投诉，要求下架侵权图片或视频；必要时，可以通过人格权诉讼维护自身合法权益。如果遭遇诈骗，则应及时报警，并保存相关材料。
对消费者而言，第一步也是留证。购买前后的宣传视频、账号主页、商品详情页、订单和支付记录、与商家的聊天记录，都可能成为后续维权的重要证据。如果使用产品后出现不适，应及时就医，保留病历、诊断证明和相关费用凭证，并妥善保存产品包装、批次信息及剩余产品，以便进一步核查产品质量和损害之间的关系。
消费者可以向销售商家或平台提出退款、退货、赔偿等诉求；涉及产品质量、虚假宣传或违法广告的，可以向市场监管部门投诉举报，也可以通过全国消协智慧315平台寻求帮助。涉嫌诈骗的，应及时向公安机关报案。
如果经营者存在欺诈行为，消费者还可以依据《消费者权益保护法》第五十五条主张惩罚性赔偿：增加赔偿金额为购买商品价款或者接受服务费用的三倍，不足500元的按500元计算，法律另有规定的除外。不过，买到不满意的产品并不必然等于法律意义上的欺诈，是否适用“退一赔三”，仍需结合经营者是否存在欺诈行为及具体证据判断。
如果问题出在产品质量本身，责任也不能简单地推给AI视频的制作方。生产者、销售者应根据各自的法定义务和具体情况承担相应责任；如果消费者的损害与虚假宣传、错误推荐或其他违法行为有关，还需要进一步查明相关主体的行为、过错及因果关系。AI仿冒可能是消费者作出购买决定的诱因，却不能替代对产品质量和责任主体的调查。
从法律层面看，《民法典》明确规定，自然人享有肖像权，未经本人同意，不得以信息技术手段伪造等方式侵害他人肖像权；对自然人声音的保护，也参照适用肖像权保护的有关规定。如果虚假推荐进一步损害明星的社会评价，还可能涉及名誉权问题。
明星被冒名使用肖像或声音，并不意味着其必然要为仿冒视频中的产品质量承担责任。是否需要承担广告代言相关责任，仍要看其是否实际参与广告活动、是否作出相关推荐，以及是否存在法律规定的其他责任情形。对于未经授权、完全由他人制作的虚假背书，关键在于查清是谁制作、谁发布、谁从中获利，以及各方是否存在应当承担责任的行为。
对平台来说，内容标识也不应成为治理的终点。标注“含AI生成内容”，只能帮助用户理解内容的制作方式，不能替代对虚假身份、虚假广告和侵权行为的审核。对于利用公众人物形象反复发布商品推广内容的账号，平台有必要核验其授权和商业推广依据；接到当事人投诉后，也应及时保存证据、核查内容来源，并按照规则采取相应措施。
AI仿冒带货由此呈现出一条更复杂的风险链：消费者可能因虚假背书买到问题产品，明星可能因虚假推荐承受声誉损失，而真正的经营者和制作发布者却可能藏在不同账号和交易链条背后。要让受害者获得有效救济，既需要消费者保留证据，也需要平台协助追溯内容和交易主体，更需要监管部门对涉嫌违法行为及时调查处理。
“AI技术不是问题的全部，生成式人工智能可以用于影视制作、广告创意和无障碍服务，合理应用本身具有价值。真正需要被限制的，是未经授权地冒用他人身份，以及借助合成内容制造虚假事实、误导消费者的行为。”王羽说。
当AI可以轻易借用一个人的脸和声音，消费者需要的不应只是辨别真假的能力，明星也不应被迫反复证明“这不是我”。更重要的是建立清晰的责任机制：谁借用他人的身份获利，谁就应当为自己的行为接受核查；谁销售不合格产品，谁就应依法承担相应责任。技术越逼真，真实性核验就越不能只依赖直觉。AI可以生成一张脸、一段声音，甚至一套完整的推销话术，却不应成为虚假背书的免责理由。
【未经授权，严禁转载！联系电话028-86968276】
