封面新闻记者 粟裕

“你是温峥嵘,那我是谁?”此前演员温峥嵘怒斥AI仿冒者一事冲上热搜,揭开AI技术被滥用的冰山一角。

温峥嵘遭遇仿冒AI带货。截图

无独有偶,女星张馨予也曾在社交平台发文,称有商家利用AI技术复制其声音售卖减肥药。

不仅如此,还有人利用AI技术深度伪造张文宏医生的脸部和声音进行直播带货。甚至,中国工程院院士张伯礼也成了受害者之一。

封面新闻记者调查发现,网络上一些商家有的借助名人效应,仿冒专家学者、奥运冠军、影视明星;也有的借助产地效应,冒充知名品牌。消费者、粉丝难辨真伪。这类AI合成的虚假视频正成为不法商家引流带货的工具,甚至暗藏诈骗风险。

据抖音电商披露,截至今年6月,平台累计被动处置侵权仿冒达人账号1.2万个,仿冒带货商品4.8万件,侵权营销内容26.1万条。

9月7日,《最高人民法院关于依法审理涉人工智能纠纷案件的意见》发布。明确依法规制“大数据杀熟”“仿冒名人带货”等侵害消费者合法权益的行为。经营者提供商品或者服务时,利用人工智能实施“仿冒名人带货”且构成欺诈,依据消费者权益保护法第五十五条规定主张惩罚性赔偿的,法院依法予以支持。

最高法新闻发布会。图片来源:最高法

“这是我国首部由国家最高审判机构发布的涉AI司法裁判规则文件。明确了在AI换脸、仿冒名人等具体场景下的责任认定规则,填补了法律空白,为未来立法积累了司法经验。”中国政法大学副教授、北京市电子商务法治研究会副会长朱巍接受封面新闻专访表示,此前一些个案中进行了探索,而《意见》的价值在于将这些探索上升为统一裁判规则。

解析:

“AI仿冒名人带货”构成哪些侵权?

2025年6月,北京市海淀区市场监管局查处某公司利用AI技术冒用央视主持人名义和形象的虚假广告案。该公司通过AI技术剪辑知名主持人李梓萌视频,加入自行设计的口播内容,在自有网络账号上以短视频等形式发布“深海多烯鱼油”广告,宣称“可解决头晕头痛、手麻脚麻、四肢乏力”。这是北京市场监管部门运用《广告法》对滥用AI技术冒用知名人物形象发布虚假广告的首度“亮剑”。

某公司通过AI技术剪辑主持人李梓萌视频推广广告。截图

朱巍表示,商家使用AI生成名人形象推荐商品的行为,已构成多重侵权。未经允许用AI技术生成名人肖像与声音宣传商品,侵犯人物肖像权及声音权;若所推荐商品为假冒伪劣产品,导致被仿冒者社会评价降低,则还侵犯名誉权。被侵权人有权要求商家停止侵害、赔礼道歉、恢复名誉、赔偿损失。

“商家行为侵犯消费者知情权。消费者权益保护法第八条规定,消费者享有知悉购买、使用的商品或接受服务真实情况的权利。AI生成‘名人’推荐商品,使消费者出于对带货‘名人’的信任下单,侵犯了知情权。”朱巍表示,商家虚构商品有名人背书事实,使消费者非出于自身真实意愿购买商品,构成欺诈,消费者还可请求“退一赔三”。

根据消费者权益保护法,经营者存在欺诈行为时,消费者可要求三倍赔偿(不足500元按500元计算)。欺诈需满足四要件:主观故意、实施欺诈行为、消费者产生错误认识、基于错误作出购买决定。

案例:

“AI仿冒名人卖货”此前怎么判决?

记者注意到,北京互联网法院发布的一起涉人工智能典型案件中,认定未经权利人许可使用AI合成的名人声音用于“带货”构成侵权,委托推广商家应承担连带责任。

案情显示,原告李某某在教育、育儿领域具有一定知名度和影响力。2024年,原告发现被告某文化传媒有限公司在其运营的某网络平台店铺中,通过使用原告的公开演讲、授课视频,并配以与原告声音高度近似的AI合成声音,宣传推介多本家庭教育类图书。

法院认为,涉案视频使用了原告肖像及AI合成声音,该声音与原告声音在音色、语调、发音风格上具有高度一致性,结合原告在教育、育儿领域的知名度,涉案视频对家庭教育类书籍进行宣传推介,更易使观看涉案视频的公众将视频中的相关内容与原告之间建立联系,可认定一定范围内的听众能将涉案AI合成声音与原告本人建立一一对应的联系。

因此,涉案声音落入原告声音权益保护范围。涉案推介视频大幅使用原告肖像、合成模拟原告的声音,未取得原告授权,故涉案视频的发布行为构成对原告肖像权和声音权益的侵犯。

法院判决被告赔礼道歉、赔偿经济损失及原告维权合理支出12万元。

“只要能使社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人,即具有可识别性,应纳入该自然人声音权益保护范围。”朱巍说,企业这种“混淆行为”属不正当竞争;商业带货场景下,足以让公众误认主体身份,构成人格权侵权。

他还表示,该类案件除民事侵权外,还可能触及多项刑事罪名。比如情节严重的会涉及虚假广告罪;如售卖假冒伪劣商品,会构成销售伪劣产品罪。

追问:

电商平台是否应担责?

朱巍表示,平台对商家利用AI技术生成的推广内容负有合理审查义务。如明知或应知商家利用AI仿冒名人带货却未采取必要措施,需承担连带责任。9月1日起施行的《人工智能生成合成内容标识办法》明确,AI生成的文本、音频、图片、视频等内容需添加显式和隐式标识,平台应对文件数据进行核验,添加相应标识提醒公众,对无标识疑似生成内容也应添加风险提示。

“同时,也要客观看待,不能要求平台对每条带货视频,都核验是否拿到明星本人授权。”朱巍说,网络上本身存在大量明星正版代言、直播切片,平台没办法逐条区分哪些是真实授权、哪些是AI伪造,这是客观技术局限。

对于电商平台责任边界,朱巍建议,落实AI生成内容强制标识;针对反复被投诉举报、高频遭受AI仿冒的名人,平台可增设核验环节,加强审核,要求上传者出示书面授权。此外,收到权利人侵权通知后,须第一时间采取下架、屏蔽等必要处置措施,这是平台法定义务。平台作为技术生态组织者和受益者,应承担与技术控制力和获益相匹配的治理责任。

支招:

如何辨别AI仿冒名人视频?

“太可怕了,视频、口型、声音完全看不出真假。形象被盗用,把我AI了。”演员王劲松今年2月怒斥AI盗用形象。

演员王劲松“被AI”。截图

本人如果都难辨真假,消费者如何辨别仿冒名人AI视频?朱巍说,仿冒内容多以短视频形式传播,看到视频带有AI生成标识,就要提高警惕。遇到疑似AI生成的图片或视频,却没有显著标识,尤其涉及名人明星带货、推荐商品等场景,不要因其“背书”轻易下单,可通过官方渠道核实产品信息。

朱巍提醒,一旦发现被骗,第一时间在平台发起举报。做好证据留存,短视频、直播画面要及时截图、录屏取证。按规定直播回放平台需要留存三年,消费者可向平台申请调取电子证据。可依据消费者权益保护法、产品质量法,走消费维权流程,同时向平台举报投诉。