对借真情感赚黑心钱的灰色产业,必须精准打击,监管部门要及时发力作为,平台也应该加大主动甄别和排查力度,不能手软。只有当冒充无利可图、假视频来不及扩散,怀念才不会被做成生意。

距离刘欢离世不过十余日,网络上便冒出冒充其家属,兜售保健品的AI合成视频。画面中,经过处理的声音颤抖着说“老刘他走了”,之后切入带货环节。视频引来不少人观看,评论区甚至有人信以为真,留下安慰留言。

以往,也有人用AI仿冒奥运冠军全红婵卖土鸡蛋,孙颖莎、王楚钦也遇到过同款AI仿冒带货。而这次,被仿冒的不是明星本人,而是借公众对刘欢的怀念,伪装成亲人推销养生食品。这样的AI假视频,消费大众感情,冒犯、侵权的恶劣程度又加一等!

这种手法,偏偏很容易让人“中招”。很多人一看视频就觉得不对劲,画面看着别扭,可在共情之下,这种异常容易被忽略。视频角落虽然标了“AI生成”,但字很小,让人根本注意不到。骗子要的就是这个效果:先用“老刘他走了”击穿情绪防线,再用保健品完成收割。所谓信息误导和消费陷阱,并不是藏在多高明的技术里,而是藏在“你来不及细想”的那几秒。

当下,制作AI假视频门槛很低,当事人也深谙短视频平台的生存之道,骗一波钱,封号了大不了换个账号继续发布,造假几乎花不了什么成本。可在另一端,维权却很麻烦,家属要自己到处找这些假视频,一条条收集证据再去投诉。等处理流程走完,骗子往往已经赚到钱了,而消费者可能也花了钱买到一些低质商品。一边造假成本极低,一边维权费时费力,骗局才会反复冒出来。

大众一份朴素的怀念,不应成为骗子的流量密码。治理一直在进行中,数据显示,今年仅前4个月,某主流短视频平台就已累计下架AI侵权视频超53.8万条。对借真情感赚黑心钱的灰色产业,必须精准打击,监管部门要及时发力作为,平台也应该加大主动甄别和排查力度,不能手软。只有当冒充无利可图、假视频来不及扩散,怀念才不会被做成生意。

‍‍

评论员丨仁言

编辑丨李意