■ 聚焦AI生成视频专题
■ 编者按：
前不久，数段“非洲版《新白娘子传奇》”的短视频在网间流传，引发众多网友关注，甚至被多家媒体视频号转发。这些最终被证实是AI生成、而非由非洲演员“翻拍”的视频，可谓给众多“上当”者敲响了一记警钟。当AI生成视频浪潮袭来，我们把目光投向了身在其中的学者、视频制作者、被误导者以及受害者，关注他们的亲身经历与看法。我们也专访了前沿科技与法律领域的资深学者於兴中教授，请他谈谈如何更好地应对AI科技发展带来的变化。此外，我们还刊发了一篇《智道》栏目的文章，请研究者探讨深度伪造技术对刑事证据带来的影响。期待这一专题能给广大读者带来启发。
▶ 未经授权 不得转载
文 | 《法治周末》记者 尹丽
《法治周末》实习生 薛佳乐
责任编辑 | 尹丽
“AI本身并无罪过，技术是中立的。但一旦AI被滥用，其造成的损害远超过传统非互联网时代以及互联网非AI时代”
原本正常对话的两人，突然扭打在一起。
这一幕，让手机屏幕前的赵阳（化名）“吓了一跳”。前不久，在北京工作的他在某视频平台“刷”到了一段自己十分熟悉的电视剧片段。可没看多久，他就发现这一片段完全颠覆了原本的剧情。正在怀疑自己是否记错了剧情时，赵阳注意到了视频左下角的一行小字：“该内容疑似使用AI技术生成，请谨慎甄别。”至此，赵阳基本确定，这段视频并非原片，而是人工智能（AI）技术生成的。
赵阳的经历并非个例。
如今，各大视频平台上的AI生成视频并不罕见。许多经过AI“加工”的电视剧片段，让很多网友产生了强烈的“反差感”。
比如，今年10月，数段“非洲版《新白娘子传奇》”的短视频就曾引发众多网友关注，甚至被多家媒体视频号转发。后来，这些短视频被证明是AI生成视频，而并非一些网友认为的由非洲演员“翻拍”的电视剧。尤其值得注意的是，在许多被转发的视频片段中，并未标注“AI生成”的提示文字。同时，在这些视频的相关评论中，还有不少“当真”的网友留言，认为“翻拍”的电视剧“在服装和道具方面都很用心”。
标签意味着“对观众的尊重”
AI生成短视频制作者纸墨only（网名）认为：“如今，AI生成逐渐被大众所接受、认可，视频使用AI不需要避讳。”对他而言，给视频打上“AI技术生成”的标签，意味着“对观众的尊重”。
“大家既然可以接受我的视频内容，我就更应该诚实地去对待观众。因为我的本职工作是游戏原画，我很清楚原创对于每一位作者来说意味着什么。”纸墨only说。他认为，虽然AI生成视频相较于常规视频的制作成本不高，但同样需要不断的修改调整才可以完成，也是创作者的劳动成果。
同为AI生成视频制作者的朱一末（网名）主业是导演。他坦言，自己接触AI生成视频是因为自己感兴趣，“毕竟拍摄、剪辑一个视频是非常麻烦的，但以AI的方式就十分方便了”。
和纸墨only一样，朱一末颇为看重“原创”二字。“如果制作出的成片需要通过他人提供素材或者共同拍摄剪辑，我一定会在片中对此进行说明。一方面，创作者大多都会尊重他人的劳动成果，另一方面，视频平台也会要求我们标注提醒观众。”
朱一末举例道：“此前，我发布了一条《聊斋志异‘画皮’》的AI生成视频，这条视频的创作灵感就是来自《聊斋志异》这部经典作品。发布时，我会在片头标注‘本影片所有画面均由AI生成’。”
随着AI生成视频的经验越来越丰富，朱一末也有了苦恼。“经常会有作品被盗用的情况。我的粉丝多次对我说，有培训机构在平台卖课时用我的视频切片‘引流’。”
一开始，得知此事让朱一末非常生气，“觉得自己的劳动成果被侵犯了”。但后来，当他发现通过平台举报没有得到任何的回应时，就“不知道该如何处理了”。
对此，中国政法大学光明新闻传播学院副教授朱巍认为，AI生成视频是否属于二次创作，要根据情况来判断。“就目前所见，很多情况是将作品配上自己的声音等，我认为这并不完全属于二次创作，且在大部分情况下是侵害著作权的。但有些二次创作，比如在原作品基础上创作出一个新作品，比如利用原有形象讲述另一件事，就像某个创作使用了原形象，但开启的是全新的故事线，配音也与原角色无关，让人判断不出原角色，这种情况可视为合理使用。”因此，“以AI生成的方式进行二次创作是存在风险的行为。”
专家建议严格开展信用治理
第一次刷到AI生成视频之后，赵阳发现，自己“刷”到此类视频的次数明显增多了。他因此也积累了一些辨别的经验：“一般AI生成的视频相比于原片都会模糊一些。并且，AI生成的人物动作、场景不是很合理。比如，人身上突然多出了两条胳膊。”据赵阳观察，不少AI生成视频风格是“恶搞”大众熟知的影视片段，从而吸引网友观看。
赵阳曾经在社交平台上做了一次试验——分享一条AI生成视频。在评论区，朋友们留言询问：“是真的吗？”“怎么和我看的剧情不一样？”这也引发了赵阳的担忧：“AI生成视频凭借病毒式传播速度，让许多不了解原视频的用户产生误解，可能涉嫌侵权。如果利用AI技术炮制假新闻，散播假消息，后果更是不堪设想。”
朱巍说，自己也曾被AI生成视频所“迷惑”。他回忆，自己曾在网上看过一段名人演讲视频。“一开始，我还奇怪这位名人怎么会讲‘鸡汤’，后来才发现视频是AI生成的。虽然评论中有网友指出了这一点，但视频的逼真程度连我都难以辨别，关键是这些内容并没有相关标记。”
朱巍介绍说，在我国，根据《互联网信息深度服务生成管理规定》《生成式人工智能服务管理办法》的要求，如果作品是通过AI生成技术完成的，必须告知公众这是AI编辑的作品，如果没有告知，就涉嫌违规。
在朱巍看来，诸如“名人讲鸡汤”之类的内容，公众一般会因为新鲜有趣而多看两眼，但若是传播虚假信息、诽谤、不正当竞争行为或者虚假广告等这类AI生成短视频泛滥，公众难免会看花了眼，产生对信息的误判。而一旦发生这种情况，AI生成短视频的发布者、搬运者以及视频平台都面临相应的法律责任。
“平台不仅要做好提示义务，还应该通过信用积分管理的方式来约束AI生成短视频的发布行为。”朱巍说，“我们要强调事中的举报受理以及被侵权投诉处理，还有事后的追责。在追责时，不仅要关注账号本身，还要注意自媒体背后的实际控制人、注册人。对于MCN机构而言，其线上线下相关联的企业和主要责任主体，以及整个传播矩阵中的所有账号都要考虑在内。这样一来，违法成本就会提高，标记或许会使流量有所减少，但如果不标记被发现，违法成本高昂，会影响其收入、流量，甚至导致封号。在管理上，该放宽的地方可以放宽，该严格管控的地方——尤其是信用治理方面，必须严格起来。”
“换脸”技术的受害者们
相比被AI生成的电视剧片段、名人演讲视频所误导，还有一些人的经历更加令人担忧。
今年7月9日，欧阳欧阳（网名）收到一条网友的私信。对方告诉她，有人声称是欧阳欧阳的男朋友，并把一些露骨的短视频发到了一些网站上。
欧阳欧阳后来才得知，自己遭遇了AI“换脸”。也就是说，那些露骨短视频中的人并不是她，而是利用AI技术把原视频中的人脸换成了欧阳欧阳的。
起初，欧阳欧阳有些“不知所措”，但冷静下来后，她立刻采取行动，包括保存网站上的视频作为证据等，并向警方报案。
据欧阳欧阳回忆，事发当天，她通过对身边朋友的试探，发现一名与自己相识的男子疑似AI视频的发布者。于是，她将一张从未发布到社交媒体且作了标记的照片上传到自己的朋友圈并设定为仅上述男子可见。4天后，这张作了标记的照片，果然出现在上述男子的网站主页上。
后来，上述男子被警方处以行政拘留十日。因为这件事，欧阳欧阳还接触到了其他的受害者。她们不仅遭遇了AI“换脸”，还被泄露了微信账号、真实姓名甚至身份证完整照片。最令她们无奈的是，根本找不到发布者的个人信息，“只能眼睁睁地看着”。
在另一些情况下，AI“换脸”视频成为诈骗者的工具。王霞就是这种视频的受害者。
前不久，一个陌生的电话号码打来，电话那头是王霞弟弟的声音。因为王霞得知弟弟换了新的手机号码，也就没太在意。不料，“弟弟”提出因为父亲住院要打视频电话，王霞没多想就接通了。
“视频里面确实是我妈在和我说话，我爸躺在病床上，背景特别真实。”王霞回忆说。当时，王霞主动提出需不需要钱，并毫不怀疑地给对方打了款。直到在朋友圈看到妈妈发的旅游照片，王霞才意识到自己被骗了。
朱巍告诉《法治周末》记者：“当下，许多所谓的AI不过是在开源的底层逻辑上做些改动，搞出些花样，这其实是一种营销手段，和真正的人工智能毫无关联。对于那些滥用AI或者以AI为幌子，实施侵权或违法行为的人和事，必须加大处罚力度。”
“AI本身并无罪过，技术是中立的。但一旦AI被滥用，其造成的损害远超过传统非互联网时代以及互联网非AI时代。因为AI能做到人脑难以企及之事，比如精准的信息匹配、精准营销等。当它获取大量数据信息，描绘出易受骗人群的画像，进而进行更精准的营销、欺诈、诱导，后果不堪设想。”朱巍说。
END
视觉编辑 | 马蓉蓉 实习编辑 王紫璇