智道
聚焦前沿科技与法律伦理的交汇碰撞
栏目主持人：於兴中
投稿邮箱：zhidao0101@163.com
▶ 未经授权 不得转载
文 | 班艺源
责任编辑 | 尹丽
最近，广东省深圳市的吴先生突然收到一个陌生手机号码发来的彩信，彩信内容是自己和一名陌生女子的不雅照。发彩信的对方以此要挟吴先生在期限内给其银行卡汇款，宣称如不照做就会把这些不雅照发送给吴先生的亲朋好友。吴先生觉得不对劲，便报警了。警方接到报案后，立即对吴先生所提供的线索展开了侦查。通过梳理报案记录，警方发现全市类似案件的报案情况不仅吴先生一人，连犯罪嫌疑人的敲诈方式都如出一辙。
经过进一步调查，警方发现这是一个有组织的犯罪团伙。犯罪嫌疑人的主要手段是通过使用深度伪造（DeepFake）技术将受害人的面部特征替换到色情视频主人公脸上，以此生成不雅照，并对受害人进行敲诈勒索。在掌握大量线索之后，警方进行了收网行动，抓获了十余名犯罪嫌疑人。并在犯罪嫌疑人的电脑中，查获了大量通过使用深度伪造技术生成的不雅视频。目前，该案件正在进一步办理中。
近年来，随着信息技术的不断发展，技术使用门槛的降低，不仅便利了社会大众的生活，也滋生了一系列新型犯罪。其中，与深度伪造技术融合的犯罪就有不同的表现形式。
从“有中生有”到“无中生有”
根据媒体报道，宁夏的马先生也遭遇了利用深度伪造技术生成视频所打造的骗局。马先生在某天上网时突然收到了表哥打来的视频电话，表哥声称自己在非洲务工，急需用钱，请求马先生借自己1.5万元并打到其所提供的银行卡上。因为马先生通过视频电话，已经核对了“表哥”的声音样貌，再基于对亲戚的信任，马先生毫不犹豫地将1.5万元按要求转到了对方指定银行账户上。事后马先生与亲戚核对，才发现自己被骗。视频中的“表哥”是犯罪嫌疑人利用深度伪造技术所生成的冒牌货。得知自己被骗后，马先生立即报警，警方也展开了侦查。
放眼全球，深度伪造技术用在视频造假领域已屡见不鲜。早在2018年4月，美国娱乐网站BuzzEeed发布了一条美国前总统奥巴马的一段讲话，而现实中，这段讲话从未发生过。这条视频采用FakeApp制作，据说花费了56个小时来搜集和汇总奥巴马的相关模型。该视频用于政治领域的虚假宣传，在当时引起了不少网友的关注。该视频使用的片段为实际存在的事实，深度伪造技术只是对视频的连贯性加以调整，因此在这个时期深度伪造技术仍处于“有中生有”的阶段。
但是随着今年2月美国OPEN AI发布了又一款文字生成视频模型Sora，只需输入文字描述便可以直接生成60秒相关视频，且其所生成的视频具有丰富的细节和连贯性，可以生成不需要以任何真实视频为依托的完全虚拟视频，标志着深度伪造技术从“有中生有”正式进入到“无中生有”阶段。深度伪造技术的进步带来生产力的进步，提高了文艺工作者的创作力，突破了文艺作品表现力的上限。而刑事诉讼领域所需面对的是基于深度伪造技术形成的伪证的侵入风险。
对刑事证据的三种侵入表现
证据向来是以真实性为基准的，但是深度伪造技术打破了“有图有真相”的固有认知，其所生成的图像视频能够以假乱真，混淆虚拟与现实的界限，对于现在而言，有图不一定代表就是真相，致使刑事证据的真实性面临挑战。
深度伪造技术对于刑事证据的侵入表现形式分为以下三种：其一表现为深度伪造技术所创造出的伪证对于书证的侵入。深度伪造技术所生成的图像分为两种类型，一种为对于既有图像的局部篡改，为“变造”生成的图像。该种图像对应的是犯罪嫌疑人对于图片局部特征的替换，从而达到误导侦查方向的目的。另一种为生成完全虚假的图像，这种叫“伪造”图像。而第二种带来的刑事风险将更为严重，因为所伪造的图像可能会创造出新的法律事实，而该事实在实际上是完全不存在的，会在案件办理过程中造成侦查资源的浪费。
其二表现为深度伪造技术所创造出的伪证对于证人证言、被害人陈述、鉴定意见等证据的侵入。深度伪造的伪造不仅可以表现在图像生成方面，更表现在了虚拟语音的生成上。信息时代无处不在的个人生物信息采集存在着泄露风险，深度伪造可以以泄露的语音素材为蓝本伪造语音从事诈骗活动。造成虚假的被害人陈述、证人证言等流入刑事诉讼程序。此外，深度伪造技术还可以实现对于鉴定意见的伪造或变造。由于目前我国对于鉴定意见的审查大部分为形式审查，能涉及对鉴定意见实质审查的情形有限。而深度伪造技术创造出的伪证可以轻易满足鉴定意见的外观要件，这类伪证极易通过法庭对于鉴定意见的形式审查，从而给整个案件事实的认定造成不良后果。
其三表现为深度伪造技术所创造出的伪证对于视听资料、电子数据的侵入。全世界普遍存在的“色情报复”便是以深度伪造技术为基础，行为人以色情视频为基准，将受害人的人脸信息置于视频主角之上，生成受害人的色情视频，从而达到毁损受害人名誉的目的。正如本文开篇所提到的吴先生的案件，侦查机关所获取的大量视频文件均为深度伪造技术伪造。这类伪造视频大量进入刑事证据领域，给侦查机关带来了鉴定与识别难题。
伴随着信息化浪潮席卷而来的，是无处不在的人脸信息采集和个人生物特征信息的识别。而这些信息存储不当被泄露后，就可能被不法分子利用，通过深度伪造技术生成各种虚假信息给刑事诉讼证据的真实性造成挑战，并扰乱社会公共秩序。一些搭载着深度伪造技术小程序的开发，导致了深度伪造技术使用门槛的降低，任何人都可以随意使用深度伪造技术生成自己想要的视频图像。在自媒体刻意追求爆点流量、寻求点击关注的大背景下容易滋生一些只为“博眼球”的虚假信息。
在涉及应用深度伪造技术的刑事案件发生后，其产生的伪造内容已经经过了“传播-二创-再传播-再二创”的链式路径，即使侦查机关运用技术手段追溯到了最原始的IP地址，虚假信息传播所造成的不良社会影响业已不可逆转。虚假信息的传播会使真相逐渐在思想市场中衰退，这种衰退会激发社会大众对公权力机关的不信任感。当普通民众对司法机关产生信任危机后，整个刑事司法程序会陷入“自证陷阱”的怪圈。这一后果带来的是整个社会公信力的消耗。
因此，如不对深度伪造技术滥用带来的刑事证据真实性的挑战进行及时回应，将会影响整个社会的治理进程。而为了回应深度伪造带来的刑事证据真实性挑战，亦需要技术与制度的共同努力。
（作者系山西大学法学院博士研究生）
END
视觉编辑 | 马蓉蓉 实习编辑 王紫璇