■ 王 帅

1997年，著名导演吴宇森曾执导过一部获得第70届奥斯卡金像奖的动作影片——《FACE OFF》，中文片名译作《变脸》，讲述恐怖分子和探员之间使用整形手术换脸后互换身份角色的故事。吴宇森或许并没有想到，二十年后，无需通过整形手段，“AI换脸”技术在全球迅速传播。通过简单的APP操作，一个人就能在视频里被轻易地替换成另一个人，表情、动作、姿态几乎能够达到完全同步。此类基于AI的人体图像合成技术被统称为Deepfake，字面直译为“深度伪造”，意为通过机器深度学习的方式，将现有的图像和视频组合并叠加成新的图像和视频，让这些内容看起来就像真的一样。

深度伪造引发关注

自2017年以来，深度伪造技术开始活跃在网络中，随着这一技术算法的日趋成熟，深度伪造开始频繁干扰社会生活。

2019年6月，美国相关部门召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范应对措施。2019年11月，美国加利福尼亚州通过了一项旨在阻止伪造视频影响大选的法令，该法令规定，如果散布的信息使公众对政治人物的言论、行动产生错误或有害的印象，这种散布行为将属于犯罪行为。

各国政府部门已对此技术高度警觉，涉及可随意操作“换脸”的APP在各国均被勒令下架，如美国的 Deepnude，及中国曾经一度红遍微信朋友圈的ZAO 。

潜在风险不容忽视

可以预想，倘若深度伪造被不加以限制的广泛运用，将对现有的法律秩序及社会秩序带来极大的风险和挑战。

首先，媒体公信力及市场经济秩序将被损坏。想象一下，在某公司IPO前一晚，一段经深度伪造合成的视频显示公司的CEO宣布企业破产，或某国央行负责人在视频中突然宣布提升存款准备金率？在有效市场假说的前提下，金融市场的反应速度往往比当事人澄清谣言的速度快得多，虚假“黑天鹅”事件不仅可能直接影响市场主体的信誉及经济利益，甚至因其“蝴蝶效应”可能导致整个金融市场秩序的紊乱。深度伪造技术可以让虚假的信息以高度可信的方式呈现给社会，从而操纵民众的情绪反应，引发社会广泛的不信任。

其次，人脸识别技术的信息安全将受到威胁。如今人工智能技术的普及已深刻渗透到社会的各个领域，安防、教育、金融、交通等各行各业都已经普遍使用人脸识别。人脸信息的多点位采集生物信息已被视为是和指纹一样的、具有独一无二可区别于其他主体的标识，因此能够被用来表达使用主体的真实意志。但人脸识别在技术精度、系统功能、信息储存等标准以及应用范围上仍待规范，倘若深度伪造技术再加以介入，将主动录入的真实人脸信息替换为深度仿造信息，那么仿冒身份、用户授权被盗用等安全问题将全面爆发，甚至公民个人的人身安全和金融安全都会受到严重威胁。国内各商业银行如今已结合各智能设备的前置摄像头功能，普遍开通了ATM、掌上银行、网上银行的“刷脸支付”功能，并关联第三方支付机构，一经“刷脸”，账户资金即可直接进入支付渠道，倘若深度伪造技术被不法分子利用，将会对商业银行的这一客户身份识别方式带来严重威胁。

再次，视频类证据体系的司法采信方式将被颠覆。深度伪造技术对现有的司法证据体系将构成颠覆式打击。视频证据因其具有高度场景还原性，在侦查、举证、查明案件等阶段往往具有重要意义。而伪造技术的滥用不但可以损坏原有真实的场景证据，而且还能炮制出以假乱真的新证据，干扰事实真相。而倘若当事方或司法机关对此表示怀疑，技术鉴定及数据修复带来的高昂成本又将增加额外诉累。基于此，司法证据采信标准的体系可能将面临大幅度调整。

加强防范势在必行

科技从来都是一把双刃剑，技术发展若超过了人类道德与认知得以维持社会发展的临界点，严厉的监管政策和法律规制是不可或缺的。正如自由不是无边界的自由一样，技术也不应是无约束的技术。

美国一研究机构已研发出了首款反变脸的AI刑侦检测工具，主要功能是成功辨别由机器学习算法生成的虚假图片和视频，通过深度学习技术，让系统在软件生成的假脸中发现那些细微的线索，由此检测出图像或视频中的脸是真实的还是AI生成的。Facebook近期更是宣布投入超过1000万美元打造深度伪造检测竞赛，以便创建能用于“打假”模型训练的数据集，可以更好地检测人工智能何时被用来篡改视频并误导观众。

我国即将全面进入5G时代，网络用户快速增长，数据传输速度和算力将再上一个阶层。在人工智能、大数据等技术的推动下，技术滥用可能带来的潜在风险不容忽视。

近期，国家互联网信息办公室、文化和旅游部、国家广播电视总局已联合发布了《网络音视频信息服务管理规定》，将于2020年1月1日起施行。规定第十条中明确指出：“网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。”第十一条规定：“网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。”第十三条规定了网络音视频信息服务提供者应当建立健全辟谣机制，第十八条则规定了违反上述行为需承担的法律责任：“违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，将依法追究刑事责任。”

《规定》及时回应了当前网络音视频信息服务及技术发展面临的问题，全面规定了从事网络音视频信息服务应当遵守的管理要求。但从立法层级及效力层级而言，部门联合发文仍属部门规章范畴，难以和现行的法律体系形成有效衔接，也难以表达出我国关于禁止深度伪造技术滥用的严厉态度。亟待相关科学立法体系的进一步跟进与完善，实现良法促进发展、保障社会善治。