Deepfake | 新媒体前沿48

Deepfake即深度伪造，是利用深度学习技术识别和交换图片、视频中人物脸部图像的工具，也指基于人工智能的人体图像合成技术，存在诸多伦理争议，但不应因争议禁止其应用，需多方共同构建伦理治理模式。

• Deepfake的定义与原理

  Deepfake是英文“deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于人工智能的人体图像合成技术。它使用称为“生成对抗性网络”（GAN）的机器学习技术，将现有图像和视频组合并叠加到源图像或视频上，产生显示在现实中从未发生过的事件中执行动作的一个或多个人物的假视频。

  

• “AI换脸”的前世今生

  早期应用：视频换脸技术在Deepfake出现之前，最早最广泛的应用在电影领域，用于提升观影体验与视觉效果，但那时使用需要相对较高的技术和资金。

  广泛出现：Deepfake真正广泛出现在大众视野里是因为Pornhub上流行的Deepfake系列视频。最初少数技术精英在Reddit上创办论坛传播技术，后其黑暗面逐渐显露，出现了满足私欲的细分方向，如订制色情片泛滥，从明星到路人，还延伸到色情复仇，这种色情交易蔓延到国内成为隐形地下生意。

  技术滥用：Deepfake可制造假新闻及恶意恶作剧，如伪造政治家的公开演讲，将尼古拉斯·凯奇的形象植入他从未出演过的影片中。它加速并扩大了现有的操纵媒体的趋势，算法让更多人能轻松做出以假乱真的视频，利用媒体操控舆论的行为将越来越普遍且难以察觉，女性不是唯一受攻击的弱势群体。例如希拉里版特朗普的视频仅使用FAKEAPP软件，放入图片视频即可一键生成。目前这些Deepfake作品已被Reddit、Twitter和Pornhub等网站禁止发布。

  

• ZAO与Deepfake在中国的关联

  爆火与声讨：8月末，“ZAO - 逢脸造戏”APP火遍中国社交网络，其slogan为“仅需一张照片，出演天下好戏”，迅速刷屏朋友圈。但因其牵涉隐私侵犯、网络安全问题，换脸协议招致全民声讨。ZAO即时更改了协议，官方微博于9月1日回应质疑，表示理解担忧，称考虑不周的地方会改，动态识别影响仅用于验证，不会被保存和上传，会在新版本中详细解释过程。

  用户疑虑：这样的解释不能打消用户疑虑，不少网友追问注销账户后面部信息是否会彻底删除且不能通过技术手段恢复。ZAO这类软件最大问题是大规模收集生物识别信息和给社会带来安全风险，这种风险被公众低估但已带来严重后果。静态或动态的人脸信息、指纹、虹膜都是个人敏感信息，一旦泄露或被滥用会给信息主体带来持久影响。

• Deepfake视频的伦理争议

  损害真实性：网络视频作为视听新媒体形态，与图片相比可信度更高，常被作为可靠真实的媒体信源或法律证据。但换脸视频以假乱真，损害信息真实性，增加人们获取真实信息的难度，提升信息来源筛选和证据判断的难度，易造成谣言传播、误解产生、冲突加剧等现象。

  威胁个人安全：目前流行的换脸视频多来源于影视素材，娱乐性强，对一般人威胁小。但当技术被普通个人掌握且非法利用时，会出现犯罪分子更改监控内容、骗过手机应用人脸登录系统、诈骗犯换脸成熟人伪造公众人物发言威胁社会安定等情况。制作换脸视频需提前收集被换脸人的照片、视频等信息，包含个人生活、工作和交往的数据、图片等，会威胁个人隐私安全，人工智能技术带来的安全风险主要在于人们的滥用。

  危害公共利益：技术的开发和应用应有利于维护公共利益，阿希洛马人工智能原则提到超级智能和技术开发是为了服务广泛认可的伦理观念和全人类利益。滥用换脸技术制作传播虚假视频、黄色视频、侵权视频等，可能破坏社会秩序与稳定，危害社会公共利益。

  

• 不应因伦理争议禁止换脸技术应用

  合理使用可获认可：换脸视频产生伦理争议的原因不在于技术本身，而在于使用技术的人。如果视频制作前征求被换脸双方同意，出于技术交流或娱乐性质而非营利目的，且无损害公共利益的内容，会得到大众认可。

  带来积极作用：基于人工智能的换脸技术有积极作用，以新闻传媒行业为例，2019年3月3日新华社推出的人工智能合成的新闻女主播“新小萌”提高了传媒行业面对突发新闻时的报道及时性和播报效率。

  合理使用的益处：技术应用的目的是服务人类社会，人工智能技术合理使用会给人类带来巨大福利。如在电影电视节目中用换脸技术制作视频会带来奇妙观感，在不被滥用前提下，能实现分享利益与技术价值，促进经济增长，催生新行业，给人们带来丰富体验。若因新问题否定新技术，技术领域的进步和发展将成幻影。

  构建伦理治理模式：规制技术应“以道驭术”，强调技术产生的宏观社会效果，限制和消除不适当技术应用带来的消极影响。要使换脸技术被更多人合理、合法使用，需在广泛借鉴基础上进行制度性安排，政府、科学团体、社会组织、市场企业和公众应各司其职、各尽其能，构建多元主体共同参与的全方位伦理治理模式。