所有文章 > 正文

刷屏的AI换脸,其中的原理你知道吗?

作者: GCT

时间: 2019-09-03 10:12

最近几天,一款名叫“ZAO”的换脸软件,火爆网络,各大社交平台被换脸视频刷屏。和之前的Deepfakes软件类似,“ZAO”也是一款可以实现视频换脸功能的软件。

半年前,一位网友利用换脸技术将饰演94版射雕英雄传黄蓉的朱茵换成了杨幂,瞬间走红网络。

而现在,这款名为“ZAO”的换脸软件,仅需要一张个人照片就可以把你的脸放进各类影视剧中,制造出一个小视频,满足你当主角的愿望。但在欣喜之余,个人隐私问题也需注意,因为“ZAO”的用户协议中要求用户同意“授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,这项权利不仅包括对用户上传内容进行部分或全部修改,还包括对用户肖像权的使用及改动。

090301.png

虽然换脸这类软件极具吸引力,但可能会引发道德和伦理上的问题,这是亟待解决的问题。

换脸基本原理

早在2014年,Ian Goodfellow发表了一篇名为“Generative Adversarial Nets”,作者提出了一种新的在对抗过程中生成模型的框架,包括一个捕获数据分布的生成模型G和判别模型D。这个框架可以说奠定了早期的换脸技术的基础,这篇论文也被称为“让AI拥有了想象力”。

090302.png

论文链接:https://www.aminer.cn/archive/5550415a45ce0a409eb3a87b

090303.png

图片来在GCT官网AI库

作者简介链接:https://gct.aminer.cn/eb/gallery/detail/eb/5b2b534cf883d040b3549b13

简单来说,换脸技术首先需要对人脸进行识别的侦测,读取人脸的表情特征,通过深度学习处理,将得到的人脸信息还原到正面、正常的环境下(视频中人脸进行同样的处理)。之后就是最为关键的人脸替换环节,一般通过VEN或GAN的方式进行人脸信息的替换。最后,针对视频的每一帧进行如上操作就可以完成视频换脸。

今年,一篇被称为最强换脸算法的论文“Few-Shot Adversarial Learning of Realistic Neural Talking Head Models”引起了广泛地关注,作者提出了一种仅仅几张目标人脸图像,就能将视频中其他的人脸换成目标人脸,且效果极其逼真。

090304.png

作者基于GAN的元学习,在一个大数据集上训练,在测试阶段,仅仅需要几张目标人脸,就能很好的做到域的迁移。这篇论文借鉴了很多风格迁移和GAN网络的思路。包括adaptive instance normalization, spectral normalization, self attention 等。

090305.png

因为采用对抗学习,所以有两个损失函数交替训练,分别是:

090306.png

090307.png

实验数据

090308.png

实验结果

090309.png

090310.png

090311.png

论文链接:https://arxiv.org/pdf/1905.08233.pdf


[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多