自从天天P图出了疯狂变脸的特效之后,到现在为止已经近两年时间了,这两年时间,天天P图多次凭借换脸特效登上APP Store排行榜首,从小学生证件照到圣诞节梦幻妆再到后来的各种影视游戏特效,以及后来的军装照等等等等,5月4日青年节,天天P图的“前世青年照”又是传遍了朋友圈,火遍了排行榜。
在这里本人将这个换脸放到这个模块来讲,是因为这个技术,用深度学习来搞,个人认为潜力更大。下面简单将换脸分为深度学习方法和传统方法来讲。
[深度学习方法]
2016年的一篇论文Fast Face-swap Using Convolutional Neural Networks,通过卷积神经网络实现了换脸效果,如下图所示:
具体算法思路是:
1,人脸对齐(根据特征点将目标图像与模板图像中的人脸对齐);
2,通过CNN进行换脸,网络结构如下:
3,定义内容损失/风格损失/光照损失/平滑损失代价函数,加入训练过程,来解决肤色光照不均,不平滑,内容不协调的问题;
损失函数如下:
该方法已经达到了一定的效果:
1,人脸融合自然;
2,侧脸效果要优于传统方法的效果;
但是仍然具有以下弊端:
1,每个模版照片需要单独训练网络,造成模型数据庞大,训练耗时,模型更改麻烦等诸多问题;
2,每个模型需要一个模板对应的多张不同姿态与光照条件的图像;
单单这一点就很不利于产品化,在大多数情况下,我们是无法提供多张不同姿态与光照下的模板图像的;
3,速度慢,本人的换脸算法是可以达到实时处理的;
关于这个基于卷积神经网络换脸算法的详情,可参考:点击打开链接
个人认为:基于深度学习的方法在多角度侧脸的情况下,具有很强的优势,在肤色融合方面与传统算法持平,在速度方面,未来将不是问题!
[传统方法]
本人主要研究基于传统图像算法的换脸,本人猜测天天P图基本上也是基于传统算法做的;
我们以天天P图效果举例来讲:
白百合的照片与右边的模板图相比,在脸型和五官位置上都发生了变化,也就是变的好看了很多,总结变化如下:
1,肤色变成了模板图的肤色;
2,脸型变成了模板图的脸型;
3,五官大小形状等发生了一定的变化;
据此推测,天天P图做了如下操作:
1,将白百合的肤色做了转换,换成了模板图的肤色;
2,将白百合的脸型包括五官做了变形,变成了接近模板图的形状;
注意,这里是接近模板图的形状,而并非是跟模板图完全一样的形状,网上很多做换脸的都是直接将人脸对齐到了模板中的形状,这是不行的,脸型差异过大时,会造成畸变,效果很差;
本人算法步骤:
1,根据人脸特征点(本人使用的是101个人脸特征点),将模板和白百合的人脸同时变形到第三目标形状,变形算法使用MLS变形即可;
这一步骤可以分为如下两步:
①直接将白百合人脸点位对齐到模板点位;
②将对齐后的白百合人脸五官与脸型进行美化或称美型;
这一步可以参考论文《Data-Driven Face Cartoon Stylization》,当然这一步也可以使用深度学习来做,个人认为效果要比这篇论文效果更好,随后本人会另写博客专门介绍基于CNN的人脸美型;
MLS变形代码链接:点击打开链接
当然本人也有更好的变形:点击打开链接
本人美型算法效果图如下:
2,基于LAB颜色空间对白百合和模板人脸肤色进行换色+融合;
3,添加风格滤镜+美颜美妆;
对于美妆可以直接使用妆容迁移来做,效果很好,妆容迁移算链接:①点击打开链接,②点击打开链接
本人妆容迁移效果如下:
上面就是本人传统换脸算法的过程,本人尽量用最简单的算法去表现最好的效果,给出一个完整的算法过程效果图:
对于效果,大家可以使用白百合的测试图到本人的DEMO和天天P图中测试;
下面本人以5.4青年节最火的前世青年效果为例,给出本人算法与天天P图效果对比图,这里仅以一组图为例:
这里测试图在本人所给的DEMO中,大家可以自行测试;
最后,指出天天P图肤色融合的一些问题,对于某些照片,肤色融合之后会出现颜色偏绿问题,可能是某个颜色空间中颜色溢出导致,举例如下(左图为本人算法,右图为天天效果):
最后,本人给出本人疯狂变脸效果的DEMO,以免大家耳听为虚,DEMO运行平台为WINDOWS 8以上,DEMO中给有TestPicture为测试图,FS为天天P图的模板,仅供测试,切勿商业用途,以免侵权,下载链接:点击打开链接
在给一个换脸资源集合:点击打开链接
本人QQ1358009172,DEMO中无人脸识别,因此仅限本人所给测试图有效!共勉!