如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

时间:2024-04-13 19:53:12

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

作者 | Trent
责编 | 郭  芮

自从天天P图出了疯狂变脸的特效之后,到现在为止已经两年时间了。这两年时间,天天P图多次凭借换脸特效登上APP Store排行榜首,从小学生证件照到前世青年照、圣诞节梦幻妆再到后来的各种影视游戏特效,以及后来的军装照等等等等,天天P图时不时地传遍朋友圈,火遍排行榜。

 

本文将分析换脸这个模块,因为这个技术用深度学习来搞,个人认为潜力更大。下面简单将换脸分为深度学习方法和传统方法来讲。

60s测试:你是否适合转型人工智能领域?

https://edu.****.net/topic/ai30?utm_source=****_bw

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

深度学习方法

 

 

2016年的一篇论文Fast Face-swap Using Convolutional Neural Networks,通过卷积神经网络实现了换脸效果,如下图所示:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

具体算法思路是:

 

  • 人脸对齐(根据特征点将目标图像与模板图像中的人脸对齐);

  • 通过CNN进行换脸,网络结构如下:

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

  • 定义内容损失/风格损失/光照损失/平滑损失代价函数,加入训练过程,来解决肤色光照不均,不平滑,内容不协调的问题。损失函数如下:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

该方法已经达到了一定的效果:

 

  • 人脸融合自然;

  • 侧脸效果要优于传统方法的效果;

 

但是仍然具有以下弊端:

 

  • 每个模版照片需要单独训练网络,造成模型数据庞大,训练耗时,模型更改麻烦等诸多问题;

  • 每个模型需要一个模板对应的多张不同姿态与光照条件的图像——单单这一点就很不利于产品化,在大多数情况下,我们是无法提供多张不同姿态与光照下的模板图像的;

  • 速度慢,本人的换脸算法是可以达到实时处理的。

 

个人认为,基于深度学习的方法在多角度侧脸的情况下,具有很强的优势,在肤色融合方面与传统算法持平,在速度方面,未来将不是问题!

 

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

传统方法

 

 

本人主要研究基于传统图像算法的换脸,本人猜测天天P图基本上也是基于传统算法做的。

 

我们以天天P图效果举例来讲:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

白百合的照片与右边的模板图相比,在脸型和五官位置上都发生了变化,也就是变的好看了很多,总结变化如下:

 

  • 肤色变成了模板图的肤色;

  • 脸型变成了模板图的脸型;

  • 五官大小形状等发生了一定的变化.

 

据此推测,天天P图做了如下操作:

 

  • 将白百合的肤色做了转换,换成了模板图的肤色;

  • 将白百合的脸型包括五官做了变形,变成了接近模板图的形状。

 

注意,这里是接近模板图的形状,而并非是跟模板图完全一样的形状,网上很多做换脸的都是直接将人脸对齐到了模板中的形状,这是不行的,脸型差异过大时,会造成畸变,效果很差。

 

本人算法步骤:

 

1、根据人脸特征点(本人使用的是101个人脸特征点),将模板和白百合的人脸同时变形到第三目标形状,变形算法使用MLS变形即可。

 

这一步骤可以分为如下两步:

 

  • 直接将白百合人脸点位对齐到模板点位;

  • 将对齐后的白百合人脸五官与脸型进行美化或称美型;

 

这一步可以参考论文《Data-Driven Face Cartoon Stylization》,当然这一步也可以使用深度学习来做,个人认为效果要比这篇论文效果更好,随后本人会另写博客专门介绍基于CNN的人脸美型。

 

MLS变形代码链接:

https://blog.****.net/hjimce/article/details/46550001

当然本人也有更好的变形:

https://download.****.net/download/trent1985/10318459

 

本人美型算法效果图如下:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

2、基于LAB颜色空间对白百合和模板人脸肤色进行换色+融合;

3、添加风格滤镜+美颜美妆。

 

对于美妆可以直接使用妆容迁移来做,效果很好,具体可参考:

https://blog.****.net/trent1985/article/details/70226779

https://blog.****.net/trent1985/article/details/79761444

 

本人妆容迁移效果如下:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

上面就是本人传统换脸算法的过程,本人尽量用最简单的算法去表现最好的效果,给出一个完整的算法过程效果图:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

对于效果,大家可以使用白百合的测试图到本人的DEMO和天天P图中测试。这里测试图在本人所给的DEMO中,大家可以自行测试。

 

下面给出本人算法与天天P图效果对比图,这里仅以一组图为例:

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

<<  滑动查看下一张图片  >>

 

最后,指出天天P图肤色融合的一些问题,对于某些照片,肤色融合之后会出现颜色偏绿问题,可能是某个颜色空间中颜色溢出导致,举例如下(左图为本人算法,右图为天天效果):

 

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

最后,本人给出本人疯狂变脸效果的DEMO,以免大家耳听为虚,DEMO运行平台为WINDOWS 8以上,DEMO中给有TestPicture为测试图,FS为天天P图的模板,仅供测试,切勿商业用途,以免侵权。下载链接:https://download.****.net/download/trent1985/10410917。

 

PS:DEMO中无人脸识别,因此仅限本人所给测试图有效!共勉!

 

作者:Trent1985,****博客专家,本文来源于作者****博客,原文链接https://blog.****.net/trent1985/article/details/80295532,**** 公众号经授权发布。欢迎更多开发者朋友通过下方联系投稿。

 


如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条

 

 热 文 推 荐 

☞ 开源,二世而亡?

☞ 30 秒?!Chrome 插件带你速成编程学习 | 程序员硬核评测

☞ 零经验程序员如何抢占面试机会?

那些简历造假拿 Offer 的程序员,后来都怎么样了?

☞ K8S安全军规101:对CNCF最佳实践的扩充

☞ 为什么说稳定币才是诺奖得主哈耶克想要的非国家货币?

☞ 月入5万,程序员夫人们过上"贵妇"生活了吗?

☞ “扔瓶子”有套路?日本高中生开发机器人,手残党们有救了

 

 

print_r('点个好看吧!');
var_dump('点个好看吧!');
NSLog(@"点个好看吧!");
System.out.println("点个好看吧!");
console.log("点个好看吧!");
print("点个好看吧!");
printf("点个好看吧!\n");
cout << "点个好看吧!" << endl;
Console.WriteLine("点个好看吧!");
fmt.Println("点个好看吧!");
Response.Write("点个好看吧!");
alert("点个好看吧!")
echo "点个好看吧!"

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条点击阅读原文,输入关键词,即可搜索您想要的 **** 文章。

如何用深度学习 AI 美颜实现天天 P 图疯狂变脸算法? | 技术头条喜欢就点击“好看”吧!