一张自拍变6种风格漫画，视频也支持，全程稳定不“掉线”，这个AI不到一天狂揽1800赞...

Posted 2022-02-14 QbitAl

丰色 发自 凹非寺
量子位 | 公众号 QbitAI

把自拍变漫画：

不止支持一种面部风格：

任凭小姐姐怎么“全身大比划”，效果都能保持稳定，全程“不掉线”：

‍

不止人脸，连全身和背景也都全部照顾到了。

这，就是最近在Reddit上大火的一个自拍变漫画AI，不到一天就收获了1800+赞。

什么来头？

自拍变漫画，人脸、全身、背景都照顾到

这个AI叫WebtoonMe，基于深度学习技术将图像翻译成漫画风格。

熟悉的朋友可能知道，Webtoon，web+cartoon，也就是“网页版漫画”，是漫画的一种呈现形式，出自韩国。

这个自拍变身漫画AI的技术团队也来自韩国。

一开始，他们只做了人脸转换，后来打算把背景也包括进去。

不过问题就来了：照片中的各种物体（如面部、身体部位、衣服、背景等）的风格属性都不太一样，如何输出统一的结果呢？

作者采访了几位webtoon的创作者后了解到，webtoon的“前景”和“背景”是用不同工具制作的，为了让两者更自然地融合，后期也添加了不少修饰。

因此，他们将这个AI分为面部转换和背景转换两部分，即一个背景生成器+一个面部生成器，把人脸裁切出来和背景分别处理。

具体来说，他们先构建了一个webtoon数据集，这个数据集由人脸、身体部位、物体和自然背景等不同部分组成。

然后创建了各种深度学习模型，用来减少前景和背景元素之间的风格差异。

最后又模仿了不同webtoon创作者的修饰技术，通过几种后处理算法，让生成的结果更自然、质量更高。

具体的技术细节我们还未可知，目前也还没有开放试用链接。

不过看起来让很多心动的背后，一些细心的网友仅通过几张示例就发现了一些问题。

眼睛的效果还需改进

就比如这个眼睛，很多网友表示有点恐怖啊，一直直视前方，眼球动也不动。

如果能模仿眼球转动、眨眼睛、眯眼等眼部动作，效果肯定会更好。

此外，抛去这一点，脸部和背景处理得都还不错，就是这个身体部位风格化得不够彻底，还是有点像真人。

倒是这个AI的稳定性值得让人夸赞。

哦，还有一点美中不足，有网友“惋惜”：

要是这个AI还没取名字就好了，不然就可以叫WaifuNet了……[旺柴]

One More Thing

要说这人物变动漫的AI，一直都层出不穷。

就比如前不久的AnimeGAN2，采用神经风格迁移+GAN，由湖北工业大学的三位学生和老师开发，也是大火，一度需要网友排几小时大队才能看一眼自己在动漫里的样子。

AnimeGAN2的风格和今天的这个WebtoonMe不太一样，变换重点也只包括人脸，所以眼部跟踪做的挺好。

不过面对不够高清的人脸时，效果一般。

两者各有所长吧，你喜欢哪一种呢？

参考链接：
[1]https://webtoon.github.io/WebtoonMe/en

[2]https://www.reddit.com/r/MachineLearning/comments/sfbtds/p_webtoonme_project_selfie_to_webtoon_style/