过去几天，你一定注意到了AI生成动图的这股风潮。从抖音到微博，人们齐唱「蚂蚁呀嘿」的画面不断刷屏。全网都掉进了「蚂蚁窝」。然而在火了不满一个星期之后，造出新梗的应用Avatarify却于3月2日突然下架了。有网友表示，目前Avatarify只在中国区App store下架，其他地区仍然可以正常下载。关于下架原因，目前官方并未说明。在商店内搜索Avatarify，显示的只剩下其他应用了。
AI生成视频的风潮这么快又结束了？不知在短短几天内Avatarify经历了什么。Avatarify是一款摄影与录像类别的变脸应用，服务器设在国外，发行商为Avatarify, Inc。不知为何，这款应用在2月17日在中国区App Store的排名中开始出现上升趋势，直到2月25日问鼎App Store应用免费榜榜首，随后连续数天稳居总榜第一名。
它并不是一个刚刚出现的应用，2020年4月，机器之心曾介绍过换脸项目Avatarify。利用这项技术，你可以将自己的脸实时替换成别人的脸，在视频会议中的表现十分流畅。迄今为止这个项目已在GitHub上获得了近1.2万的star量。Avatarify最初是用于开远程会议时换脸的，比如让「马斯克」突然加入会议。在疫情期间，这样的应用想来很有市场。
这款软件的下载和使用是免费的，如想要在成品图上去水印则需要支付订阅费。可以看到自今年2月中旬开始，这款软件突然经历了下载的高峰期，在中国区下载数量已经超过了150万次。直至3月2日，Avatarify悄然下架。这给人一种似曾相识的感觉，Avatarify并不是第一款下架的AI应用。
2019年陌陌推出了一款名为ZAO的AI换脸应用，ZAO在上架第二天就冲到应用免费榜第二名，之后更是稳居免费榜榜首，堪称现象级应用。但ZAO令人印象深刻的不只有爆红，还有它的匆匆下架。ZAO的用户协议条款让无数用户担心。一方面技术滥用会导致虚假信息泛滥；另一方面，如使用明星等他人的照片来制作相关视频，就可能涉及名誉权、肖像权、知识产权等法律问题。
此外，个人隐私泄漏可能会涉及资产安全、人身安全等问题。如今，Avatarify有如ZAO的昙花一现，让人不禁猜想其下架原因，再次唤起人们对隐私安全的担忧。虽然AI换脸技术已日趋成熟，但其背后存在的安全隐患为它走向商业化带来了不小的阻力。AI变脸软件需要更多安全保障，真正成为大众娱乐应用尚需一些时日。
从开源项目中我们可以了解到，Avatarify应用中的技术主要来源于意大利特兰托大学的研究者在去年三月提交的一篇arXiv论文《First Order Motion》，无需事先对目标图像进行任何训练，就能用另一个人的视频来替换自己的图像。在使用Avatarify时，系统需要借助deepfake等其他换脸技术，在想要交换的脸部图像上对算法进行训练。
通过在目标图像的相似类别上训练算法，该模型支持实时换脸操作。一阶运动模型整体框架。整个流程也非常简单：先导入一张静态图片，照片中的五官会随着视频中真人动作做出相应的变化，比如挑眉毛、眨眼睛、说话等动作，看起来就像是换了个人。很快，开发者就将它做成了app，可在苹果商店下载。3个月的时间从GitHub项目变成应用，对于一个小团队来说不可谓不快。不过它为人们广泛所知的时候却已是2021年了。
曾经苹果App Store上的Avatarify，一开始还是个人名义推出的。这款应用的使用方法同样非常简单：你只需要打开app，选择一张想要处理的图片，确定人脸位置后选择动作模板，即可开展一番表情操纵，最终生成的就是你想要的人脸视频了。不过迄今为止，软件还只有iOS版的，安卓版上架的时间已被无限期推迟。优秀的成片效果，配合上短视频应用的流行，让Avatarify突然爆红起来。
然而很多时候，人们整蛊的对象都是名人，这就存在一些肖像权的问题。据了解，在视频网站bilibili上，发布大量换脸短视频的up主现在已经删除了林俊杰相关的内容。但即使如此，对于app本身来说，下架的问题也仍不明了。为何Avatarify走向了与上代AI换脸应用「ZAO」同样的命运？也许这种不换脸但能够制造假视频的工具同样也引起了人们的顾虑。
在深度学习新技术不断挑战人类分辨能力的极限时，我们也需要防范类似的「视频诈骗」了。