视频隐身衣:物体移除、去水印、后期处理毫无痕迹

作者: 贝爽

来源: AI科技评论

发布日期: 2020-09-08

本文介绍了通过AI算法实现视频物体移除、去水印和画面扩展的技术,该技术采用了光流边缘引导修复算法,能够在视频后期处理中完美剔除物体,不留痕迹。该算法在多个指标上表现优异,并已被ECCV 2020顶会收录。

还记得哈利波特的“隐身斗篷”吗?披上斗篷的哈利波特瞬间隐身,毫无痕迹。现在只需要一个AI算法,你也可以拥有这件“AI隐身衣”。在视频后期处理中,经常会遇到一项难搞的需求:如何把一个人/物从视频中完美剔除?虽然Ps技术已经很普及,但也很难处理视频问题。而现在,只需要一个名为光流边缘引导(Flow-edge Guided)的AI修复算法,这项耗时又费力的工作分分钟就可以搞定。至于效果怎么样?

我们直接看演示图。上一秒还在路上行驶的汽车,下一秒好像从未出现过。背景也被高度还原,看不出一点痕迹,比如下图女孩消失后,秋千依然还在。另外,它也能处理更复杂的场景和物体,比如还有漂浮在海上的帆船,正在跨越栏杆的赛马选手。如此完美的视频处理效果,也让网友惊呼:现实版《真相捕捉》,视频可能再也不是可靠的证据。研究人员表明,这款AI算法在视频物体移除、去水印和画面扩展方面均达到了目前的最佳SOTA。

而且它还刚刚被ECCV 2020顶会收录。ECCV全称欧洲计算机视觉国际会议(European Conference on Computer Vision),是计算机视觉三大会议之一,每两年举办一次,论文录取率仅为27%。这项“隐身”AI修复技术,主要采用的是光流边缘引导修复算法。与现有方法相比,该算法能够更精准的识别目标物体的运动边界。

现有算法主要通过相邻帧的局部流连接传播色彩,这种方式不能保证所有视频在删除目标物体后,其背景都能恢复原貌,因此,很容易留下伪影。该算法通过引入非局部流连接(Non-local Flow Connections)解决了这个问题,并使得视频内容能够在运动边界上传播。通过在DAVIS数据集上的验证,其可视化和定量结果都表明,该算法具有更好的性能。

论文中,研究人员利用DAVIS数据集,与其他六种现有方法进行了比较,并进一步评估了PSNR,SSIM和LPIPS三项指标。由于内存限制,并不是所有的方法都能处理960×512的分辨率,所以将其缩小到了720×384,并报告了两种分辨率的数值。结果显示,在这三个指标上,本次研究算法性能表现最佳(红色加粗数据)。

另外,在光流补全方面,与最新进的Diffusion和徐瑞(商汤)的算法相比,该方法也能更好地呈现锐利且平滑的运动边界。此外,在修复任务(前三列)和对象移除任务(后三列)方面,也有视觉上也有更好的体现。这篇论文由四位研究人员合力完成,包括弗吉尼亚大学的Chen Gao和Jia-Bin Huang,以及Facebook的Ayush Saraf和Johannes Kopf。

其中,Chen Gao是本篇论文的一作。Chen Gao是弗吉尼亚大学的一名在读博士,专攻计算摄影和计算机视觉领域,研究重点是图像/视频操作和场景理解。在此之前,曾就读于密歇根大学和俄勒冈州立大学。

2019年夏季,在Johannes Kopf博士的帮助下,Chen Gao成为了Facebook Seattle的一名研究实习生,并且与其团队成员合作完成了这篇论文,此外,他还是Google的研究实习生,与Shi Yichang Chang和Lai Wei-Sheng Li都有过深度合作。最后,该团队表示会在近期将这项技术开源。

UUID: f73ba7c0-6861-4b7a-aa67-5f9ae06d28c5

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2020年-下/2020-09-08_视频隐身衣:物体移除、去水印、后期处理毫无痕迹.txt

是否为广告: 否

处理费用: 0.0041 元