用AI抠图 谷歌新应用让你成为各大视频的“主角”
编 | 白鸽智东西3月2日消息,据Tech Crunch报道,今日,谷歌为You Tube添加了一项新的AI功能。即通过构建的卷积神经网络,让用户拍摄视频时可自动更换视频背景(抠图)。据悉,抠图是一门应用了几十年的特效技术,不过做起来很费时间,也很复杂。如在拍电影时,导演会让演员在绿幕前表演,之后使用计算机的数字特效更换绿屏。此前,因计算机在一秒内至少需要计算30次,所以在移动设备上想要更换普通的
2018-03-04 08:30:15
来源:智东西  

编 | 白鸽

智东西3月2日消息,据Tech Crunch报道,今日,谷歌为You Tube添加了一项新的AI功能。即通过构建的卷积神经网络,让用户拍摄视频时可自动更换视频背景(抠图)。

123

据悉,抠图是一门应用了几十年的特效技术,不过做起来很费时间,也很复杂。如在拍电影时,导演会让演员在绿幕前表演,之后使用计算机的数字特效更换绿屏。此前,因计算机在一秒内至少需要计算30次,所以在移动设备上想要更换普通的RGB图像,也不是很容易。如此可见想要更换视频背景的难度。

谷歌工程师们则认为这是一个挑战,并为此建立了一个卷积神经网络结构,使其通过数千张被标记的图片进行训练。

image5

通过训练,该神经网络可以分辨脸部特征,如眼睛、头发、眼镜、嘴等部位的特点,并将这些特征与其它东西区分开来。为了做到这一点,谷歌工程师对其进行了一系列的优化,从而降低了需要压缩的数据量。此外,它还将先前的计算结果作为下一步的计算基础,尽管它看起来有点作弊,但却可以进一步降低移动设备的负荷。

在研发该功能中,其具体的任务是制作一个二进制蒙版,以计算从前景到背景进行分离的每一帧视频所用的时间。其中,实现计算跨帧蒙版的时间的一致性是关键点。目前的方法是利用LSTM或 GRU进行计算,但对于移动设备来说,这样操作是非常昂贵的。而谷歌研究人员则通过将之前计算掩码作为之后计算掩码的基础进行计算,从而保持时间上的一致性,如下图所示:

image7

(原始帧(左)在其三个颜色通道中分开,并与之前的蒙版连接,并被用作神经网络的输入来预测当前帧的蒙版(右))

而在视频分割过程中,还要实现帧到帧的时间连续性,同时也要考虑到诸如在拍摄视频过程中突然出现其他人物,以至于造成时间上不连续等问题。为训练其模型适应这些问题,谷歌研究人员通过以下几点对其进行优化:

1、清空之前的蒙版,训练神经网络在第一帧和第一个场景人物之间正常工作,并且模拟出了某人出现在相机中的场景。

2、将其转换为真正的背景蒙版,通过转换训练,可使神经网络将其调整到前一帧蒙版之前。

3、转换图像。该功能实现了在相机中进行平滑流畅且快速的图像转化。

这样做的结果就是其神经网络在移动设备上运行的速度非常快,如在iPhone 7上实现了运行速度100+ FBS,在Pixel 2上实现了40+ FBS,并且其更换背景的准确性非常高。

删除或替换背景工具对用户来说很具有吸引力,所以该功能的推出对于很多人来说都是一个好消息。想要体验该功能吗?遗憾的是,它目前只能让 YouTube Stories用户使用该功能。

原文来自:Tech Crunch、Google Blog

最新文章
1
MediaTek发布天玑9600 Pro,卓越AI 重构强悍冷劲旗舰体验
2
从开发到运维:HarmonyOS 应用稳定性问题定位定界实践
3
vivo X500,OPPO Find X10,蓝绿旗舰正面交锋
4
电动两轮车 | 内销同比下降7.8%:头部强势反攻,新势力还能守住优势吗?
5
RGB Mini-LED杀向高端显示器,算力如何保障?惠科海思“打了个样”
6
宇树科技发布人形机器人G1+:六项升级,标准版售价9.5W
7
今年有些家电卖不动了,家电行业营收出现微弱下降
8
成为全球高端屏共同定义者,iQOO 16 联合三星显示致力于打造全球最好屏
9
快升级!苹果iOS 26.7正式版发布:一口气修复80多个安全漏洞
10
中国AR眼镜翻倍式增长 正分化为两大阵营
11
荣耀Magic9超能版真机亮相!内置主动散热风扇、11000mAh超大电池
12
“能听会唱”的AI智能空调,价值几何?
13
和电视一样,智能手机的广告,也该加强治理
14
7月智能手表线上市场:苹果华为稳占七成,AI端侧化重塑手表格局
15
“第一”眼花缭乱,到底谁是AI智能空调的“带头大哥”?
16
2026年1-8月以旧换新销售额同比增18.7%,占比升至35%
17
AI厨电真落地还是玩概念?四巨头交卷:砸2亿、造机器人、推全托管
18
超越高通!AMD成为全球第三大无晶圆半导体公司
19
苹果华为小米折叠屏三国杀打响!折叠屏从安卓试验田杀入全球主战场
20
苹果全新Apple TV或于今秋低调发布 核心升级Siri AI体验
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512