用AI抠图 谷歌新应用让你成为各大视频的“主角”
编 | 白鸽智东西3月2日消息,据Tech Crunch报道,今日,谷歌为You Tube添加了一项新的AI功能。即通过构建的卷积神经网络,让用户拍摄视频时可自动更换视频背景(抠图)。据悉,抠图是一门应用了几十年的特效技术,不过做起来很费时间,也很复杂。如在拍电影时,导演会让演员在绿幕前表演,之后使用计算机的数字特效更换绿屏。此前,因计算机在一秒内至少需要计算30次,所以在移动设备上想要更换普通的
2018-03-04 08:30:15
来源:智东西  

编 | 白鸽

智东西3月2日消息,据Tech Crunch报道,今日,谷歌为You Tube添加了一项新的AI功能。即通过构建的卷积神经网络,让用户拍摄视频时可自动更换视频背景(抠图)。

123

据悉,抠图是一门应用了几十年的特效技术,不过做起来很费时间,也很复杂。如在拍电影时,导演会让演员在绿幕前表演,之后使用计算机的数字特效更换绿屏。此前,因计算机在一秒内至少需要计算30次,所以在移动设备上想要更换普通的RGB图像,也不是很容易。如此可见想要更换视频背景的难度。

谷歌工程师们则认为这是一个挑战,并为此建立了一个卷积神经网络结构,使其通过数千张被标记的图片进行训练。

image5

通过训练,该神经网络可以分辨脸部特征,如眼睛、头发、眼镜、嘴等部位的特点,并将这些特征与其它东西区分开来。为了做到这一点,谷歌工程师对其进行了一系列的优化,从而降低了需要压缩的数据量。此外,它还将先前的计算结果作为下一步的计算基础,尽管它看起来有点作弊,但却可以进一步降低移动设备的负荷。

在研发该功能中,其具体的任务是制作一个二进制蒙版,以计算从前景到背景进行分离的每一帧视频所用的时间。其中,实现计算跨帧蒙版的时间的一致性是关键点。目前的方法是利用LSTM或 GRU进行计算,但对于移动设备来说,这样操作是非常昂贵的。而谷歌研究人员则通过将之前计算掩码作为之后计算掩码的基础进行计算,从而保持时间上的一致性,如下图所示:

image7

(原始帧(左)在其三个颜色通道中分开,并与之前的蒙版连接,并被用作神经网络的输入来预测当前帧的蒙版(右))

而在视频分割过程中,还要实现帧到帧的时间连续性,同时也要考虑到诸如在拍摄视频过程中突然出现其他人物,以至于造成时间上不连续等问题。为训练其模型适应这些问题,谷歌研究人员通过以下几点对其进行优化:

1、清空之前的蒙版,训练神经网络在第一帧和第一个场景人物之间正常工作,并且模拟出了某人出现在相机中的场景。

2、将其转换为真正的背景蒙版,通过转换训练,可使神经网络将其调整到前一帧蒙版之前。

3、转换图像。该功能实现了在相机中进行平滑流畅且快速的图像转化。

这样做的结果就是其神经网络在移动设备上运行的速度非常快,如在iPhone 7上实现了运行速度100+ FBS,在Pixel 2上实现了40+ FBS,并且其更换背景的准确性非常高。

删除或替换背景工具对用户来说很具有吸引力,所以该功能的推出对于很多人来说都是一个好消息。想要体验该功能吗?遗憾的是,它目前只能让 YouTube Stories用户使用该功能。

原文来自:Tech Crunch、Google Blog

最新文章
1
超长寿命硒鼓+大容量墨粉 汉印“超激鼓”激光打印机TE3200出手就是“王炸”
2
赋能公会、激活创作,快手直播推动团播向“健康化、精品化、价值化”转型
3
可灵2.6模型上线!语音、音效与画面一键直出 重构AI视频创作工作流
4
13.2亿点赞!时代少年团六周年演唱会快手独家直播,共创青春记忆新高光
5
青少年健康用网公益行动走进吉林学校 特殊思政课科普网络安全知识
6
人民日报为海信RGB-Mini LED电视打call:这创新很中国
7
举国同庆!朱雀三号成功发射!新超合金制造的栅格舵成关键
8
举国同庆!朱雀三号成功发射!新超合金制造的栅格舵成关键
9
豆包AI手机又出新闻?智能体时代“入口”之争初现端倪
10
上半年Mini LED电视渗透率高达28.3%,是驱动焕新的主动力
11
铜价涨疯了,也轮不到空调用钢做!“全钢空调论”为什么是最大伪命题?
12
被唱衰两年后,空气炸锅悄悄回暖
13
影石发布全球首款全景无人机 刘靖康:即便没笑到最后也无悔
14
饿了么官宣改名!全面更新为“淘宝闪购”
15
官方:新国标电动自行车车速超25km/h不会紧急制动!
16
8.6代OLED面板产线量产竞速:技术分野,谁先供货?
17
50000页“超激鼓”技术,终结企业办公的“打印焦虑”
18
超长寿命硒鼓+大容量墨粉 汉印“超激鼓”激光打印机TE3200出手就是“王炸”
19
有小米飞利浦加持为何“裁员过冬”?德尔玛清洁电器突围难
20
云厂商Q3财报大考:谁是AI云真“一哥”?
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512