原标题:抖音上那些舞蹈大咖,可能根本不会跳舞……

图片 1

从小被说小脑不发达,四肢不协调的痛,一般人真的体会不了。。。

每当提到跳舞,小辣椒想象中的自己,哪怕是跟着 《 最炫民族风
》的节奏都抖得帅气异常——

图片 2

但实际上,跳出来是这样。。。

图片 3

以及这样。。。

图片 4

嗯?啊?我明明每个 beat 都在点子上的啊。。。

就在最近,来自加州大学伯克利分校的研究团队研究出了一个新算法,能让人人都变身舞蹈界的杨丽萍。

Everybody Dance Now

怎么操作?

首先,准备一个范本舞蹈作为源视频,就先随便选段儿火星哥的 “ 短腿舞 ”
吧。。。

图片 5

然后,再传入一段儿普通人随意晃动的视频,作为用于修改的目标视频。

图片 6

在接收到指令后,Everybody dance now
算法会将源视频中人物的动作完全复刻到目标视频中。

图片 7

不过,刁钻的差友可能会怀疑是火星哥舞蹈难度系数不,动作幅度不够大所以复刻过程比较简单。

那就再来段儿芭蕾吧,对舞者控制、力量、协调性的要求都更高,复刻难度看上去比
“ 短腿舞 ” 更大了。

图片 8

说真的,算法的处理结果竟然还挺让人惊喜。。。

动作同步毫无压力,从头到手,再到脚部动作几乎都跟源视频保持了一致。

要说有什么不足,可能就是气质这个东西,真没法儿复制,源视频和目标视频中的舞者的仪态差异不小。
“ 天鹅颈 ” 看来真的只能靠练出来了。。。

图片 9

效果我们都看到了,现在来说说 Everybody dance now
的动作学习是怎么办到的。。。

大家应该注意到两个视频之间有一个火柴人的动画了吧?它就是真个算法的关键
—— GAN 对抗网络

图片 10

算法先分别源视频和目标视频中人物的动作进行解析,然后将动作以身体关键点的形式简化成火柴人动画,再把两个火柴人的动作一帧一帧对应修改。

图片 11

这个过程中,两个火柴人的动作经过了无数次映射学习,就像是女生在教男朋友怎么才能给自己拍一张好看的风景照一样。。。

男朋友拍照给女生看,女生提出反馈意见给男朋友修改学习,从而磨合,直至男友的水平和女生的欣赏力达到一致。

图片 12

除了身体姿势的学习,算法还把人物的身体分为了肩部以上和肩部以下两个板块,肩部以上的面部表情复刻也采用了同样的算法进行复刻。

图片 13

emmmmm,虽然细节效果有点一言难尽。。。

图片 14

其实要是仔细看,不只是目标视频中人物的面部出现了消融的现象,身体在动的时候也有相似的部分部位丢失和模糊化,算法目前还做不到完全的精准复刻。

图片 15

目前,Everybody dance now
还没有被运用到实际的场景中,也还没有被开源出来。

不过因为这套 GAN 的学习方式省去了 3D
建模的复杂流程,一旦成熟很可能会有效提升游戏、动画动效的制作效率。至于更小一点儿的使用场景嘛,这套算法用在抖音、微视上可能会火。

想想还有点小期待。

图片、资料来源:

  1. Everybody Dance Now 论文:https://arxiv.org/pdf/1808.07371.pdf

  2. 《 UC 伯克利超酷研究:舞痴和舞王之间,只差一个神经网络》,量子位

  3. 《 到底什么是生成式对抗网络 GAN ?》,微软亚洲研究院

  4. Dance,giphy.com

“ 不用短腿也能跳火星哥的短腿舞 ”

图片 16返回搜狐,查看更多

责任编辑:

相关文章