Skip to content

Commit

Permalink
#4 Super SloMo High Quality Estimation of Multiple Intermediate Frame…
Browse files Browse the repository at this point in the history
…s for Video Interpolation(CVPR 2018)
  • Loading branch information
sanshin5050 authored Jul 9, 2018
1 parent a9ec7cf commit ea91ae7
Showing 1 changed file with 39 additions and 0 deletions.
39 changes: 39 additions & 0 deletions Super_SloMo(CVPR 2018)
Original file line number Diff line number Diff line change
@@ -0,0 +1,39 @@
# [Super SloMo High Quality Estimation of Multiple Intermediate Frames for Video Interpolation](https://arxiv.org/pdf/1712.00080.pdf)


#### Category
VIDEO PREDICTION
VIDEO INTERPOLATION

#### Context
* video interpolation
2つの連続したフレームをinputとして間のフレームを生成する。

* 課題

* 既存研究での取り組み1
出力としてsingle frameを予測するものが多い。
multipleに適応するときの問題点1 パラレルに扱えないから遅い
multipleに適応するときの問題点1 $2^{i}-1$のフレームじゃないと扱えない

* 既存研究での取り組み2


#### Correctness
ただしそう。重みとコードを公開してほしい

#### Contributions
* オクルージョン(物体がかぶって隠れてしまうこと)などを考慮しながら、multiple framesを出力できるようにした。
  方法
1.Unetを用いて2枚のinputにおける双方向のオプティカルフローを計算
2.2枚のオプティカルフローをタイムステップごとに足しあわせて、inputの間に入る双方向オプティカルフローを近似する  
3.このままだと動きのある境界部分に弱いので、別のUnetを用いてオプティカルフローをよりよく予測し、visibility mapも推定する。
4.2つのインプットイメージを重ね(wrap)、統合し(fuse)、中間フレームを生成する。統合する前に、visibility mapを重ねたイメージに用いることで、オクルージョンやartifactsといった不自然なものを取り除ける

#### Clarity
まあまあ読みやすい。

#### コメント
掘り下げて読みたい
step2をやって、先行研究読んで、step3読んで、実装できればやってみたい。

0 comments on commit ea91ae7

Please sign in to comment.