-
Notifications
You must be signed in to change notification settings - Fork 0
Commit
This commit does not belong to any branch on this repository, and may belong to a fork outside of the repository.
#4 Super SloMo High Quality Estimation of Multiple Intermediate Frame…
…s for Video Interpolation(CVPR 2018)
- Loading branch information
1 parent
a9ec7cf
commit ea91ae7
Showing
1 changed file
with
39 additions
and
0 deletions.
There are no files selected for viewing
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,39 @@ | ||
# [Super SloMo High Quality Estimation of Multiple Intermediate Frames for Video Interpolation](https://arxiv.org/pdf/1712.00080.pdf) | ||
|
||
|
||
#### Category | ||
VIDEO PREDICTION | ||
VIDEO INTERPOLATION | ||
|
||
#### Context | ||
* video interpolation | ||
2つの連続したフレームをinputとして間のフレームを生成する。 | ||
|
||
* 課題 | ||
|
||
* 既存研究での取り組み1 | ||
出力としてsingle frameを予測するものが多い。 | ||
multipleに適応するときの問題点1 パラレルに扱えないから遅い | ||
multipleに適応するときの問題点1 $2^{i}-1$のフレームじゃないと扱えない | ||
|
||
* 既存研究での取り組み2 | ||
|
||
|
||
#### Correctness | ||
ただしそう。重みとコードを公開してほしい | ||
|
||
#### Contributions | ||
* オクルージョン(物体がかぶって隠れてしまうこと)などを考慮しながら、multiple framesを出力できるようにした。 | ||
方法 | ||
1.Unetを用いて2枚のinputにおける双方向のオプティカルフローを計算 | ||
2.2枚のオプティカルフローをタイムステップごとに足しあわせて、inputの間に入る双方向オプティカルフローを近似する | ||
3.このままだと動きのある境界部分に弱いので、別のUnetを用いてオプティカルフローをよりよく予測し、visibility mapも推定する。 | ||
4.2つのインプットイメージを重ね(wrap)、統合し(fuse)、中間フレームを生成する。統合する前に、visibility mapを重ねたイメージに用いることで、オクルージョンやartifactsといった不自然なものを取り除ける | ||
|
||
#### Clarity | ||
まあまあ読みやすい。 | ||
|
||
#### コメント | ||
掘り下げて読みたい | ||
step2をやって、先行研究読んで、step3読んで、実装できればやってみたい。 | ||
|