OpenCVのテンプレートマッチングで変形量を算出する方法

  • このエントリーをはてなブックマークに追加
Advertisements

PythonでOpenCVを使うと簡単なコードで高度な画像処理を行う事が可能です。ここでは画像を使った分析で重宝するテンプレートマッチングをOpenCVのcv2.matchTemplate()で書く方法を紹介します。

こんにちは。wat(@watlablog)です。今回は比較的ライトなTips記事で、OpenCVでテンプレートマッチングをする方法を紹介します!

テンプレートマッチング

テンプレートマッチングとは?

テンプレートマッチングとは、以下の図のようにテンプレート画像が探索画像内のどこにあるか探す処理の事を意味します。

テンプレートマッチングの概念図

過去に当ブログではGitHubの有名コンテンツであるimoriさんの「画像処理100本ノック」の学習記録を「AI実装検定S級対策!「画像処理100本ノック」学習記録・カンペ」に残しました。このコンテンツではOpenCVを使わないコードを学べますので、より詳しい説明が欲しい方は是非画像処理100本ノックを覗いてみて下さい。

SSD

コンテンツ内にはテンプレートマッチングの種類毎に式が紹介されています。ここではテンプレートマッチングに使用される一般的な式を示します。

SSD(Sum of Squared Difference)は画素値同士の差分の二乗和が最小になる所が最も類似度が高いとする手法です。

\[ SSD(d_{x}, d_{y})=\sum_{x=0}^{W-1}\sum_{y=0}^{H-1}\left \{ (I(x+d_{x},y+d{y})-T(x,y)) \right \}^{2} \]

SAD

SAD(Sum of Absolute Difference)はSSDと似ていますが、差の絶対値が最小になる所が最も類似度が高いとする手法です。

\[ SAD(d_{x}, d_{y})=\sum_{x=0}^{W-1}\sum_{y=0}^{H-1}\left |(x+d_{x},y+d{y})-T(x,y)\right | \]

NCC

NCC(Normalized Cross Correlation)は正規化相互相関を意味し、相関係数として\(-1 \leq NCC \leq 1\)の値をとり、最大値が最も類似度が高いとする手法です。この手法はSSDやSADのように差分を計算する手法に比べ、照明等の変化に強いと言われています。

\[ NCC(d_{x},d_{y})=\frac{\sum_{x=0}^{W-1}\sum_{y=0}^{H-1}\left [ I(x+d_{x},y+d_{y})T(x,y) \right ]}{\sqrt{\sum_{x=0}^{W-1}\sum_{y=0}^{H-1}\left [ I(x+d_{x},y+d_{y})\right ]^{2}}\sqrt{\sum_{x=0}^{W-1}\sum_{y=0}^{H-1}\left [ T(x,y)\right ]^{2}}} \]

他にも種類はありますが、代表的な手法はこんなものと思います。

OpenCVについて

先ほどのような式をフルスクラッチとして自分で書いても良いのですが、OpenCVというライブラリを使う事で非常に簡単に画像処理プログラミングをする事ができます。

OpenCVによるテンプレートマッチングに関するチュートリアルは以下の公式ページに掲載されています。基本は当ブログもここを参照して、カスタマイズするというやり方をとっています。

公式:OpenCV:テンプレートマッチングのチュートリアル

OpenCVのインストールがまだの方は「Pythonで画像処理!OpenCVのメリットとインストール法」も是非ご覧下さい。

本記事の目標

前置きが長くなりましたが、本記事のモチベーションは「Python/PIVの検証用に管内の粒子流れ動画を作ってみた」に記載した通りです。

以下のようなGIF動画に示す粒子流れの画像から速度場を算出してみようという試みです。

粒子流れ動画の例

1枚目の画像を基準画像とし、基準画像の一部をテンプレート画像として切り抜きます。時刻変化後の2枚目の画像は粒子が流れている最中であり、これを変形画像とした時に、テンプレートマッチングを使って移動量を算出する事を目標とします。

この記事のコードの目標図

例え変形した後の画像であっても、テンプレートマッチで相関を見れば、他の部分よりは着目粒子付近のパターンの方が相関係数が高いだろうという仮定のもとの内容です。

OpenCVのテンプレートマッチングのブログ記事は、同一の画像の中からパターンマッチングを行う記事がほとんどだったので、こういう記事もあっても良いかなという感覚で書き始めました。

Python/OpenCVのテンプレートマッチングコード

Advertisements

事前準備

本記事のテンプレートマッチングコードを試すためには、まず「Python/PIVの検証用に管内の粒子流れ動画を作ってみた」の記事内コードを一回走らせ、プログラム実行フォルダ内に「out」フォルダを作り、フォルダ内に「00000.png」と「00001.png」の2つの画像を入れておく必要があります。

もしお試しになる場合は上記記事もセットでご覧下さい。

全コード

以下に全コードを示します。本コードはwsizeとウィンドウサイズを設定 (PIVという計測界隈では32がよく使われるそうです)し、ここでは(100, 100)の座標を起点にテンプレート画像をウィンドウサイズ分切り取っています。

テンプレートマッチングの手法は相関をみたいのでNCCを使っています。

resはマッチングの結果として画像の全領域で相関係数が記録された物です。

cv2.minMaxLoc()を使う事で全結果から最大値、最小値とその位置を取得する事が可能です。今回はNCCを使っているので、最大値が目的の数値になります。

以下が結果です。rectangleを使ってテンプレート画像で切り抜いた部分と、2枚目の変形画像でマッチした部分を描画していますが、狙い通りのずれ、つまり移動量を得る事ができました。

変形画像に対するテンプレートマッチングの結果

コンソールには以下の出力がされます。これは相関係数が約0.57(以外と低い…)、(100, 100)からスタートしたので、(111, 100)と11ピクセル移動している事が結果として得られました。

これだけだとわからないと思いますので、以下に動画を示します。テンプレートマッチングの結果はしっかり粒子の動きに追従しているようです。

テンプレートマッチングの結果を動画にした例

まとめ

Advertisements

本記事ではPIVという粒子流れから速度を求める解析のために、テンプレートマッチングの概要を紹介し、OpenCVによる実装を試してみました。

OpenCVを使う事で大変短いコードでテンプレートマッチングをする事ができました。

また、粒子が流れるという現象を持った動画に対して相関をとる事で粒子の移動量を推測する事ができそうという事もわかりました。

実際の計測画像に対してどの程度通用するかはまだわかりませんが、一つずつ学んでいこうと思います。

テンプレート画像を使ったパターンマッチングもPython/OpenCVなら苦もなく使うことができました!
Twitterでも関連情報をつぶやいているので、wat(@watlablog)のフォローお待ちしています!

SNSでもご購読できます。

コメントを残す

*