Python機械学習済モデルをpickleで保存して復元する方法

  • このエントリーをはてなブックマークに追加

機械学習で構築した学習済モデルは通常一度プログラムを終了してしまうとメモリから解放され、再び使うためには再度学習し直さなければなりません。ここでは学習して出来上がったモデルをPythonのpickleを使ってファイルに保存し、再度復元する方法を紹介します。

こんにちは。wat(@watlablog)です。
機械学習は非常に時間がかかるケースもありますが、ここでは一度学習したモデルをファイルに保存し、復元して使うまでの方法を紹介します

学習済モデルを保存するメリット3選

具体的なコードを紹介する前に、機械学習において、学習済モデルを保存するとどのようなメリットがあるのかを整理してみましょう。

①無駄な計算時間を省くことができる

1つ目のメリットはなんといっても「無駄な計算時間を省くことができる」という点です。

機械学習で学習を行ったモデルは、その後テストデータが何のクラスになるかといった分類問題や、どのような値になるかといった回帰問題を予測するために使います。

機械学習を使った分類や回帰の例として、以下の2つの記事でサポートベクターマシンによる予測の概要を紹介していますので、ご興味のある方は是非参照してみて下さい!
Python機械学習初心者用!サポートベクターマシンの概要と実装
Pythonサポートベクターマシンで回帰分析!SVRの概要と実装

これらの予測を行う時に、最初から目的のテストデータが全て揃っていることは稀で、大抵はデータを測定した時に都度予測器としてモデルを使います。

機械学習のデータは次元が増えれば増えるほど学習に時間がかかってしまうので、毎回トレーニングデータを使った学習からやり直すのは非常に効率が悪いです。

一度学習をしたモデルをファイルとして保存し再利用可能な状態にしておけば、予測する時に学習からやり直さなくても良いというメリットがあります

②学習の経過を記録することができる

AI成長記録の図

2つ目のメリットは「学習の経過を記録することができる」点です。

機械学習ではデータの前処理、学習アルゴリズムの選定、ハイパーパラメータの調整…と様々な工程を経てモデル構築を行います。

つまり一回の学習で実用的なモデルになるケースはほとんどなく、通常はいくつかのトライを行います。

この時に、学習内容の異なるモデル同士で精度を比較する場合にも、モデルがファイルとして保存されていれば簡単に参照することができ、かつ管理も容易になるメリットがあります。

③第3者に配布することができる

モデル配布の図

3つ目のメリットは「第3者に配布することができる」点です。

複数人で機械学習プロジェクトを推進している人や、開発した学習済モデルをインターネットを使って配布したい人は、モデルがファイルになっていた方が送受信が楽になります。

モデルファイルを使わない場合はトレーニングデータと学習コードを送信することになり、受信者は再度学習計算からプログラムを実行しなければなりません。

1つ目のメリットと似ていますが、学習済モデルをファイルとして残すのは、しなくても良い計算を極力しないスマートな方法であると言えます。

ここでは機械学習の学習済モデルをファイルとして保存する1つの方法として、pickleというライブラリを使う方法を紹介します!

pickleで学習済モデルを保存することができる

pickleとは?

pickleとは、Pythonで作成したオブジェクトの状態をファイルとして保存したり、保存したオブジェクトをファイルから読み取り復元することを可能にするライブラリです。

「オブジェクトの状態をファイルに保存する」とは、プログラム上で得られたオブジェクト(機械学習で.fitした後のmodel等)をバイト列に変換することを意味し、シリアライズSerialize)、または直列化すると言います。

その反対に、保存されたオブジェクトを読み込みプログラム上で復元することをデシリアライズDeserialize)または非直列化すると言います。

pickleはインストールしなくても良い

pickleはPython標準ライブラリであるため、Python本体のインストールがされていれば別途pipインストールをする必要はありません

ちなみに、本ページで紹介する内容はWindows10 64bit、Python3.7で動作させています。環境の問題で動作出来ない場合もあるかも知れませんが、僕の環境の詳細は「Python入門!初心者がインストールから学習開始するまでの3ステップ」でも紹介していますので必要であれば参考にしてみて下さい。

pickleでオブジェクトを保存・復元するコードはこれだけ!

オブジェクトを保存するコード

pickleでオブジェクトを保存するコードを以下に示します。

ファイルクローズ処理を省略することが出来るためwith構文を使っていますが、本質はpickle.dumpの部分です。ここではmodelというオブジェクトをpickle.dumpでシリアライズし保存しています。

ファイルはバイナリ形式で保存する必要があるため、mode='wb'としています。

オブジェクトを復元するコード

pickleでオブジェクトを復元するコードを以下に示します。

同じくwith構文を使ってファイル処理をしますが、バイナリ形式のファイルを読むためにmode='rb'としています。実際にオブジェクトを読み込みデシリアライズしている部分はpickle.loadの部分です。

以下に実際の機械学習プログラムで使う例を紹介します!

Python/pickleで機械学習済モデルを保存・復元するコード

ここでは過去の「Pythonサポートベクターマシンで回帰分析!SVRの概要と実装」という記事で紹介したサポートベクターマシンを使った回帰問題を例に、機械学習済モデルの保存と復元の方法を紹介します。

機械学習済モデルを保存するコード

まずはトレーニングデータを生成して機械学習を行い、モデルを保存するコードを以下に示します。

モデルの保存はmodelオブジェクトを生成し、.fitまでさせた後にpickle.dumpmodelをシリアライズすれば良いので、テストデータによる確認や決定係数の計算、グラフ化は可視化用途だけで保存とは無関係です。

上記コードを実行すると、以下の結果を得ます。トレーニングデータに対し、決定係数が0.99という精度の高い回帰モデルが出来上がりました。

オリジナルモデル

機械学習済モデルを復元するコード

続いてモデルを復元するコードを以下に示します。

このコードはトレーニングデータを用いず、最初にpickle.loadでモデルオブジェクトをデシリアライズする所からスタートします。学習を行わず、ファイルから復元したモデルを使って回帰モデルのグラフ化をしています

以下の図が上記コード実行で得られる結果です。見事ファイルだけでオリジナルの回帰モデルを再現することが出来ました。

復元されたモデル

まとめ

本ページでは機械学習済のモデルをファイルとして保存するためのメリットを3つ説明し、Python標準ライブラリであるpickleを使って実際の機械学習モデルの保存と復元効果を確かめました。

本方法を使うことで様々な学習モデルを使ったトライ計算の効率が向上し、簡単に第3者への配布もできるようになる見込みです。

モデルの保存は機械学習の運用面で重宝しそうですね!Twitterでも関連情報をつぶやいているので、wat(@watlablog)のフォローお待ちしています!

  • このエントリーをはてなブックマークに追加

SNSでもご購読できます。

コメントを残す

*