機械学習の初期検討を効率化｜PyCaretを利用したモデル選択の自動化

PyCaretはモデル構築の初期検討に便利です。この記事では、Python+PyCaretでクラス分類する方法を解説します。PyCaretを利用することで、複数の学習モデルを比較・組み合わせる（ブレンド）することができます。

他のタスク（Regression（回帰）・Time Series （時系列）・Clustering（クラスタリング）・Anomaly Detection（異常検知）の各タスクを行う方法については、以下の記事も参考にしてください。

あわせて読みたい

回帰・時系列・クラスタリング・異常検知 | PyCaretでクラス分類以外のタスクを行う方法

TabPFNというTransformerベースの機械学習ライブラリに興味があれば以下の記事も読んでみてください。

あわせて読みたい

TabPFN（表のためのトランスフォーマー）のを試す

PyCaretとは何？

PyCaretは、Pythonでの機械学習を効率化できるオープンソースのライブラリです。PyCaretを使うことで、データの前処理、特徴量エンジニアリング、モデル選択、ハイパーパラメータチューニング、モデル評価などのタスクを自動、または簡単に行うことでできます。

PyCaretを利用すると、scikit-learn、XGBoost、LightGBM、CatBoostといったモデルの評価も一括して行えるので、初心者だけでなく、データサイエンティストや機械学習エンジニアが初期検討の段階で複数モデルを評価する時間を短縮できます。

私の場合は、kaggleのコンペの最初の検討手段として活用しています。

ここでは、PyCaretの使い方などについて解説します。

Google Colab用のコードをここに用意しました。

PyCaretのインストール

インストールは簡単です。以下のコマンドでインストールできます。

pip install pycaret

scikit-learn、XGBoost、LightGBM、CatBoostなどでの評価も同時に行いたい場合には、これらも同時にインストールしておきます。

pip install scikit-learn
pip install xgboost
pip install lightgbm
pip install catboost

PyCaretの使い方

以下、Google Colabのノートブックに沿って説明していきます。インストール方法は説明しましたが、Colabでは以下のコードでインストールします。なお、sklernは最初から入っていますので、省略してもOKです。

!pip install pycaret
!pip install scikit-learn
!pip install xgboost
!pip install lightgbm
!pip install catboost

PyCaretのインポート

PyCaretの利用するライブラリをインポートをしておきます。今回は、分類を行いたいと思いますので、classificationを読み込みます。また、説明に組み込みデータセットを使いたいと思うので、get_dataも読み込んでおきます。

from pycaret.datasets import get_data
from pycaret.classification import *

PyCaretでは、以下の5つのタスクが可能です。私は、このうち分類と回帰しか使ったことがありませんが、どちらも似た感じで使えたので、おそらくどれも似た感じで使えるのではないかと思います。

データの準備

PyCaretに組み込まれているデータセット一覧は以下で調べることができます。

# 用意されているデータセット一覧を表示
all = get_data('index')

今回は、この中から5番目のcancerを使ってみたいと思います。データを読み込むには以下のコードを実行します。

df = get_data('cancer')
len(df)

データ数は683で、全部で10列のデータです。Classが予測したい分類（0 or 1）で、残りが予測に利用できる説明変数になります。

用意したコードでは、簡単なEDA（Explanatory Data Analysis）を行なっていますので、そちらも参考に。EDAを見ると、それなりに識別できそうなデータです。

データは、訓練用と評価用の2つに分けておきます。

train, test = df[:600], df[600:]

セットアップ

セットアップは簡単です。

seed = 42
clf = setup(data=train, target = 'Class', session_id=seed, fix_imbalance=True) 

setupで設定できるパラメータのうち、よく使うものです。今回のデータでは、予測したいのはClassで、EDAからクラス０とクラス１が均等ではなかったので、fix_imbalanceも設定しています。

設定は以下のようになります。Fix imbalanceがTrueになっています。

不均衡データのリバランスにはSMOTEが使われているようです。

あわせて読みたい

SMOTE:不均衡データをオーバーサンプリングして数を揃える手法

Pycaretの前処理によって変換されたデータフレームを確認したい場合は、以下のコマンドを使います

get_config('X_transformed')

前処理に関しては別の記事にしていますのでそちらを参考にしてください。

あわせて読みたい

PyCaretの前処理（Preprocess）のまとめ｜欠損値の補完〜特徴量エンジニアリング

モデルを比較する

とりあえず、各モデルで予測して比較してみます。以下のコードで、さまざまなモデルの比較ができます。

best = compare_models()

結果は、以下のように表示されます。今回の場合はknnが最も結果が良かったようです。

なお、bestには、最も良かったモデルが格納されます。

どのスコア順に並べるか、また、ベストだけでなく、上位ｎ個を返すといった設定も可能です。この場合は、以下のようにします。

以下では、ソートをF1スコアで、上位3モデルを返しています。

best = compare_models(sort='F1', n_select=3)

先ほどとは異なり、F1でソートされていることがわかります。

特定のモデルだけ比較したい場合は、以下のようにincludeを使って指定できます。

compare_models(sort = 'F1',  include = ['lightgbm', 'xgboost', 'catboost'])

なお、モデル一覧はmodels()で表示するとができます。

モデル評価は簡単

以上のように、とりあえず色々なモデルを一斉に評価するは非常に簡単です。とりあえず、まずはPyCaretを使って試してみるというのはアリかと思います。

その他の使い方

最適化

PyCaretではモデルの最適化も可能です。以下はlightGBMのモデルを作り、最適化を行う例です。tuned_lgbにはパラメータが最適化されたモデルが格納されます。

lgb = create_model('lightgbm')
tuned_lgb = tune_model(lgb)

下の表は、上が最適化前、下が最適化後です。スコアが向上しているのが確認できます。

tune_modelには、n_iterなど、設定できるパラメータがいくつかあります。詳しくはここを参考にしてください。よく使うのは、繰り返し回数を設定するn_iterと、最適化の対象とする指標（Accuracy, r2とか）を設定するoptimizeでしょうか。

ちなみに、最適化したパラメータは、以下のコードで確認することができます。PyCaretで最適化まで行い、そのパラメータを取り出して直接（lightGBMなどを）使う時などに重宝しますので覚えておくと良いです。

tuned_lgb.get_all_params()

ブレンド

PyCaretではモデルのブレンドも簡単にできます。先ほど比較した上位３モデルのブレンドしたい場合は以下のようにします。

blend = blend_models(estimator_list = best)

ブレンドした結果も、以下のように表示されます。

ファイナライズする

ここまでは、データを分割してトレーニングを行っていました。最後に、全データを使って訓練します。PyCaretでは、これをファイナライズと呼びます。処理自体は以下のように関数を呼び出すだけです。

finalized_model = finalize_model(blend)

モデルを使って予測する

ファイナライズしたモデルを使って予測を行いたい場合、predict_modelを使います。なお、予測自体はファイナライズを行う前のモデルでも行うことができます。

pred = predict_model(finalized_model, data=test[test.columns[1:]])
pred

結果が末尾2列に追加されています。

予測精度を確認してみます。それなりに、ちゃんと予測できてそうです。

from sklearn.metrics import *
confusion_matrix(test.Class, pred.prediction_label)

accuracy_score(test.Class, pred.prediction_label)

0.9879518072289156

ちなみに、クラス０のスコア、クラス１のスコアを出したい場合には、raw_score=Trueを追加します。

predict_model(finalized_model, data=test[test.columns[1:]], raw_score=True)

モデルの保存・読み込み

モデルの保存と読み込みも簡単です。モデルの保存はsave_modelを使います。保存したいモデルと、ファイル名を指定することでファイルに保存できます。

save_model(finalized_model, "models")

保存したモデルを読み込むには、load_modelを使います。読み込んだモデルは、予測などの関数を呼び出して使うことができます。

loaded = load_model("models")

PyCaretで評価、モデル選定、学習、モデルの保存ができますので、これだけで機械学習の予測モデルを使うことができます。

まとめ

PyCaretは初心者にとっては強力な機械学習のツールです。また、熟練者でも初期検討で利用すると便利だと思います。私の場合は、EDAと一緒にサクッと結果を見たい時などに、PyCaretを利用しています。

巷ではノーコードが流行っていますが、PyCaretから始めた方が、自分で前処理などのコードを書いていくなどステップアップする場合は、良いと思います。