interpret パッケージ

Azure Machine Learning でモデルの解釈性を操作するための機能が含まれています。

モデルの解釈性を使用して、モデルが行う予測の理由を説明し、モデルの信頼度を高めることができます。 このパッケージを使用すると、生の特徴量とエンジニアリングされた特徴量の両方について、ブラックボックス モデルとホワイトボックス モデルの特徴量とクラスの重要度を取得できます。 詳細については、「Azure Machine Learning におけるモデルの解釈性」の記事を参照してください。

このパッケージは、解釈可能なモデルをトレーニングし、ブラックボックス システムを説明するために役立つオープンソースの Python パッケージである Interpret Community SDK で開発された解釈性手法と、実世界のデータセットとワークフローを処理するための追加の解釈性手法とユーティリティ関数を使用しています。 Interpret Community SDK では、Azure Machine Learning SDK でサポートされている、SHAP Explainer、Mimic Explainer、Tabular Explainer などの Explainer がホストされます。

このパッケージのキー クラスは MimicWrapper クラスです。これは、interpret model パッケージを使用するために必要な関数呼び出しの数を減らすラッパーを提供します。

パッケージ

common	Azure Machine Learning 内のモデルの説明のための一般的なインフラストラクチャ、クラス階層、ユーティリティが含まれています。
model	解釈性のモデルの概念を定義します。
scoring	スコアリング時に実行される軽量 Explainer のモジュール。

モジュール

mimic_wrapper

機械学習の解釈性を 1 つの API にラップする機能を定義します。

クラス

ExplanationClient	説明のアップロードとダウンロードを行うクライアントを定義します。 説明と実行履歴をやり取りするために使用されるクライアントを作成します。
MimicWrapper	explain model パッケージを使用するために必要な関数呼び出しの数を減らすラッパーの Explainer。 MimicWrapper を初期化します。 2d ndarray :p aram explainable_modelを受け入れる :<< ブラック ボックス モデルの説明に使用される初期化されていないサロゲート モデル。 学生モデルとも呼ばれます。