interpret Пакет

Содержит функциональные возможности для работы с интерпретируемостью модели в Машинном обучении Azure.

Интерпретируемость модели можно использовать для объяснения причин, по которым модель делает те или иные прогнозы, и укрепления доверия к модели. С помощью этого пакета можно оценить важность признаков и классов для моделей черного и белого ящика как в необработанных, так и в сконструированных признаках. Дополнительные сведения приведены в статье Интерпретируемость модели в Машинном обучении Azure.

Данный пакет использует методики интерпретации, разработанные в Interpret Community SDK, пакете Python с открытым исходным кодом, предназначенном для обучения интерпретируемых моделей и объяснения систем черного ящика, с дополнительными методиками интерпретации и служебными функциями для обработки реальных наборов данных и рабочих процессов. В пакете Interpret Community SDK размещаются средства объяснения, поддерживаемые SDK для Машинного обучения Azure, например, средства объяснения SHAP, средство объяснения Mimic, табличное средство объяснения и др.

Класс ключа в этом пакете — это класс MimicWrapper, предоставляющий программу-оболочку для сокращения количества вызовов функций, необходимых для работы с пакетом интерпретации модели.

Пакеты

common	Содержит общую инфраструктуру, иерархию классов и служебные программы для объяснений моделей в Машинном обучении Azure.
model	Определяет концепцию модели для интерпретируемости.
scoring	Модуль для упрощенных средств объяснения, которые будут запускаться в период оценки.

Модули

mimic_wrapper

Определяет функциональные возможности для заключения интерпретируемости машинного обучения в единый API путем создания программы-оболочки.

Классы

ExplanationClient	Определяет клиента, который отправляет и скачивает объяснения. Создание клиента, используемого для взаимодействия с объяснениями и журналом выполнения.
MimicWrapper	Средство объяснения программы-оболочки, сокращающее количество вызовов функций, необходимых для использования пакета объяснения модели. Инициализируйте MimicWrapper. "<<который принимает 2d ndarray :p aram explainable_model: неинициализированная суррогатная модель, используемая для объяснения модели черного ящика. Ее также называют моделью учащихся.