Интерпретация моделей: SHAP

Объясни бизнесу, почему модель приняла такое решение

100%SHAP

Моделей объяснимы

Регуляторcompliance

Требует объяснения

1 графикclarity

= 1000 слов

Trustearned

Доверие бизнеса

AI Insight

В банке тебя не пустят в продакшн без объяснения модели. Регулятор требует: почему клиенту отказано? SHAP решает эту проблему — и для регулятора, и для бизнеса.

Ключевые темы

SHAP (SHapley Additive exPlanations) — золотой стандарт интерпретации ML

Global interpretability: какие фичи важны для всей модели (summary plot)

Local interpretability: почему конкретному клиенту отказали в кредите (waterfall plot)

Partial Dependence Plots: как одна фича влияет на предсказание

Бизнес-коммуникация: графики SHAP для презентации руководству

Аналитика и графики

Старый подход vs AI-подход

🪦Старый век

🚀Новый век

Объяснение модели

"Модель так решила" — black box

∞

SHAP waterfall: конкретные причины решения

Инструменты урока

SHAPscikit-learnCatBoostmatplotlib

Домашнее задание

Практическое задание

Для лучшей модели из предыдущего урока: постройте SHAP summary plot, waterfall plot для 3 клиентов, partial dependence plot для топ-3 фичей. Подготовьте 1-страничный отчёт для бизнеса.

Урок 47 из 59

Валидация и метрики

Churn Prediction и Scoring