Командам модельного риска не нужна лекция о значениях SHAP. Им нужны коды причин, стабильная документация и мониторинг, доказывающий, что модель ведёт себя так, как при валидации.
Каждый банк, с которым мы работаем, хочет использовать машинное обучение для кредитования, антифрода и AML. И у каждого есть функция управления модельным риском (MRM), задача которой — говорить «нет», пока нет ответов на три вопроса: что делает модель, почему она приняла это решение и откуда мы знаем, что она всё ещё работает?
1. Что делает модель
Это документация, а не математика. Карточка модели с описанием популяции, признаков, обучающего окна, исключений и известных ограничений убеждает валидатора сильнее любого графика точности. Пишите её до обучения и обновляйте с каждым релизом.
2. Почему она приняла это решение
Коды причин — валюта объяснимости в банках. Для каждого решения — главные факторы на языке бизнеса: «высокая доля новых счетов за последние 30 дней», а не «feature_47». SHAP и подобные методы атрибуции — механизм; перевод на человеческий язык — продукт.
3. Откуда мы знаем, что она всё ещё работает
Валидация — это момент времени. Мониторинг — то, что сохраняет одобрение модели. Стабильность популяции, дрейф признаков, качество по сегментам и метрики справедливости должны быть дашбордами, которые команда MRM может открыть, с алертами владельцу модели.
Когда есть эти три элемента, циклы одобрения сокращаются с месяцев до недель, а разговор с регулятором превращается из переговоров в демонстрацию.
- #ИИ
- #Банки
- #Модельный риск