shap

SHAP is a unified approach to explain machine learning model outputs using Shapley values from cooperative game theory. This skill provides comprehensive guidance for:

SHAP works with all model types: tree-based models (XGBoost, LightGBM, CatBoost, Random Forest), deep learning models (TensorFlow, PyTorch, Keras), linear models, and black-box models.

See references/explainers.md for detailed information on all explainer types.

Интерпретируемость и объяснимость модели с использованием SHAP (аддитивные объяснения SHapley). Используйте этот навык при объяснении прогнозов модели машинного обучения, вычислении важности функций, создании графиков SHAP (водопад, пчелиный рой, полоса, разброс, сила, тепловая карта), отладке моделей, анализе предвзятости или справедливости модели, сравнении моделей или реализации объяснимого ИИ. Работает с древовидными моделями (XGBoost, LightGBM, Random Forest), глубоким обучением (TensorFlow, PyTorch), линейными моделями и любой моделью черного ящика. Источник: ovachiever/droid-tings.