Captum (latin pour « comprendre ») est une bibliothèque open source et extensible qui explique les prédictions des modèles PyTorch. Elle regroupe un large ensemble d'algorithmes d'attribution — Integrated Gradients, GradientShap, Saliency, Occlusion et bien d'autres — derrière une API cohérente, ce qui permet de mesurer la contribution de chaque caractéristique d'entrée à une sortie donnée sans réécrire le réseau. La plupart des modèles PyTorch fonctionnent avec des modifications minimes.
La bibliothèque est multimodale par conception. Elle prend en charge non seulement les modèles de vision, mais aussi le texte et d'autres types de données, avec le même flux de travail conceptuel. Outre les méthodes d'attribution principales, Captum fournit des utilitaires pour inspecter les couches intermédiaires, visualiser les attributions et évaluer par des métriques la robustesse ou la fidélité des explications.
Captum est pensé autant pour la recherche que pour la production. Il est open source et générique, ce qui permet aux équipes d'implémenter, de comparer et de benchmarker de nouveaux algorithmes d'interprétabilité plutôt que de se limiter à un catalogue figé. La documentation, les tutoriels et la référence d'API sont sur captum.ai, et le code est distribué via pip et conda ainsi que sur GitHub sous Meta Platforms.
