Captum (en latín, "comprender") es una librería de código abierto y extensible que explica las predicciones de modelos de PyTorch. Reúne un amplio conjunto de algoritmos de atribución —Integrated Gradients, GradientShap, Saliency, Occlusion y muchos más— bajo una API coherente, de modo que puedes medir cuánto contribuye cada característica de entrada a una salida concreta sin reescribir la red. La mayoría de modelos de PyTorch funcionan con cambios mínimos.
La librería está pensada para ser multimodal. No solo admite modelos de visión, también texto y otros tipos de datos, y el mismo flujo de trabajo conceptual se aplica a todos ellos. Además de los métodos de atribución principales, Captum ofrece utilidades para inspeccionar capas intermedias, visualizar atribuciones y evaluar con métricas la robustez o fidelidad de las explicaciones.
Captum está diseñado tanto para investigación como para producción. Es código abierto y genérico, por lo que los equipos pueden implementar, comparar y hacer benchmark de nuevos algoritmos de interpretabilidad en lugar de limitarse a un menú fijo. La documentación, los tutoriales y la referencia de API están en captum.ai, y el código se distribuye por pip y conda y en GitHub bajo Meta Platforms.