Captum (em latim, "compreender") é uma biblioteca open source e extensível que explica previsões de modelos PyTorch. Ela reúne um conjunto amplo de algoritmos de atribuição — Integrated Gradients, GradientShap, Saliency, Occlusion e muitos outros — sob uma API consistente, permitindo medir quanto cada característica de entrada contribuiu para uma saída sem reescrever a rede. A maioria dos modelos PyTorch funciona com alterações mínimas.
A biblioteca é multimodal por concepção. Suporta modelos de visão, mas também texto e outros tipos de dados, com o mesmo fluxo conceitual de trabalho. Além dos métodos centrais de atribuição, o Captum oferece utilitários para inspecionar camadas intermediárias, visualizar atribuições e avaliar com métricas a robustez ou fidelidade das explicações.
O Captum foi feito tanto para pesquisa quanto para produção. É open source e genérico, então equipes podem implementar, comparar e fazer benchmark de novos algoritmos de interpretabilidade em vez de ficar limitadas a um menu fixo. Documentação, tutoriais e referência de API ficam em captum.ai, e o código é distribuído via pip e conda e no GitHub sob a Meta Platforms.
