mpathic est une entreprise de sécurité de l'IA bâtie par des cliniciens et des spécialistes des sciences du comportement. Sa plateforme intègre un jugement humain expert en pré-entraînement, post-entraînement et production en direct, afin que le comportement du modèle dans des conversations à haut risque — idéation suicidaire, troubles alimentaires, désinformation — soit mesuré par rapport à un standard clinique de référence, et non uniquement à des heuristiques automatisées. Une boucle de calibration relie la couche technologique à un réseau de plus de 7 000 cliniciens agréés qui rédigent la politique, la taxonomie, la rubrique et les scripts de conversation qui fixent le standard d'évaluation.
Le pôle de recherche public de l'entreprise est mPACT (mpathic Psychologist-led AI Clinical Tests), un cadre de benchmarking qui évalue les modèles d'IA dans des scénarios simulés à haut risque. Les benchmarks publiés couvrent actuellement le risque suicidaire, les troubles alimentaires et la désinformation, chacun noté selon un standard clinique et destiné aux chercheurs, développeurs, régulateurs et cliniciens.
Au-delà des benchmarks, mpathic propose des services commerciaux tels que l'évaluation et le benchmarking de modèles, le red teaming de modèles et la conception de taxonomies, rubriques et politiques, ainsi qu'une plateforme qui surveille en continu les comportements dangereux en production. Le Bureau de la politique d'intelligence artificielle de l'État de l'Utah a reconnu mpathic pour évaluer de manière indépendante l'IA de santé dans le bac à sable réglementaire de l'État. Le tarif n'est pas publié ; l'engagement se fait par contact/démonstration.
