Mindgard ist eine KI-Sicherheitsplattform, die den Schutz von KI-Systemen so angeht wie ein Angreifer. Statt mit einer Checkliste von Prompts zu beginnen, startet sie mit agenten-nativer Aufklärung: Sie profiliert die Modelle, Agenten, Tools, Anweisungen, Berechtigungen und Verhaltensweisen eines KI-Systems, um die Angriffspfade zu identifizieren, die echten Schaden verursachen könnten. Diese Aufklärung speist sich aus Schwachstellen-Intelligenz aus den eigenen veröffentlichten Meldungen.
Die Plattform deckt den gesamten Sicherheitskreislauf ab. Recon zeigt, was ein KI-Einsatz tatsächlich kann; Red Teaming testet Agenten und Systeme kontinuierlich gegen sich entwickelnde Angriffe; Assessment validiert, welche Schwachstellen wirklich ausnutzbar sind und quantifiziert ihre Auswirkung; Runtime-Schutz und Behebungshinweise helfen, Lücken zu schließen und zu prüfen, ob Abwehrmaßnahmen halten, wenn sich das System verändert. Das ist wichtig, weil sich KI-Verhalten mit jeder Modellaktualisierung, Prompt-Änderung oder neuen Tool-Integration verschiebt – einmalige Tests reichen daher nicht.
Mindgard entstand aus über einem Jahrzehnt KI-Sicherheitsforschung an der Lancaster University und gibt an, hinter 175+ öffentlich offengelegten Schwachstellen in prominenter KI zu stehen. Es ist darauf ausgelegt, sich über APIs, CI/CD-Pipelines und Burp-Suite-Integration in bestehende Engineering-Workflows einzufügen, sodass KI-Sicherheitsbewertungen vor dem Deployment und kontinuierlich im Betrieb laufen statt als periodische externe Übung.
