Sicherheitszertifizierung
Der OWASP Top 10 for Agentic Applications (2026) definiert die kritischsten Sicherheitsrisiken für KI-Agentensysteme. So bildet VeriSwarm jedes davon ab. Für die beiden wichtigsten Risiken im Detail: So begegnet VeriSwarm der Prompt-Injection-Erkennung und dem MCP-Tool-Poisoning.
Nicht vertrauenswürdige, eingelesene Inhalte (Dokumente, Webseiten, E-Mails, Tool-Antworten) lenken die Ziele des Agenten um, während dieser glaubt, weiterhin dem Nutzer zu dienen — agentische Prompt-Injection auf der Planungsebene.
Agenten rufen legitime Tools schädlich auf — falsche Parameter, unsichere Tool-Verkettung, Weiterleitung nicht validierter Ausgaben an eine leistungsfähigere API — oder werden durch vergiftete Tool-Metadaten gesteuert.
Übermäßige, gemeinsam genutzte, langlebige oder vererbte Zugangsdaten ermöglichen Credential-Wiederverwendung, Rechteausweitung und Agenten-Identitätsdiebstahl.
Kompromittierung über Frameworks, Modellanbieter, Tool-Integrationen, MCP-Server oder Registries — Paket-Poisoning, MCP-CVEs — manche werden erst zur Laufzeit entdeckt.
Natürliche Sprache wird zu laufendem Code oder Shell-Befehlen außerhalb der vorgesehenen Grenzen — die Mauer zwischen Anweisung und Ausführung fällt in sich zusammen und ermöglicht Sandbox-Escapes oder RCE auf dem Host oder nachgelagerten Systemen.
VeriSwarm schränkt den Zugriff auf Code-Ausführungs-Tools ein und scannt auf Command-Injection, isoliert die Laufzeitausführung des Agenten aber nicht in einer Sandbox; setzen Sie isolierte/kurzlebige Ausführungs-Runtimes für vollständige ASI05-Abdeckung ein.
Angreifer schleusen falsche oder bösartige Informationen in den Sitzungskontext, Retrieval-Indizes oder den persistenten Speicher ein und beeinflussen so das Agentenverhalten in künftigen Sitzungen und bei anderen Nutzern.
VeriSwarm verifiziert kritische Entscheidungen und protokolliert die Herkunft, verwaltet aber nicht den Speicher des Agenten; validieren Sie Speicherzugriffe und prüfen Sie den persistenten Speicher in Ihrer Agenten-Laufzeitumgebung.
Der Nachrichtenaustausch zwischen Agenten verfügt über keine Authentifizierung, Integritäts- oder Herkunftsprüfung, was Spoofing, Manipulation, Replay oder die Registrierung gefälschter Peers ermöglicht — ein kompromittierter Agent breitet sich im gesamten Netzwerk aus.
Eine schlechte Entscheidung, eine Halluzination oder eine Kompromittierung breitet sich schneller durch verbundene Agenten und Workflows aus, als Menschen sie erkennen können — die Ausgabe eines Agenten wird zur vertrauenswürdigen Eingabe eines anderen.
Der Mensch ist im Loop und genehmigt tatsächlich, aber der Agent manipuliert ihn dazu — flüssige, überzeugende Zusammenfassungen, die den tatsächlichen zugrunde liegenden Vorgang verschleiern, oder Überredung, um Zugangsdaten oder Daten zu entlocken. Protokolle zeigen eine gültige menschliche Genehmigung, während das Angezeigte nicht dem entspricht, was tatsächlich ausgeführt wurde.
VeriSwarm bietet KI-Status- und Verantwortlichen-Offenlegung (Artikel-50-Bereitschaft), Trust-Attribution und Scan auf täuschende Personas; es kontrolliert jedoch nicht die Oberfläche des Agenten, um die Integrität von Rohvorgang-versus-Zusammenfassung durchzusetzen.
Der Agent selbst wird zur Insider-Bedrohung — Verlust der Richtlinien-Eindämmung durch einen Akteur, der sich bereits innerhalb der Vertrauensgrenze befindet, durch Designfehler, Drift über die Zeit oder Kompromittierung. Er verfolgt still unautorisierte Ziele und kann über Sitzungen hinweg bestehen bleiben, während die sichtbare Aktivität normal wirkt.
Der Endpunkt /v1/compliance/owasp-attestation liefert einen mandantenspezifischen Bericht mit Ihrem konkreten Abdeckungsstatus, Nachweiszahlen und Empfehlungen zur Verbesserung.