Ein Anbieter führt den Agent Risk Managers ein. Das branchenweit erste Verteidigungssystems, das darauf ausgelegt ist, das Verhalten autonomer KI-Agenten zu sichern, zu überwachen und zu steuern. Der Agent Risk Manager ist ein Eckpfeiler der KnowBe4 HRM+-Plattform und verändert grundlegend, wie Unternehmen die Risiken der menschlichen und KI-Belegschaft quantifizieren und mindern.
Mit dem Wandel der Arbeitsabläufe von KI-unterstützt zu agentengesteuert ist eine neue Sicherheitslücke entstanden. Während andere sich auf statisches Code-Scanning oder grundlegende API-Sicherheit konzentrieren, befasst sich der Agent Risk Manager von KnowBe4 mit den Risiken, die mit dem Verhalten von Agenten verbunden sind, und verhindert unbefugte Aktionen wie die Weitergabe sensibler Informationen, identifiziert indirekte Prompt-Injektionen, inventarisiert Agenten und vieles mehr.
„Die Branche hat Jahre damit verbracht, den menschlichen Faktor zu sichern, doch heute sind KI-Agenten die neuesten Mitglieder unserer Belegschaft“, sagt Greg Kras, Chief Product Officer bei KnowBe4. „Die Absicherung der Eingabeaufforderung ist jedoch nur die halbe Miete. Unser Agent Risk Manager konzentriert sich auf die Ausgaben und Aktionen dieser Agenten und stellt sicher, dass sie, während sie sich durch Ihr Netzwerk bewegen, nicht zur ultimativen Schatten-IT oder zu einer Hintertür für raffinierte Prompt-Injection-Angriffe werden.“
Agent Risk Manager
Der Agent Risk Manager von KnowBe4 bietet eine operative Echtzeit-Ebene, die das Verhalten der Agenten nach ihrer Bereitstellung steuert. Zu den wichtigsten Funktionen des Agent Risk Managers gehören:
- Verhaltensschutz: Echtzeitüberwachung der Agentenaktionen, um unbefugten Datendiebstahl oder die autonome Ausführung nach einem Jailbreak zu verhindern.
- Agentic Identity Governance: Identifiziert Zugriffsberechtigungen und Tools, auf die der Agent Zugriff hat.
- Adversarial Simulation for Agents: Stresstests für KI-Agenten gegen die neuesten Prompt-Injection- und Social-Engineering-Taktiken, die von Hackern eingesetzt werden.
- Auf der Grundlage branchenführender Daten: Nutzt 15 Jahre Verhaltensdaten, um vorherzusagen, wann ein Agent von sicheren Betriebsparametern abweicht.
„Wir bewegen uns von einer Welt des menschlichen Risikos hin zu einem universellen Risiko“, fuhr Kras fort. „Ob es sich nun um einen Menschen handelt, der durch einen Deepfake getäuscht wird, oder um einen KI-Agenten, der durch eine böswillige Eingabeaufforderung manipuliert wird – KnowBe4 ist die einzige Plattform, die beide schützen kann.“ Zu den Funktionen des Agent Risk Managers gehören:
- Erkennung von Prompt-Injection: Eine auf maschinellem Lernen basierende Analyse, die Jailbreaks, Logik-Overrides und indirekte Injektionen in Benutzernachrichten und Tool-Ausgaben identifiziert.
- Erkennung sensibler Informationen: Nutzt über 20 Klassifikatoren, um nach personenbezogenen Daten und Anmeldedaten zu suchen, und schwärzt sensible Daten automatisch, bevor sie das Audit-Protokoll erreichen.
- Erkennung unbegrenzten Verbrauchs: Überwacht Ressourcenmissbrauch und „aus der Kontrolle geratene“ Agenten, um übermäßige API-Aufrufe, Datenabfragen und Rechenkosten zu verhindern.
- Agenten-Inventar: Katalogisiert Agenten und Tools mandantenübergreifend automatisch ohne manuelle Eingabe und verfolgt Tool-Definitionen sowie Zeitstempel der Aktivitäten.
- Auditprotokoll: Ein filterbarer, konformitätsfähiger Datensatz aller Agentenaktionen und Erkennungen, der für eine schnelle Reaktion auf Vorfälle und forensische Überprüfungen konzipiert ist.
- Integrationsmanagement: Zentralisiertes Lebenszyklusmanagement für mehrere Mandanten mit automatischer Konnektivitäts- und Berechtigungsprüfung.
- Geführte Einarbeitung: Eine optimierte, schrittweise Einrichtung, die die Erkennung des ersten Agenten innerhalb von Minuten ermöglicht, ohne dass professionelle Dienstleistungen erforderlich sind.
Über KnowBe4 KnowBe4, der Anbieter der weltweit größten Plattform für Security Awareness Training und simuliertes Phishing, wird von mehr als 60.000 Unternehmen auf der ganzen Welt genutzt. KnowBe4 wurde von dem IT- und Datensicherheitsspezialisten Stu Sjouwerman gegründet und hilft Unternehmen dabei, das menschliche Element der Sicherheit zu berücksichtigen, indem es das Bewusstsein für Ransomware, CEO-Betrug und andere Social-Engineering-Taktiken durch einen neuen Ansatz für Sicherheitsschulungen schärft. Kevin Mitnick, ein international anerkannter Cybersicherheitsspezialist und Chief Hacking Officer von KnowBe4, half bei der Entwicklung der KnowBe4-Schulung auf der Grundlage seiner gut dokumentierten Social-Engineering-Taktiken. Zehntausende von Organisationen verlassen sich auf KnowBe4, um ihre Endbenutzer als letzte Verteidigungslinie zu mobilisieren.