KnowBe4 étend sa plateforme de gestion du risque humain aux agents IA avec Agent Risk Manager, un système conçu pour surveiller, gouverner et neutraliser les comportements déviants des agents autonomes déployés en entreprise. La solution cible les actions que ces agents exécutent une fois en production, vecteur d’attaque que les outils de sécurité traditionnels laissent ouvert, au-delà du périmètre du code et des contrôles d’API. La question du contrôle des sorties et des autorisations devient aussi structurante que celle du filtrage des entrées.
Les flux de travail agentiques ont modifié la surface d’attaque des SI d’entreprise. Là où un agent IA assisté se bornait à suggérer une action, un agent autonome l’exécute, avec accès aux API, aux bases de données, aux systèmes de messagerie et aux outils métier. Cette extension des permissions opérationnelles crée un vecteur de risque que les contrôles classiques d’identité et d’accès ne couvrent pas entièrement. Un agent compromis par une injection indirecte dans ses prompts peut exfiltrer des données sensibles, déclencher des actions non autorisées ou devenir, selon les termes de KnowBe4, l’équivalent d’une porte dérobée dans le système d’information.
C’est sur ce terrain que KnowBe4 positionne Agent Risk Manager, intégré à sa plateforme HRM+ (Human Risk Management). La société américaine, dont le siège est établi à Tampa en Floride et qui revendique plus de 70 000 organisations clientes dans le monde, élargit ainsi son périmètre historique de gestion du risque humain à ce qu’elle qualifie désormais de risque universel, englobant à la fois les collaborateurs et les agents IA en activité dans le SI.
La détection des injections de prompt, 1ère ligne de défense
La fonctionnalité Prompt Injection Detection s’appuie sur un moteur d’apprentissage automatique pour identifier les injections directes et indirectes, qu’elles proviennent des messages utilisateurs ou des sorties d’outils tiers consultés par l’agent durant son exécution. Le mécanisme cible en priorité les jailbreaks, les contournements logiques et les instructions malveillantes glissées dans les données que l’agent traite en temps réel. Ce vecteur, connu sous le nom d’injection indirecte, constitue l’un des risques les plus difficiles à couvrir par les approches de sécurité statique ou les contrôles de couche API.
Agent Risk Manager intègre également un module de détection des informations sensibles reposant sur plus de vingt classificateurs. Le système analyse les données en transit et supprime automatiquement les informations personnelles identifiables et les identifiants d’accès avant qu’ils n’atteignent les journaux d’audit. Cette couche de contrôle répond directement aux obligations de traçabilité et de minimisation des données posées par le RGPD dans les environnements où des agents accèdent à des référentiels RH, CRM ou financiers.
Gouvernance des identités agentiques et inventaire automatisé
La composante Agentic Identity Governance cartographie les autorisations d’accès et les outils disponibles pour chaque agent déployé. Là où les solutions de gestion des identités et des accès traditionnels gèrent des comptes humains et des comptes de service, cette fonctionnalité traite les agents IA comme des entités distinctes, avec un périmètre de permissions propre, auditable et révocable. L’Agent Inventory complète ce dispositif en répertoriant automatiquement l’ensemble des agents et des outils actifs dans les tenants, sans saisie manuelle, avec horodatage des activités.
Cette capacité d’inventaire répond à un angle mort bien documenté des environnements multiagents. Quand des équipes métier déploient des agents IA sans passer par la DSI, le SI se retrouve dans une situation analogue au shadow IT classique, à ceci près que les agents disposent souvent d’autorisations d’exécution bien plus étendues qu’un outil SaaS standard. « Le secteur a passé des années à sécuriser le facteur humain, mais aujourd’hui, les agents IA sont les nouveaux membres de notre main-d’œuvre », indique Greg Kras, chief product officer chez KnowBe4. « Notre Agent Risk Manager se concentre sur les sorties et les actions de ces agents, en veillant à ce que, lorsqu’ils circulent dans votre réseau, ils ne deviennent ni le summum du shadow IT ni une porte dérobée pour des attaques sophistiquées par injection de prompt », poursuit-il.
Tester les agents avant qu’ils ne déraillent
Les Behavioral Guardrails constituent la couche de surveillance temps réel du système. Ils analysent les actions des agents en cours d’exécution et bloquent les tentatives d’exfiltration non autorisée de données ou les exécutions autonomes compromises par un jailbreak. La solution intègre également une fonctionnalité de détection des agents en dérive, baptisée Unbounded Consumption Detection, conçue pour identifier les appels API excessifs, les requêtes de données anormales et les surcoûts de calcul générés par des agents hors de contrôle.
La composante Adversarial Simulation for Agents soumet les agents déployés à des tests de résistance face aux dernières tactiques d’injection de prompt et d’ingénierie sociale documentées. KnowBe4 indique s’appuyer sur quinze ans de données comportementales collectées via sa plateforme HRM+ pour calibrer ces scénarios. Cette base est aussi mobilisée pour anticiper les moments où un agent s’écarte de ses paramètres de fonctionnement sûrs, avant qu’une action dommageable soit exécutée. « Qu’il s’agisse d’un être humain piégé par un deepfake ou d’un agent IA manipulé par un prompt malveillant, KnowBe4 est la seule plateforme capable de défendre les deux », ajoute Greg Kras.
Un journal d’audit pour la conformité et la réponse à incident
L’Audit Log centralise l’ensemble des actions des agents et des détections sous la forme d’un registre filtrable, formaté pour accélérer l’analyse forensique et la réponse à incident. La solution fournit ainsi les contrôles de traçabilité et d’auditabilité requis pour étayer la conformité aux obligations de journalisation imposées par NIS2 et le RGPD dans les organisations relevant de ces cadres réglementaires européens. L’Integration Management assure, de son côté, la gestion centralisée du cycle de vie pour plusieurs tenants, avec validation automatique des connectivités et des autorisations.
Le déploiement est présenté comme autonome grâce à un module d’onboarding guidé permettant de détecter un premier agent en production en quelques minutes, sans recours à des services professionnels. Ce positionnement oriente la solution vers les environnements multientités où la DSI supervise des déploiements agentiques distribués sur plusieurs périmètres organisationnels.
KnowBe4 Agent Risk Manager englobe sur un même plan de contrôle la surveillance comportementale, la gouvernance des identités agentiques et la conformité réglementaire. Pour les RSSI qui intègrent progressivement des agents IA dans leurs SI, cette approche unifiée répond à une réalité de terrain : les agents agissent avec des autorisations qui dépassent celles des outils SaaS classiques, et leur comportement en production reste encore largement hors du périmètre des contrôles de sécurité établis. L’enjeu, à mesure que les workflows agentiques prolifèrent, est d’appliquer à ces entités un référentiel de gouvernance aussi rigoureux que celui qui s’applique aux identités humaines.
