Cribl alerte sur les nouveaux défis de sécurité liés à l’IA agentique
Les données publiées par HBR Analytic Services, avec le soutien de Cribl, montrent que l’autonomie croissante des agents IA impose aux entreprises de renforcer leur gouvernance et leur observabilité.
L’essor de l’IA agentique ouvre de nouvelles perspectives pour les entreprises, mais il introduit aussi une nouvelle catégorie de risques. En donnant à des agents IA la capacité de planifier, d’exécuter des tâches et d’interagir avec différents systèmes, les organisations créent de nouveaux points de contrôle à sécuriser. La question n’est plus seulement de savoir ce qu’un outil d’IA peut produire, mais ce qu’il peut consulter, modifier, déclencher ou automatiser.
L’étude conduite par HBR Analytic Services avec le soutien de Cribl montre que les entreprises ont bien identifié ces enjeux. Parmi les principaux défis rencontrés dans l’adoption de l’IA agentique, les risques liés à la confidentialité arrivent en tête, cités par 57 % des répondants. Les difficultés concernent aussi le manque de compétences, la préparation insuffisante des architectures data, l’absence de feuille de route claire et des workflows encore mal adaptés aux usages agentiques.
Ces résultats rappellent que l’IA agentique ne peut pas être sécurisée uniquement au niveau du modèle. Les agents doivent être encadrés par des règles précises : quelles données peuvent-ils consulter ? Quelles actions peuvent-ils réaliser ? Dans quels cas doivent-ils solliciter une validation humaine ? Comment peut-on détecter un comportement inhabituel ou interrompre un agent lorsque quelque chose ne se passe pas comme prévu ? Ces questions deviennent centrales à mesure que les agents gagnent en autonomie.
L’un des points clés du rapport concerne la télémétrie. Les agents IA agissent à grande vitesse et peuvent intervenir sur plusieurs systèmes à la fois. Sans visibilité sur leurs actions, leurs décisions et les données utilisées, les équipes IT et sécurité risquent de découvrir trop tard qu’un agent a produit un résultat erroné, accédé à une source inappropriée ou contribué à propager une mauvaise décision.
Cette difficulté est renforcée par l’augmentation du volume de données générées par l’IA agentique. Le rapport indique que 76 % des organisations utilisant, expérimentant ou pilotant des agents IA constatent une hausse de leur volume de données de télémétrie. Cette augmentation complique le travail des équipes sécurité, mais elle peut aussi devenir un levier si les entreprises parviennent à transformer ces données en signaux exploitables.
Pour Cribl, l’enjeu consiste à faire de la télémétrie une base de confiance pour l’IA agentique. Une infrastructure adaptée doit permettre de collecter, filtrer, analyser et orienter les données issues des systèmes, des utilisateurs et des agents, sans créer de nouveaux silos ni faire exploser les coûts. Cette visibilité est indispensable pour comprendre ce que font les agents, détecter les anomalies et documenter les décisions prises par les systèmes automatisés.
L’IA agentique peut aussi devenir un atout pour la cybersécurité, notamment en accélérant la détection des problèmes, en simplifiant certains processus et en aidant les équipes à se concentrer sur les tâches à plus forte valeur. Mais cette promesse ne pourra se concrétiser que si les entreprises disposent d’un cadre de gouvernance clair et d’une observabilité suffisante pour garder le contrôle.
Avec cette étude, Cribl rappelle que la sécurité de l’IA agentique ne repose pas seulement sur des garde-fous théoriques. Elle dépend de la capacité à suivre les agents dans leurs actions réelles, à comprendre leur comportement et à intervenir rapidement lorsque leur autonomie crée un risque.