Agents IA : les permissions deviennent un nouveau front de sécurité

Les agents d’intelligence artificielle peuvent accéder à plusieurs applications et enchaîner des opérations de manière autonome. Pour Bernard Montel, Field CTO EMEA de Tenable, cette capacité amplifie les conséquences d’une permission excessive.

La sécurité de l’IA en entreprise s’est d’abord concentrée sur les données confiées aux modèles. L’essor des agents oblige désormais les organisations à examiner également ce que ces systèmes peuvent faire une fois connectés au système d’information. « Un assistant qui résume un document et un agent capable d’accéder à une boîte mail, de récupérer un fichier puis de déclencher une action dans une application métier ne présentent pas le même risque. L’enjeu n’est donc plus seulement de sécuriser le fonctionnement de l’IA, mais aussi sa capacité d’action », déclare Bernard Montel.

Le risque ne dépend plus uniquement du modèle employé ou des données traitées, mais aussi des permissions accordées et des systèmes auxquels l’agent peut se connecter.

Une faiblesse existante amplifiée par l’autonomie

Les droits excessifs ne constituent pas une nouvelle catégorie de risque cyber. Les équipes de sécurité cherchent déjà à limiter les privilèges accordés aux utilisateurs, aux comptes techniques et aux applications. Les agents changent cependant l’échelle et la vitesse du problème. « L’IA ne crée pas seulement de nouveaux risques, elle amplifie aussi ceux qui existaient déjà. Un agent capable d’enchaîner des actions et de passer d’un système à l’autre peut transformer une permission trop large en incident à grande échelle », prévient Bernard Montel.

Un agent peut exploiter successivement plusieurs autorisations sans intervention humaine à chacune des étapes. Une configuration trop permissive peut ainsi produire des conséquences bien plus larges lorsque l’identité concernée dispose également d’une capacité autonome d’exécution.

Appliquer le moindre privilège aux agents IA

Les entreprises doivent identifier les systèmes auxquels les agents sont connectés, les données qu’ils peuvent consulter et les opérations qu’ils peuvent effectuer. Les principes de gestion des accès doivent être étendus à ces nouvelles identités. Les droits accordés à un agent doivent correspondre aux tâches qu’il doit réellement accomplir, et non aux capacités maximales offertes par les applications auxquelles il est relié. « Jusqu’ici, les entreprises se demandaient surtout ce que leurs collaborateurs pouvaient faire avec l’IA. Avec les agents, elles doivent aussi se demander ce que l’IA est autorisée à faire dans l’entreprise », résume Bernard Montel. La gouvernance des agents devient ainsi indissociable du contrôle de leurs permissions.