En bref : trois questions de revue de sécurité sur les agents IA
Une revue de sécurité de vos agents IA se résume à trois questions : ce qui existe et qui en est responsable, ce que chaque agent peut atteindre (et non qui peut l'utiliser), et la date de la dernière revue, avec des preuves à l'appui. Un chiffre ne répond à aucune d'entre elles ; une réponse précise, avec des limites précises, y répond.
- Qu'est-ce qui existe, et qui en est responsable ?
- Que peut-il atteindre, et non qui peut l'utiliser ?
- Quand cela a-t-il été revu pour la dernière fois, et pouvez-vous me le montrer ?
Qu'est-ce qui existe, et qui en est responsable ?
Ce que l'on vous demande vraiment. Si quelqu'un en répond. Non pas si la technologie est sûre en principe, question à laquelle personne ne peut répondre, mais si une personne nommée est responsable de chaque élément qui tourne dans votre environnement.
La réponse qui échoue est un chiffre. Dire à un auditeur qu'il y a environ deux cents agents lui apprend que vous avez compté, ce qui ne revient pas à savoir. La question suivante est toujours la même : qui est responsable de celui-ci, et cette personne est-elle toujours là ?
Un agent dont le créateur a quitté l'entreprise est l'un des constats les plus fréquents, et celui qui fait passer une revue de routinière à inconfortable.
Une bonne réponse nomme la population, dit lesquels ont un propriétaire actif et reste honnête sur la part qui n'est pas encore couverte. Les auditeurs ont l'habitude des réponses incomplètes. Ils n'ont pas l'habitude de réponses assurées qui se révèlent fausses.
Que peut-il atteindre, et non qui peut l'utiliser ?
Qui peut utiliser un agent résulte d'une décision de partage prise délibérément. Ce qu'un agent peut atteindre est hérité des autorisations de son créateur, et personne ne l'a décidé. Un créateur aux accès étendus sur tout le périmètre construit un agent de la même ampleur, et tous ceux qui l'utilisent posent en réalité leurs questions avec les autorisations de leur collègue.
Un auditeur qui comprend cela ne le formulera pas ainsi. Il demandera plutôt : si j'utilise l'assistant de la finance, que peut-il voir en mon nom ? Si la réponse décrit les personnes avec lesquelles l'assistant a été partagé, vous avez répondu à une autre question, et un bon auditeur le remarquera.
La préparation est simple et vaut d'être faite une fois. Choisissez l'agent le plus proche de contenus sensibles, retracez ce qu'il peut atteindre et gardez cet exemple prêt. Un agent retracé est une meilleure réponse qu'un document de politique.
Quand cela a-t-il été revu pour la dernière fois, et pouvez-vous me le montrer ?
Ce que l'on vous demande vraiment. La troisième question distingue une position de gouvernance d'un nettoyage fait une seule fois. Les auditeurs la posent parce qu'ils savent que les deux premières réponses se périment. Un inventaire construit en mars est un document historique en septembre.
Elle comporte deux volets, et le second est celui qui piège. Le premier est de savoir si une revue a lieu : une personne nommée, une fréquence définie, dans un calendrier plutôt que sous-entendue. Le second est de savoir si vous pouvez en produire la preuve sans lancer un projet.
Si produire la preuve prend trois semaines de captures d'écran à assembler, alors votre calendrier d'audit est fixé par celui qui pose la question, pas par vous. C'est une position pire que de n'avoir aucune preuve, parce qu'on la découvre tard.
Le partage excessif et la perte de données freinent le plus
-
51%
des responsables IT citent le partage excessif et la perte de données comme premier obstacle à un déploiement réussi de Copilot.
À quoi ressemble une réponse faible
Les trois questions ont la même réponse qui échoue, et il vaut la peine de la reconnaître, parce qu'elle semble raisonnable quand on la prononce. Elle ressemble à ceci : nous devrions y regarder de plus près.
Cette réponse est honnête, et c'est aussi celle qui transforme une revue en projet. Elle indique à l'auditeur que les contrôles qu'il évalue existent peut-être et que personne ne peut les démontrer à ce jour, ce qui est la situation qu'il est formé à faire remonter.
L'alternative n'est pas d'avoir des réponses parfaites. C'est d'en avoir de précises, limites comprises. Une équipe qui peut dire : nous maîtrisons les agents créés dans Copilot Studio, voici la liste des propriétaires, voici ce que nous n'avons pas encore résolu et voici quand nous nous y attaquons, sort d'une revue en meilleure position qu'une équipe qui répond à tout de façon vague.
Répétez avant que quelqu'un d'autre ne s'en charge
Posez d'abord les trois questions à votre propre équipe et répondez-y honnêtement, dans une salle où se tromper ne coûte rien. La plupart des équipes font le même constat : la première question se traite avec un peu d'effort, la deuxième n'a jamais été posée en ces termes, et la troisième n'a pas de responsable. C'est une heure utile, et elle coûte bien moins cher que de le découvrir devant un auditeur.
Questions fréquentes
Que demandera une revue de sécurité sur les agents IA ?
Qu'est-ce qu'une réponse faible à une question de sécurité sur les agents IA ?
Pourquoi « qui peut l'utiliser » n'est-il pas la même chose que « ce qu'il peut atteindre » ?
Comment répéter une revue de sécurité ?
Comment Rencore peut-il aider sur les preuves ?
La place de ce guide dans Rencore Governance
Module AI & Agents
Un seul inventaire de chaque agent Copilot Studio et de chaque site qui contient des agents SharePoint, avec propriétaire, portée et politique.
Découvrir le module AI & AgentsPreuves EU AI Act pour les agents
Des preuves par agent pour la classification des risques et les audits, produites à la demande.
Découvrir la solutionGouvernance de Copilot et des agents
Repérez les agents sans propriétaire, voyez ce que chacun peut atteindre et appliquez les politiques selon un calendrier.
Découvrir la gouvernance de Copilot