La respuesta corta: tres preguntas de una revisión de seguridad sobre agentes de IA
Una revisión de seguridad de sus agentes de IA se reduce a tres preguntas: qué existe y quién es el responsable, qué puede alcanzar cada agente y no quién puede usarlo, y cuándo se revisó por última vez y si puede mostrar las evidencias. Un número no responde a ninguna de ellas; una respuesta concreta con límites concretos, sí.
- ¿Qué existe y quién es el responsable?
- ¿Qué puede alcanzar, y no quién puede usarlo?
- ¿Cuándo se revisó por última vez y puede demostrarlo?
¿Qué existe y quién es el responsable?
Lo que realmente preguntan. Si alguien responde de ello. No si la tecnología es segura en principio, algo que nadie puede contestar, sino si hay una persona concreta responsable de cada cosa que funciona en su entorno.
La respuesta que falla es un número. Decirle a un revisor que hay unos doscientos agentes le indica que los ha contado, lo cual no es lo mismo que conocerlos. La pregunta siguiente es siempre la misma: ¿quién es el responsable de ese, y sigue en la empresa?
Un agente cuyo creador ya no está en la empresa es uno de los hallazgos más habituales, y el que convierte una revisión rutinaria en una incómoda.
Una buena respuesta define el conjunto, indica cuáles tienen un responsable activo y es honesta sobre la parte que aún no está cubierta. Los revisores están acostumbrados a respuestas incompletas. No lo están a las seguras que luego resultan erróneas.
¿Qué puede alcanzar, y no quién puede usarlo?
Quién puede usar un agente es una decisión de uso compartido que alguien tomó a propósito. Lo que un agente puede alcanzar se hereda de los permisos de quien lo creó, y eso no lo decidió nadie. Un creador con acceso amplio en todo el entorno crea un agente con esa misma amplitud, y todos los que luego lo usan hacen sus preguntas, de hecho, con los permisos de su compañero.
Un revisor que entienda esto no lo preguntará con esas palabras. Preguntará algo como: si uso el asistente de finanzas, ¿qué puede ver en mi nombre? Si la respuesta es una descripción de con quién se compartió el asistente, ha contestado otra pregunta, y un buen revisor lo notará.
La preparación es sencilla y merece la pena hacerla una vez. Elija el agente más cercano a contenido confidencial, rastree qué puede alcanzar y tenga ese ejemplo a mano. Un agente rastreado es una respuesta mejor que un documento de políticas.
¿Cuándo se revisó por última vez y puede demostrarlo?
Lo que realmente preguntan. La tercera pregunta distingue una postura de gobernanza de una limpieza que se hizo una sola vez. Los revisores la hacen porque saben que las dos primeras respuestas se degradan. Un inventario elaborado en marzo es un documento histórico en septiembre.
Tiene dos partes, y la segunda es la que sorprende a la gente. La primera es si existe una revisión: una persona concreta, una frecuencia fija, en un calendario y no solo sobreentendida. La segunda es si puede presentar las evidencias sin poner en marcha un proyecto.
Si reunir las evidencias le lleva tres semanas recopilando capturas de pantalla, el calendario de su auditoría lo marca quien pregunta, no usted. Es peor que no tener evidencias, porque se descubre tarde.
El exceso de uso compartido y la pérdida de datos frenan más que nada
-
51%
de los responsables de TI señalan el exceso de uso compartido y la pérdida de datos como la principal barrera para un despliegue exitoso de Copilot.
Cómo suena una mala respuesta
Las tres preguntas tienen la misma respuesta fallida, y conviene reconocerla porque suena razonable cuando se dice. Suena así: tendríamos que investigarlo.
Esa respuesta es honesta, y también es la que convierte una revisión en un proyecto. Le dice al revisor que los controles que evalúa quizá existan y que nadie puede demostrarlos ahora, que es la situación que está entrenado para escalar.
La alternativa no es tener respuestas perfectas. Es tener respuestas concretas, con sus límites concretos. Un equipo que puede decir: tenemos cubiertos los agentes creados en Copilot Studio, aquí está la lista de responsables, esto es lo que aún no hemos resuelto y para esta fecha lo vamos a abordar, sale de una revisión en mejor posición que otro que responde a todo con vaguedades.
Ensáyelo antes de que lo haga otro
Lleve primero las tres preguntas a su propio equipo y respóndalas con honestidad, en una sala donde equivocarse no cuesta nada. La mayoría de los equipos descubre lo mismo: la primera pregunta se puede responder con esfuerzo, la segunda nunca se había planteado en esos términos y la tercera no tiene responsable. Es una hora útil, y bastante más barata que descubrirlo delante de un revisor.
Preguntas frecuentes
¿Qué preguntará una revisión de seguridad sobre los agentes de IA?
¿Qué es una mala respuesta a una pregunta de seguridad sobre agentes de IA?
¿Por qué «quién puede usarlo» no es lo mismo que «qué puede alcanzar»?
¿Cómo ensayamos una revisión de seguridad?
¿Cómo puede ayudar Rencore con las evidencias?
Dónde encaja en Rencore Governance
Módulo AI & Agents
Un único inventario de todos los agentes de Copilot Studio y de todos los sitios que contienen agentes de SharePoint, con responsable, alcance y política.
Conozca el módulo AI & AgentsEvidencias del EU AI Act para agentes
Evidencias por agente para la clasificación de riesgos y las auditorías, generadas bajo demanda.
Conozca la soluciónGobernanza de Copilot y de agentes
Encuentre agentes sin responsable, vea qué puede alcanzar cada uno y aplique políticas de forma programada.
Conozca la gobernanza de Copilot