Imagina que el sistema de tu área ya está en pruebas. Un analista de logística abre una pantalla de pagos a proveedores, algo que nadie le había asignado. Nadie lo hizo a propósito. Simplemente, nadie dijo que no debía verla.

Ese es el riesgo real cuando preguntas cómo te aseguras de que un sistema construido con agentes de IA no abra una puerta que no debía. Pocas veces el problema es un ataque sofisticado. Casi siempre es una decisión de acceso que no se tomó, o que se tomó tarde y a medias. Y esa decisión, en nuestra forma de trabajar, no la toma un agente.

Quién decide y quién ejecuta

En CloudComputing Perú construimos software a medida con un equipo de agentes de IA que dirige un ingeniero. Cada agente tiene un rol: uno analiza, otros programan, otro prueba, otro revisa la calidad. Trabajan a la vez y el ingeniero revisa cada parte. Lo explicamos completo en el artículo Cómo se construye software con un equipo de agentes de IA y qué sigue decidiendo una persona.

El reparto es simple. La IA ejecuta y repite: escribe código, escribe pruebas y detecta fallas conocidas. La persona fija el criterio y responde. Dentro de ese criterio entra, de forma explícita, quién accede a qué.

La razón es práctica. Una herramienta puede detectar una contraseña escrita dentro del código o una consulta a la base de datos mal armada, porque son patrones conocidos. Lo que ninguna herramienta puede saber es si el jefe de compras debe ver los sueldos del área de personal. Eso no está en el código. Está en las reglas de tu organización, y alguien con autoridad tiene que decirlas.

Lo que decide el área usuaria

Aquí está el error más común: tratar los accesos como un tema que resuelve «sistemas». El área de TI puede configurar cualquier permiso que le pidan, pero no sabe cuál conviene si nadie se lo dice. Quien conoce la operación es el área usuaria, y por eso su aporte es el más difícil de reemplazar.

Según nuestro pilar, los usuarios y accesos se definen en la etapa de arquitectura, con las restricciones que fijas tú. Para esa etapa conviene llegar con cuatro decisiones tomadas, o al menos discutidas.

La primera es qué perfiles existen. No hablamos de personas, sino de funciones: quien registra, quien aprueba, quien consulta, quien administra. Un error frecuente es copiar el organigrama, cuando lo que importa es qué hace cada persona dentro del sistema. Un jefe de área puede necesitar el perfil de consulta, no el de administración.

La segunda es qué ve cada perfil. Se decide pantalla por pantalla y, dentro de la pantalla, campo por campo. Un perfil puede ver la lista de expedientes sin ver el monto, o ver solo los registros de su sede.

La tercera es cuáles son los datos sensibles. Los marcas tú: datos personales, información financiera, documentos reservados. Si no se marcan, el sistema los trata igual que cualquier otro dato.

La cuarta es quién puede cambiar los permisos. Parece menor y no lo es. Si cualquier administrador puede darse a sí mismo un perfil más amplio, el resto de las reglas pierde sentido. Define quién autoriza esos cambios y cómo queda constancia.

Si tu entidad exige autenticación multifactor, dilo en esa misma etapa y no después. Sobre ese caso hay un artículo aparte: autenticación multifactor en una entidad pública.

Todo esto se escribe. La propuesta y la muestra usable son el lugar donde esas reglas se ven antes de construir. Si no las has visto en la muestra, todavía no están aprobadas. Sobre ese principio puedes leer por qué mostramos una muestra antes de construir: lo aprobado es lo que se entrega.

Qué hace la IA y qué revisa cada control

Una vez fijadas las reglas, los agentes las implementan. Después viene el trabajo de comprobar. Antes de entregar, todo sistema pasa por cuatro revisiones, y cada una mira algo distinto respecto de los accesos.

La primera son las reglas de construcción por lenguaje. Establecen cómo se escribe el código en cada tecnología, de modo que el resultado sea uniforme y un ingeniero pueda revisarlo sin descifrar estilos distintos.

La segunda es el control de calidad con SonarQube. Detecta fallas conocidas, como consultas mal armadas o contraseñas escritas en el código. Si no aprueba, el sistema no se entrega. Sin embargo, SonarQube no sabe qué rol debe ver información de otra área. Esa pregunta no la responde.

La tercera son las pruebas automáticas con Playwright, que se repiten en cada cambio. Aquí las reglas de acceso se vuelven comprobables: si definiste que el perfil de consulta no puede editar, existe una prueba que lo intenta. Cuanto más concretas sean tus reglas, más útiles resultan estas pruebas. Una regla vaga («que cada uno vea lo suyo») no se puede probar.

La cuarta es la revisión de un ingeniero, que confirma que lo construido es lo que aprobaste y responde por el resultado.

Ninguna de las cuatro reemplaza a las otras. Una falla conocida la detecta la herramienta. Una regla de negocio mal entendida la detecta una prueba o una persona, pero solo si la regla estaba escrita. El detalle de cada revisión está en el pilar.

Estas revisiones también se conectan con tres de nuestras soluciones. En Consultoría Tecnológica se levantan las necesidades y se definen los perfiles con el ingeniero, antes de construir. En Fábrica de Software los agentes programan según esas reglas y el ingeniero revisa. En QA y Control de Calidad se ejecutan las pruebas y el control de calidad que permiten comprobar que cada perfil ve lo que debe y nada más.

La certificación ISO/IEC 27001:2022 y por qué no reemplaza la revisión de tu sistema

Nuestra seguridad está certificada en ISO/IEC 27001:2022. Conviene ser precisos sobre lo que eso significa.

Según la página oficial de ISO, la norma se titula «Information security, cybersecurity and privacy protection – Information security management systems – Requirements». Establece requisitos para un sistema de gestión de seguridad de la información: cómo una organización lo establece, lo mantiene y lo mejora, y cómo evalúa y trata sus riesgos. Es una norma sobre la gestión de la organización.

No es una declaración sobre el sistema particular que te entregamos. Por eso, aunque la empresa tenga la certificación, cada sistema se revisa por separado. Tus perfiles, tus datos sensibles y tus reglas no existen en otro lugar: son propios de tu sistema, y se comprueban en tu sistema.

Si alguien te ofrece la certificación como respuesta a «¿mi sistema es seguro?», la respuesta corta es que no alcanza. Pide ver cómo se revisa el tuyo.

Propiedad y confidencialidad

Dos puntos más que suelen preocupar al gerente que firma. Todo lo que desarrollamos para ti es de tu propiedad exclusiva. Y antes de empezar se firma un acuerdo de confidencialidad que protege tu información. Ambos puntos van por escrito.

Pregunta, además, dónde se instalará el sistema. Puede ir en nuestra nube, en un espacio separado solo para tu empresa o en tus propios servidores. Cada opción cambia quién administra la infraestructura, y conviene decidirlo con esa consecuencia a la vista.

Preguntas para hacer antes de encargar

Estas preguntas sirven con nosotros y con cualquier proveedor. Una buena respuesta es concreta; una mala suena a folleto.

  • ¿Quién define los perfiles y los permisos: la persona o la herramienta? ¿En qué etapa?
  • ¿Veré las reglas de acceso en la muestra antes de que se construya el sistema?
  • ¿Qué fallas detecta el control automático y cuáles solo detecta una persona?
  • ¿Hay pruebas automáticas que intenten entrar con un perfil que no debería poder? ¿Se repiten en cada cambio?
  • Si el control de calidad no aprueba, ¿se entrega igual?
  • ¿Qué ingeniero responde por el resultado final?
  • ¿Quién puede cambiar los permisos una vez que el sistema está en marcha?
  • La certificación de la empresa, ¿reemplaza la revisión de mi sistema? (La respuesta correcta es no.)
  • ¿A nombre de quién queda lo desarrollado? ¿Se firma un acuerdo de confidencialidad antes de empezar?
  • ¿Dónde se instala el sistema y quién lo administra?
  • ¿Quién se queda para soporte y mejoras después de la entrega?

En nuestro caso, el mismo equipo queda para soporte y mejoras, de modo que quien conoce tus reglas de acceso sigue ahí cuando cambian.

Por dónde empezar

Antes de la primera reunión, haz una lista sencilla: qué funciones hay en tu área, qué necesita ver cada una y qué información no debe salir de ciertas manos. Con una hoja así, la conversación con el ingeniero avanza mucho más rápido que si se parte de cero. Para ver cómo se convierte eso en alcance, lee cómo se define el alcance y qué debe decir la propuesta.

La primera consulta no tiene costo. Si nos cuentas tu necesidad en dos líneas, respondemos por escrito en 24 horas hábiles. Plazos e inversión dependen de cada caso y van en una propuesta escrita antes de empezar.