Introducción
Una herramienta de IA aislada que genera texto con información pública tiene un perfil de riesgo. Una IA conectada a correo, CRM, ERP, documentos, bases de clientes o sistemas financieros tiene otro. Cuando la IA puede consultar, combinar o actuar sobre sistemas empresariales, aumenta la superficie de seguridad.
El modelo es solo una parte. También importa qué identidad usa la automatización, qué puede leer, qué puede modificar, cómo se protegen sus credenciales y qué evidencias quedan registradas.
La identidad viene antes que la inteligencia
Agentes e integraciones deben usar identidades de servicio controladas, no cuentas administrativas compartidas ni credenciales personales. La separación mejora revocación, auditoría y contención.
Menor privilegio para la IA
La automatización debe recibir solo los permisos necesarios. Un asistente de atención no necesita derechos financieros. Un agente que prepara un borrador no necesita autoridad para ejecutar pagos.
Fronteras de datos
Los proyectos de IA suelen reunir información antes separada. Los sistemas RAG pueden indexar contratos y documentos internos. Ese valor no debe convertirse en un atajo alrededor de los controles de acceso existentes.
Cuando un usuario pierde acceso en el sistema de origen, la capa de IA también debe reflejar esa modificación.
Claves de API y secretos
Las claves de API son credenciales críticas. Deben almacenarse en mecanismos de gestión de secretos, limitarse por alcance, rotarse y monitorearse. Desarrollo, pruebas y producción deben permanecer separados.
Prompt injection con herramientas
Cuando un agente dispone de herramientas, instrucciones maliciosas ocultas en correos, páginas o documentos pueden intentar provocar divulgación o acciones. Es necesario separar contenido no confiable, validar parámetros, limitar herramientas y exigir confirmación para operaciones sensibles.
Límites operativos
Límites de frecuencia, montos, volumen de cambios y aprobaciones humanas pueden impedir que un resultado incorrecto produzca una cadena rápida de efectos.
Logs y evidencias
Los procesos críticos deben registrar usuario, agente, herramienta, horario, acción, resultado y aprobación cuando corresponda. Los logs también necesitan una política de retención proporcional.
Cambios de modelo y proveedores
Cambios de versión, proveedor o política de retención pueden modificar riesgo y comportamiento. Las aplicaciones importantes deben documentar dependencias y probar actualizaciones.
Respuesta a incidentes
El plan debe contemplar prompts expuestos, claves comprometidas, permisos incorrectos, acciones no autorizadas y divulgación de información restringida.
Conclusión
La seguridad de IA corporativa es, en gran medida, seguridad de arquitectura. Cuanta más autonomía recibe la IA, más importantes son identidad, permisos, datos, credenciales, límites y evidencias.