Introducción
Una empresa puede utilizar inteligencia artificial para sugerir títulos, resumir reuniones, revisar textos, analizar contratos, clasificar candidatos, responder clientes, priorizar cobros o ejecutar acciones en sistemas. Todos son usos de IA, pero no presentan el mismo riesgo.
La gobernanza falla cuando se intenta aplicar una sola regla a todo. Si todo se prohíbe, las personas evitan los controles y aumenta el Shadow AI. Si todo se libera, tareas aparentemente simples pueden involucrar datos sensibles, decisiones relevantes y automatizaciones sin supervisión.
Una matriz de riesgo ofrece un punto intermedio práctico: clasificar el uso concreto y asignar controles proporcionales a su impacto.
El riesgo está en el uso, no solamente en la herramienta
La misma plataforma puede ser de bajo riesgo en una actividad y crítica en otra. Pedir sugerencias basadas en información pública es diferente de enviar una base de clientes, datos de salud, un contrato confidencial o una planilla financiera.
La pregunta útil no es solamente si la herramienta es segura, sino si este uso, con estos datos, para esta finalidad y con este nivel de autonomía es aceptable.
Sensibilidad de los datos
El primer factor es la información que entra en el sistema. El contenido público normalmente presenta menor riesgo. La información interna, estratégica, personal, financiera, confidencial o protegida exige controles progresivamente mayores.
El volumen también importa. Un dato aislado y una base con miles de registros no generan la misma exposición. Deben considerarse naturaleza, volumen, contexto y posibilidad de reidentificación.
Impacto sobre personas y negocios
Un resultado usado únicamente como borrador interno es distinto de uno que influye en contratación, crédito, precio, salud, atención, evaluación de desempeño, estrategia jurídica o comunicación oficial.
Cuanto mayor sea la consecuencia, mayor debe ser la validación. El riesgo no depende solo de que la IA se equivoque, sino de lo que sucede cuando el error es aceptado como correcto.
Autonomía
Existe una diferencia importante entre una IA que sugiere y una IA que actúa. Un sistema que produce una minuta todavía depende de una persona. Un agente que envía correos, modifica registros, crea pedidos, llama APIs o mueve procesos ya posee capacidad operativa.
La autonomía aumenta el riesgo porque reduce el intervalo entre error y consecuencia. Los límites técnicos, la validación de parámetros y la capacidad de detener el sistema se vuelven esenciales.
Escala
Un error en una tarea puede corregirse manualmente. El mismo error aplicado automáticamente a miles de registros cambia de naturaleza. La escala convierte pequeños desvíos en incidentes relevantes.
Automatizaciones masivas, comunicaciones en lote, clasificación a gran escala y agentes que operan de forma continua deben recibir un nivel de riesgo mayor.
Reversibilidad
Una sugerencia de texto puede descartarse. Un registro sobrescrito, un pago ejecutado, una comunicación enviada, una negativa emitida o una información divulgada puede ser difícil o imposible de revertir por completo.
Cuanto menos reversible sea la acción, mayor debe ser la supervisión previa. Confirmación, versionamiento, backup, auditoría y doble aprobación pueden reducir el riesgo.
Dependencia del resultado
Otro criterio es cuánto depende la organización de la salida de la IA. Si el resultado es solo un punto de partida, el riesgo suele ser menor. Si sustituye análisis profesional, verificación de fuentes, revisión de cálculos o juicio humano, el riesgo aumenta.
La revisión humana debe ser concreta: verificar hechos, fuentes, números, contexto, criterios y consecuencias.
Un modelo simple de cuatro niveles
Los usos de bajo riesgo involucran información pública o poco sensible, bajo impacto externo y fácil reversión, como brainstorming o revisión de estilo.
Los usos de riesgo moderado incluyen información interna controlada y necesitan revisión del usuario, como resúmenes o borradores de análisis.
Los usos de alto riesgo involucran datos personales, información confidencial, impacto externo, gran escala o integración con procesos de negocio. Exigen herramientas aprobadas, finalidad definida, controles de acceso, registros, pruebas y revisión humana efectiva.
Los usos críticos incluyen decisiones significativas sobre personas, datos sensibles a escala, operaciones financieras, acciones automáticas irreversibles o agentes con permisos amplios. Requieren aprobación formal, límites técnicos, segregación de funciones, monitoreo y mecanismo de parada.
Los controles deben crecer con el riesgo
La clasificación solo sirve si cambia la conducta de la organización. Los usos de bajo riesgo pueden depender de orientación básica. Los moderados pueden exigir cuentas corporativas y revisión. Los de alto riesgo pueden requerir aprobación de gestión, análisis jurídico o de privacidad, pruebas, logs y restricciones de datos. Los críticos necesitan salvaguardas técnicas y organizacionales más fuertes.
El objetivo no es burocratizar cada prompt, sino concentrar control donde un error puede producir daño relevante.
Aplicar la matriz al proceso real
La matriz puede incorporarse a la aprobación de herramientas, contratación de proveedores, diseño de automatizaciones y nuevos proyectos. El equipo responde preguntas simples: qué datos entran, quién es afectado, si la IA sugiere o actúa, cuál es la escala, si la acción puede revertirse y quién revisa el resultado.
Reevaluar cuando el uso cambia
Un piloto de bajo riesgo puede volverse crítico. Una herramienta de borradores puede comenzar a recibir datos de clientes. Un asistente puede transformarse en agente. Una automatización de prueba puede pasar a producción.
La clasificación debe revisarse cuando cambian finalidad, datos, integración, autonomía, volumen o población afectada.
Conclusión
No todo uso de inteligencia artificial merece el mismo tratamiento. La madurez consiste en distinguir experimentación simple de aplicaciones que afectan datos, personas, decisiones y operaciones.
Una matriz basada en sensibilidad de datos, impacto, autonomía, escala, reversibilidad y dependencia del resultado permite aplicar controles proporcionales y evita dos extremos: prohibir todo o permitir todo.
Cuando la empresa clasifica el riesgo antes de automatizar, puede innovar con mayor velocidad porque sabe dónde puede simplificar y dónde necesita controlar.