Introducción
La IA en las empresas suele recomendar, clasificar, resumir, priorizar o redactar en vez de tomar una decisión formalmente automática. Aun así, la salida puede influir fuertemente en la persona responsable.
Cuando ocurre un problema, decir “la IA decidió” no es una explicación adecuada. Los procesos relevantes deben documentar cómo participó la tecnología y cómo se realizó la revisión humana.
El apoyo a la decisión también genera responsabilidad
Un sistema puede no tener autoridad formal para aprobar crédito o seleccionar personas, pero su puntuación puede orientar el resultado. La gobernanza debe considerar la influencia real.
La revisión humana debe ser significativa
Human in the loop no puede ser un botón ceremonial. La persona necesita tiempo, información y autoridad para discrepar. Si el volumen impide revisar, la supervisión puede existir solo en el papel.
Qué registrar
Los usos de mayor impacto deben preservar finalidad, herramienta, versión relevante, entradas y fuentes principales, resultado utilizado, revisor, modificaciones, decisión final y fecha.
Registrar divergencias
Los casos en que una persona discrepa de la IA pueden revelar datos desactualizados, errores sistemáticos o cambios del proceso. Registrar divergencias importantes mejora el monitoreo.
Fuentes y contexto
Los sistemas que resumen documentos o consultan conocimiento interno deben conservar referencias a las fuentes que sustentaron el resultado.
Versiones y cambios
Modelos diferentes pueden producir resultados diferentes. Los procesos críticos deben registrar versiones cuando sea posible y probar cambios relevantes.
No conservar de más
Trazabilidad no significa guardar todos los prompts para siempre. Los logs pueden contener información personal o confidencial. Referencias estructuradas e identificadores pueden reducir duplicación.
Impugnación y corrección
Cuando la decisión afecta personas, debe existir un camino para cuestionar y corregir errores, con revisión por alguien capaz de reconsiderar el contexto.
Responsabilidad con dueño
Cada uso relevante necesita un responsable de negocio. Tecnología, seguridad, jurídico y proveedores apoyan, pero alguien debe responder por el resultado operativo.
Conclusión
Las decisiones apoyadas por IA deben seguir siendo gobernables. Documentar preserva contexto, permite impugnación, mejora calidad y evita que la responsabilidad se diluya entre persona, sistema y proveedor.