Los LLMs pueden resumir, recuperar contexto, redactar y sugerir, pero acciones críticas necesitan política, permisos, auditoría y caminos determinísticos de ejecución.
El modelo puede ayudar a interpretar contexto, redactar una respuesta o explicar opciones. No debe aprobar en silencio acciones financieras, de seguridad u operativas.
Cada llamada de herramienta necesita alcance, entradas permitidas, logging y una razón legible. La frontera del sistema importa más que el prompt del modelo.
La recuperación de contexto debe mostrar de dónde vino la información y qué sostiene. Una respuesta segura sin contexto rastreable no basta en flujos internos.
El patrón más fuerte es simple: IA acelera preparación, humanos aprueban cambios de alto impacto y servicios determinísticos ejecutan la acción aprobada.
La autoridad pertenece a la aplicación, no al LLM. Un modelo puede clasificar un problema, resumir un documento o redactar una recomendación, pero la aplicación debe decidir qué herramientas existen, qué entradas se permiten, quién aprueba una acción y qué se registra. Esa separación evita que el texto del prompt sea una frontera de seguridad. El modelo ayuda a interpretar; los servicios determinísticos aplican la política.
Los sistemas internos suelen contener información de calidad mixta: notas antiguas, políticas actuales, tickets incompletos y registros sensibles. RAG no debe volcar todo eso en un prompt. La recuperación necesita filtros, etiquetas de fuente, señales de frescura y una forma de mostrar al usuario qué evidencia sostuvo la respuesta. Cuando el sistema no encuentra contexto suficiente, el comportamiento correcto es decirlo claramente, no llenar el vacío con lenguaje plausible.
La aprobación humana debe estar visible en el flujo, no escondida como un detalle posterior. Un buen sistema interno con IA muestra la acción propuesta, la evidencia, los registros afectados y la razón por la que una persona es necesaria. Luego registra quién aprobó, cuándo y qué operación determinística fue ejecutada. Eso hace que el sistema sea útil en operaciones reales porque las personas pueden confiar en el camino entre sugerencia y acción.