AWS Quick Introduces Enterprise Guardrails for AI Agent Safety and Governance
Home/Blog/Tech/AWS Quick presenta salvaguardias empresariales para la seguridad y la gobernanza del agente AI
AI y modelosConfirmado

AWS Quick presenta salvaguardias empresariales para la seguridad y la gobernanza del agente AI

Los nuevos guardias de empresa de AWS Quick ofrecen a los administradores controles de seguridad de contenidos configurables y de información sensible para los impulsos de agentes de IA, mejorando la seguridad y la gobernanza para las implementaciones de IA empresariales.

Datos confirmados

El 20 de noviembre de 2026, AWS Quick introdujo los controles de empresa como una nueva característica, actualmente disponible en vista previa. Esta función proporciona a los administradores controles configurables para la seguridad del contenido y la información confidencial dentro de las indicaciones del usuario que interactúan con los agentes de inteligencia artificial.

Los administradores pueden aplicar políticas de vigilancia a múltiples niveles: a los usuarios individuales, a los grupos de proveedores de identidad institucionales (IdP) o como defecto de cuenta. Las políticas a nivel de usuario tienen prioridad sobre las políticas de grupo y los defectos de cuenta. Cuando se aplican múltiples políticas de grupo, AWS Quick combina sus restricciones de contenido, aplicando el ajuste más estricto en casos de controles superpuestos.

Las políticas se crean en la consola de administración rápida y pueden incluir varios elementos: filtros de contenido, temas negados, palabras bloqueadas y frases, detección de ataques rápidos y controles para determinados tipos de información personal identificable (PII). Un ejemplo es la capacidad de bloquear los avisos que contienen nombres confidenciales de proyectos y asignar esta política a un grupo de IdP.

La función de guardias de la empresa ofrece un modo "sólo de insectos", que permite a los administradores probar reglas de llenado rápido contra el tráfico de producción sin bloquear solicitudes. En este modo, AWS Quick evalúa los resultados de las políticas de los usuarios y los registros, permitiendo a los administradores evaluar el impacto en los flujos de trabajo de negocios y refinar las políticas antes de la ejecución. Cuando la aplicación está habilitada, AWS Quick bloquea las indicaciones y muestra un mensaje al usuario. Los eventos detectados y bloqueados pueden ser revisados en Amazon CloudWatch Logs.

Guardias empresariales están disponibles en la vista previa para seleccionar AWS Clientes rápidos utilizando planes profesionales y empresariales.

Análisis técnico

The introduction of enterprise guardrails in AWS Quick addresses a critical challenge in the adoption of AI agents within organizational contexts: ensuring responsible and secure operation. Los agentes de IA, por su naturaleza, interactúan con la entrada del usuario y pueden generar diversos productos, planteando riesgos tales como fuga de datos, generación de contenido inapropiado y vulnerabilidad a insumos adversarios como ataques rápidos de inyección. These guardrails provide a structured framework for mitigating these risks, enhancing the trustworthiness and control over AI agent deployments.

La aplicación de políticas multicapa —usuario individual, grupo IdP y cuenta por defecto— ofrece una flexibilidad de ingeniería significativa. Esta estructura jerárquica, combinada con reglas explícitas de precedencia (usuario de grupo de contactos) y la combinación de ajustes más estrictos para las políticas de grupos superpuestos, permite a las organizaciones implementar una gobernanza fina. Por ejemplo, un equipo de proyecto altamente sensible (grupo IdP) puede tener controles más estrictos que un grupo departamental general, mientras que se pueden hacer excepciones individuales para usuarios específicos. Esta granularidad es esencial para las grandes empresas con diversas necesidades operacionales y diversos niveles de sensibilidad de los datos en todos los equipos.

The specified policy elements directly target common AI agent vulnerabilities and compliance requirements. Los filtros de contenido y los temas negados permiten un amplio control sobre el tema que un agente de AI puede procesar o discutir, evitando la generación de contenido irrelevante o dañino. La capacidad de bloquear palabras y frases específicas proporciona control lexical directo, crucial para hacer cumplir las directrices de marca, evitando el uso de la jerga interna fuera de contextos específicos, o bloqueando términos sensibles. La detección de ataques imprevistos es una medida clave de seguridad, con el objetivo de identificar y prevenir entradas adversarias diseñadas para evitar el comportamiento de un agente de inteligencia artificial o extraer información sensible. Además, los controles PII son fundamentales para la privacidad de datos y el cumplimiento reglamentario, lo que permite a las organizaciones prevenir el procesamiento inadvertido o la exposición de datos personales sensibles mediante interacciones con agentes AI.

La inclusión de un modo "sólo de decisión" representa una sólida práctica de ingeniería para la implementación de políticas. Este modo permite a los administradores validar la eficacia de sus políticas de vigilancia contra el tráfico de producción real sin afectar inmediatamente los flujos de trabajo de los usuarios. Mediante los partidos de política de registro sin bloquear las solicitudes, las organizaciones pueden reunir datos empíricos sobre posibles falsos positivos o falsos negativos, perfeccionar sus reglas y comprender el impacto operacional antes de la plena aplicación. Este enfoque iterativo minimiza la perturbación, reduce los riesgos de despliegue y fomenta la confianza en la configuración de la vigilancia, alineando con los principios de la implantación progresiva y las pruebas A/B en los despliegues de software.

La integración con Amazon CloudWatch Logs para revisar eventos detectados y bloqueados proporciona capacidades esenciales de observabilidad y auditoría. This logging mechanism is vital for monitoring policy effectiveness, identifying potential security incidents, and compliance requirements by maintaining an audit trail of AI agent interactions and policy enforcement actions. Los ingenieros pueden utilizar estos registros para solucionar problemas, analizar patrones de uso indebido y mejorar continuamente sus configuraciones de vigilancia.

Desde el punto de vista práctico de la ingeniería, estos guardias facilitan la adopción más amplia de agentes de IA en entornos empresariales abordando cuestiones clave de gobernanza y cumplimiento. Desarrolladores construyendo aplicaciones en AWS Quick que apalancan agentes de IA tendrá que considerar cómo sus aplicaciones manejan los impulsos bloqueados, potencialmente diseñando interfaces de usuario para proporcionar información clara cuando un aviso es rechazado por un guardrail. Mientras que los guardias introducen una sobrecarga administrativa para la definición y mantenimiento de políticas, los beneficios de la seguridad mejorada, la privacidad de datos y el comportamiento controlado de los agentes de inteligencia artificial son sustanciales para las implementaciones de grado empresarial. El estado de vista preliminar de la característica indica que está sujeto a mayor desarrollo y refinamiento basado en la retroalimentación temprana del cliente.

La fuente oficial no revela las tecnologías o modelos subyacentes específicos utilizados para la detección rápida de ataques, filtración de contenidos o identificación de PII. The performance impact of applying these guardrails on the latency or throughput of AI agent interactions was not revealedd. La medida en que los administradores pueden personalizar los controles PII más allá de los 'tipos seleccionados' (por ejemplo, definir patrones de datos sensibles personalizados) no fue detallada. La información específica sobre disponibilidad regional se hace referencia a través de un enlace de documentación separado, pero no se detalla dentro del propio anuncio. Tampoco se divulgó información relativa al modelo de fijación de precios para los guardias empresariales.

Fuentes