Plataformas CloudConfirmadoAWS anuncia capacidades de intercambio de GPU para Amazon ECS utilizando NVIDIA Multi-Process Service (MPS), permitiendo que múltiples tareas de IA se ejecuten en una sola GPU, aumentando los costos de utilización y corte para diversas cargas de trabajo de IA.
El 27 de octubre de 2026, Amazon Elastic Container Service (ECS) anunció apoyo para compartir GPU utilizando NVIDIA Multi-Process Service (MPS). Esta nueva capacidad permite que varias tareas de Amazon ECS funcionen simultáneamente en una GPU NVIDIA.
El objetivo principal de esta característica es aumentar la utilización de la GPU y reducir los costos de infraestructura. Es especialmente beneficioso para las cargas de trabajo que no consumen completamente la capacidad de una GPU, como la inferencia de pequeño modelo, las simulaciones AV/ADAS, la generación de incrustaciones y el servicio multimodelo.
Los ingenieros pueden implementar el intercambio de GPU sin modificar su código de aplicación. El proceso consiste en definir la memoria GPU necesaria para cada contenedor y, opcionalmente, establecer una proporción máxima de GPU compute. Amazon ECS entonces maneja la colocación de tareas en GPUs con capacidad disponible como escala de servicios y despliegue.
El intercambio de GPU se admite en Amazon ECS Managed Instances y Amazon ECS en Amazon EC2. Para Amazon ECS Managed Instances, el servicio incluye monitoreo del daemon de control MPS. Si este daemon se vuelve poco saludable o se detiene, Amazon ECS reemplaza automáticamente la instancia afectada y migra tareas a una capacidad saludable, asegurando la continuidad de la carga de trabajo.
Para comenzar a utilizar esta función, los desarrolladores pueden utilizar la consola de gestión AWS, AWS CLI, AWS SDKs, AWS CloudFormation u otras herramientas de infraestructura como código. La configuración implica crear un proveedor de capacidad con instancias de GPU NVIDIA, configurar la estrategia y la memoria compartida de GPU dentro de la definición de contenedor de una definición de tarea, y luego crear un servicio en ese proveedor de capacidad.
Esta capacidad está disponible en todas las regiones comerciales de AWS y AWS GovCloud (US).
La introducción del intercambio de GPU en Amazon ECS con NVIDIA MPS representa una evolución significativa en la gestión de recursos en la nube para cargas de trabajo de alta intensidad, especialmente en inteligencia artificial y aprendizaje automático. Históricamente, un reto común con las cargas de trabajo aceleradas por la GPU en entornos containerizzatos ha sido la infrautilización de un equipo GPU caro. Muchas tareas de inferencia, por ejemplo, no requieren la plena capacidad de procesamiento o memoria de una GPU dedicada, lo que conduce a una asignación ineficiente de recursos y a un aumento de los costos operacionales. El soporte explícito para NVIDIA MPS aborda directamente esto permitiendo la partición de recursos finos.
NVIDIA MPS es un servicio de tiempo de ejecución diseñado para permitir que múltiples aplicaciones CUDA se ejecuten simultáneamente en una sola GPU, reduciendo el sobrecabezamiento asociado con el cambio de contexto y mejorando el rendimiento general. Al integrar MPS, Amazon ECS puede gestionar y orquestar estos entornos compartidos de GPU. El mecanismo descrito, donde los desarrolladores definen la memoria de GPU por contenedor y, opcionalmente, una parte de computación, indica que ECS está abstrayendo la configuración de MPS subyacente. Esta abstracción simplifica el proceso de despliegue de ingenieros, permitiendo que se centren en los requisitos de aplicación en lugar de en la gestión de GPU de bajo nivel. La capacidad de especificar las acciones de memoria y cálculo a nivel de contenedores dentro de una definición de tarea proporciona un enfoque declarativo a la asignación de recursos, alineando con los patrones de despliegue nativos de la nube típica.
Desde una perspectiva de ingeniería, las consecuencias prácticas son sustanciales. Para las organizaciones que despliegan numerosos modelos de IA de tamaño pequeño a mediano para inferencia, generación de incrustación o servicio multimodelo, esta característica ofrece un camino directo a importantes ahorros de costos. En lugar de proporcionar una instancia GPU completa para cada modelo o tarea, múltiples tareas ahora pueden compartir una sola instancia, amortizando el costo del hardware a través de más cargas de trabajo. Esto es particularmente relevante para las arquitecturas de microservicios donde los servicios individuales pueden desempeñar funciones específicas y menos exigentes de IA.
El apoyo a las simulaciones AV/ADAS también pone de relieve la utilidad de las cargas de trabajo que podrían tener requerimientos de GPU irrumpidos o intermitentes, o aquellos que pueden ser descompuestos en componentes más pequeños y paralelos. Al permitir que estos componentes compartan una GPU, la eficiencia general de los entornos de simulación puede mejorar, potencialmente acelerando los ciclos de desarrollo y reduciendo el costo de las pruebas extensivas.
La integración con Amazon ECS Managed Instances, incluyendo el monitoreo automático y la sustitución de daemons de control MPS no saludables, es un beneficio operativo crítico. Esta característica descarga la complejidad de mantener la infraestructura de intercambio de GPU subyacente del usuario a AWS. Para entornos de producción, este mecanismo de resiliencia automática ayuda a asegurar una alta disponibilidad de cargas de trabajo dependientes de la GPU, minimizando las horas de inactividad y reduciendo la carga operacional de los equipos de ingeniería de plataformas. Sin ello, gestionar la salud del daemon MPS sería una responsabilidad adicional para los clientes, lo que podría conducir a intervenciones manuales y perturbaciones de servicios.
Para los desarrolladores, el flujo de trabajo sigue siendo coherente con las prácticas existentes de ECS, aprovechando herramientas familiares como la consola de gestión AWS, CLI, SDKs y CloudFormation. Esta consistencia reduce la barrera de adopción, ya que los ingenieros pueden integrar el intercambio de GPU en sus tuberías existentes de infraestructura como código y estrategias de despliegue sin aprender paradigmas completamente nuevos. La configuración dentro de la definición de contenedor de la tarea significa que la asignación de recursos GPU se convierte en parte integral del manifiesto de implementación de la aplicación, promoviendo la reproducibilidad y el control de versiones.
Si bien el anuncio confirma la capacidad de definir la memoria de la GPU y, opcionalmente, una parte máxima de la GPU compute, no se divulgaron detalles específicos sobre los mecanismos de cumplimiento exactos para compartir cálculos o cómo se garantiza el aislamiento de rendimiento en diversas condiciones de carga. Del mismo modo, el anuncio no especifica qué arquitecturas particulares NVIDIA GPU o versiones de controlador son necesarias o recomendadas para esta característica, más allá de la mención general de GPU NVIDIA. El alcance del soporte se indica explícitamente para Amazon ECS Managed Instances y Amazon ECS en Amazon EC2, indicando que Amazon ECS en AWS Fargate no está incluido en esta versión inicial para las capacidades de compartir GPU.