Plataformas de NuvemConfirmado.AWS anuncia recursos de compartilhamento de GPU para Amazon ECS usando NVIDIA Multi-Process Service (MPS), permitindo que várias tarefas de IA executem em uma única GPU, aumentando os custos de utilização e corte para várias cargas de trabalho de IA.
Em 27 de outubro de 2026, o Amazon Elastic Container Service (ECS) anunciou suporte para compartilhar GPU usando NVIDIA Multi-Process Service (MPS). Essa nova capacidade permite que várias tarefas da Amazon ECS executem simultaneamente em uma única GPU NVIDIA.
O objetivo principal desta característica é aumentar a utilização da GPU e reduzir os custos de infraestrutura. É especificamente benéfico para cargas de trabalho que não consomem totalmente a capacidade de uma GPU, como inferência de pequenos modelos, simulações AV/ADAS, geração incorporada e serviço multimodelo.
Engenheiros podem implementar compartilhamento de GPU sem modificar seu código de aplicação. O processo envolve definir a memória GPU necessária para cada recipiente e opcionalmente definir uma participação máxima de computação GPU. Amazon ECS então lida com a colocação de tarefas em GPUs com capacidade disponível como escala de serviços e implantação.
Compartilhamento de GPU é apoiado em Amazon ECS Managed Installations e Amazon ECS na Amazon EC2. Para a Amazon ECS Managed Installations, o serviço inclui monitoramento do daemon de controle MPS. Se esse daemon ficar insalubre ou parar, a Amazon ECS automaticamente substitui a instância afetada e migra tarefas para uma capacidade saudável, garantindo a continuidade da carga de trabalho.
Para começar a usar esse recurso, os desenvolvedores podem utilizar o AWS Management Console, AWS CLI, AWS SDKs, AWS CloudFormation ou outras ferramentas de infraestrutura como código. A configuração envolve criar um provedor de capacidade com instâncias NVIDIA GPU, configurando a estratégia de compartilhamento de GPU e memória dentro da definição de um recipiente de uma definição de tarefa, e, em seguida, criar um serviço nesse provedor de capacidade.
Esta capacidade está disponível em todas as regiões comerciais da AWS e da AWS GovCloud (EUA).
A introdução do compartilhamento de GPU na Amazon ECS com NVIDIA MPS representa uma evolução significativa no gerenciamento de recursos em nuvem para cargas de trabalho intensivas, particularmente em inteligência artificial e aprendizado de máquina. Historicamente, um desafio comum com cargas de trabalho aceleradas pela GPU em ambientes containerizados tem sido a subutilização de hardware caro da GPU. Muitas tarefas de inferência, por exemplo, não requerem todo o poder de processamento ou memória de uma GPU dedicada, levando a alocação de recursos ineficiente e aumento dos custos operacionais. O suporte explícito para NVIDIA MPS aborda isso diretamente, permitindo particionamento de recursos finos.
NVIDIA MPS é um serviço de execução projetado para permitir que vários aplicativos CUDA funcionem simultaneamente em uma única GPU, reduzindo a sobrecarga associada com a mudança de contexto e melhorando a produtividade geral. Integrando MPS, a Amazon ECS agora pode gerenciar e orquestrar esses ambientes compartilhados de GPU. O mecanismo descrito, onde os desenvolvedores definem a memória da GPU por recipiente e opcionalmente um compartilhamento de computação, indica que a ECS está abstraindo a configuração subjacente do MPS. Essa abstração simplifica o processo de implantação para engenheiros, permitindo que eles se concentrem em requisitos de aplicação em vez de gerenciamento de GPU de baixo nível. A capacidade de especificar memória e computar compartilhamentos no nível do contêiner dentro de uma definição de tarefa fornece uma abordagem declarativa de alocação de recursos, alinhada com padrões típicos de implantação nativa na nuvem.
De uma perspectiva de engenharia, as consequências práticas são substanciais. Para organizações que implantaram vários modelos de IA de tamanho pequeno a médio para inferência, geração incorporada ou serviço multimodelo, esta característica oferece um caminho direto para uma economia de custos significativa. Em vez de fornecer uma instância GPU inteira para cada modelo ou tarefa, várias tarefas podem agora compartilhar uma única instância, amortizando o custo do hardware em mais cargas de trabalho. Isto é particularmente relevante para arquiteturas de microservices onde serviços individuais podem executar funções de IA específicas e menos exigentes.
O suporte para simulações AV/ADAS também destaca o utilitário para cargas de trabalho que podem ter requisitos de GPU intermitentes ou estourados, ou aqueles que podem ser divididos em componentes menores e paralelizáveis. Ao permitir que esses componentes compartilhem uma GPU, a eficiência geral dos ambientes de simulação pode melhorar, acelerando os ciclos de desenvolvimento e reduzindo o custo de testes extensivos.
A integração com a Amazon ECS Managed Installations, incluindo o monitoramento automático e substituição de daemons de controle de MPS não saudáveis, é um benefício operacional crítico. Essa característica descarrega a complexidade de manter a infraestrutura de compartilhamento de GPU do usuário para o AWS. Para ambientes de produção, este mecanismo de resiliência automática ajuda a garantir alta disponibilidade para cargas de trabalho dependentes da GPU, minimizando o tempo de inatividade e reduzindo a carga operacional em equipes de engenharia de plataforma. Sem isso, gerenciar a saúde do servidor MPS seria uma responsabilidade adicional para os clientes, potencialmente levando a intervenções manuais e interrupções de serviço.
Para os desenvolvedores, o fluxo de trabalho permanece consistente com as práticas ECS existentes, alavancando ferramentas familiares como o Console de Gestão AWS, CLI, SDKs e CloudFormation. Essa consistência reduz a barreira de adoção, já que os engenheiros podem integrar a GPU compartilhando em seus atuais oleodutos de infraestrutura como código e estratégias de implantação sem aprender paradigmas inteiramente novos. A configuração dentro da definição do recipiente da tarefa significa que a alocação de recursos da GPU se torna parte integrante do manifesto de implantação da aplicação, promovendo reprodutibilidade e controle de versão.
Enquanto o anúncio confirma a capacidade de definir memória GPU e opcionalmente uma participação máxima de computação GPU, detalhes específicos sobre os mecanismos exatos de execução para compartilhamento de computação, ou como o isolamento de desempenho é garantido sob várias condições de carga, não foram divulgados. Da mesma forma, o anúncio não especifica quais arquiteturas específicas da NVIDIA GPU ou versões do driver são necessárias ou recomendadas para este recurso, além da menção geral de NVIDIA GPUs. O escopo do apoio é explicitamente indicado para a Amazon ECS Managed Installations e Amazon ECS na Amazon EC2, indicando que a Amazon ECS na AWS Fargate não está incluída neste lançamento inicial para compartilhar recursos da GPU.