
Casa/Blog/Tecnologia/AWS Lambda agora apoia instâncias da GPU para cargas de trabalho AI/ML plataformas de nuvem, IA e modelos, chips e hardware de computação, ferramentas de desenvolvimento e APIsConfirmado.AWS Lambda agora apoia instâncias da GPU para cargas de trabalho AI/ML
AWS Lambda agora oferece Funções de Evento Aceleradas pela GPU em Instâncias Gerenciadas pela Lambda, permitindo a implantação sem servidor de inferência de IA, processamento de mídia e outras cargas de trabalho intensivas sem gerenciar hardware ou pilhas de software subjacentes.
Publicado em 19 de novembro de 20266 minutos de leitura.plataformas de nuvem, IA e modelos, chips e hardware de computação, ferramentas de desenvolvimento e APIs
Fatos confirmados.
AWS Lambda agora suporta funções de eventos acelerados por GPU quando implantados em instâncias gerenciadas por Lambda. Esta nova capacidade alavanca instâncias da série EC2 G para executar cargas de trabalho intensivas em GPU. Casos de uso confirmados incluem inferência de IA, processamento de mídia, renderização 3D, computação científica e simulações financeiras.
Um aspecto chave desta oferta é a abstração da gestão de infraestrutura subjacente. Lambda lida com drivers de GPU, frameworks e escala automaticamente, removendo esses encargos operacionais dos desenvolvedores. O serviço gerencia invocações simultâneas dentro de cada ambiente de execução e escalas responsivas baseadas na utilização de GPU, utilização de CPU e concorrência.
Para facilitar o desenvolvimento, Lambda fornece imagens base da GPU pré-configuradas com estruturas como vLLM, SGLang e PyTorch. Cargas de trabalho que requerem grandes artefatos podem utilizar imagens de contêineres, e cada ambiente de execução é fornecido com até 32 GB de armazenamento efêmero NVMe. Os tempos de inicialização são otimizados através do suporte ao carregamento preguiçoso de OCI (SOCI) e transmissão direta de artefatos da Amazon S3.
Para resiliência, desenvolvedores podem especificar tipos de instância da série G de várias gerações. Lambda prioriza o provisionamento da nova geração que atende aos requisitos de função, voltando para as gerações mais velhas se a capacidade mais nova não estiver disponível.
Funções de eventos acelerados por GPU se integram com mais de 200 fontes existentes de eventos AWS. A configuração é suportada através da AWS Console, AWS CLI, AWS SDKs, AWS CloudFormation, AWS CDK e AWS SAM. Além disso, esse recurso pode ser acessado através de assistentes de codificação como Kiro, Claude Code, ou Codex instalando a habilidade Lambda Managed Installations do Agente Toolkit para AWS.
O modelo de preços envolve o preço EC2 On-Demand para a instância subjacente (com planos de poupança e instâncias reservadas aplicáveis), além de uma taxa de gestão Lambda de 9,75% e $0,20 por milhão de pedidos. Este recurso está disponível em todas as regiões comerciais da AWS onde ambas as instâncias gerenciadas pela Lambda e as instâncias da série EC2 G são oferecidas.
Análise técnica
Contexto e Mudança Operacional
Historicamente, implantar cargas de trabalho aceleradas pela GPU em um paradigma sem servidor apresentou desafios significativos. Funções tradicionais sem servidor, como AWS Lambda padrão, são otimizadas para tarefas sem estado, de curta duração, ligadas à CPU. Aplicações intensivas em GPU, no entanto, muitas vezes requerem hardware especializado, estado persistente (para carregamento de modelo), e gerenciamento complexo de driver/framework, que contradizia os princípios centrais da computação sem servidor. A introdução confirmada do apoio da GPU para a AWS Lambda Managed Installations representa uma mudança fundamental. Este movimento permite que os desenvolvedores aproveitem o modelo operacional sem servidor – escala automática, sem gerenciamento de servidor, e uma estrutura de faturamento pay-per-use – para cargas de trabalho que anteriormente exigiam provisionamento e gerenciamento de instâncias dedicadas de EC2 com GPUs. Isso aborda diretamente a sobrecarga operacional associada com implementações de GPU, como instalação e atualização de drivers NVIDIA, kits de ferramentas CUDA e estruturas de aprendizado de máquina.
** Abstração Operacional e Gestão de Recursos **
A proposta de valor essencial desta melhoria Lambda está em sua abstração operacional. O fato confirmado de que Lambda lida com drivers, frameworks e escala de GPU significa que os desenvolvedores estão protegidos das complexidades do gerenciamento de infraestrutura. Por exemplo, configurar um endpoint de inferência de aprendizado de máquina tradicionalmente envolve selecionar um tipo de instância EC2 com uma GPU, configurar o sistema operacional, instalar drivers GPU apropriados, e, em seguida, implantar o framework ML (por exemplo, PyTorch, TensorFlow) e o modelo. Com essa nova capacidade Lambda, esses passos são gerenciados pela AWS. A capacidade do serviço de executar "multiplas invocações simultaneamente em cada ambiente de execução" e escala "responsivamente baseado na utilização de GPU, utilização de CPU e concorrência" indica uma camada inteligente de programação de recursos. Esta inferência sugere que Lambda visa maximizar a utilização da GPU, empacotando vários pedidos em uma única instância da série G, ajustando dinamicamente o número de instâncias ativas com base na demanda. Essa abordagem é fundamental para a eficiência de custos, já que GPUs são recursos caros, e mantê-los ocupados é fundamental.
Desempenho e Otimizações de Eficiência
Otimizar o desempenho para cargas de trabalho de GPU sem servidor envolve abordar o início frio e a utilização eficiente de recursos. O suporte confirmado para o carregamento preguiçoso de "Seekable OCI (SOCI)" e "streaming de artefatos diretamente da Amazon S3" são mecanismos diretos para mitigar a latência do início frio. SOCI permite que imagens de contêiner sejam iniciadas sem baixar a imagem inteira primeiro, buscando apenas as camadas necessárias sob demanda. Da mesma forma, streaming de artefatos do S3 significa que grandes modelos ou arquivos de dados não precisam ser totalmente baixados para o armazenamento efêmero antes que a função possa começar a processar. Isto é particularmente relevante para grandes modelos de IA, que podem ser vários gigabytes de tamanho. O fornecimento de "até 32 GB de armazenamento efêmero NVMe" ainda suporta o manuseio eficiente de pesos de modelos substanciais ou dados intermediários durante a execução, oferecendo acesso local de alta velocidade. A combinação dessas características visa reduzir o tempo desde o pedido de invocação até a computação da GPU, que é crucial para aplicações interativas como inferência de IA em tempo real.
Experiência de desenvolvimento e integração de ecossistemas
A experiência do desenvolvedor é significativamente simplificada por várias características confirmadas. A disponibilidade de "Imagens base GPU pré-configuradas com frameworks como vLLM, SGLang e PyTorch" reduz o tempo inicial de configuração. Os desenvolvedores podem começar com um ambiente conhecido, focando em sua lógica de aplicação ao invés de gerenciamento de dependência. O suporte para "grandes artefatos usando imagens de contêineres" também é um facilitador crítico, pois muitas aplicações aceleradas por GPU, especialmente em IA/ML, envolvem bases de código substanciais e arquivos de modelos. Além disso, a integração com "mais de 200 fontes de eventos AWS" significa que funções aceleradas por GPU podem ser incorporadas em fluxos de trabalho sem servidor existentes, desencadeados por eventos de serviços como S3, Kinesis, SQS ou API Gateway. A capacidade de configurar essas funções através de ferramentas padrão AWS (Console, CLI, SDKs, CloudFormation, CDK, SAM) garante consistência com as práticas de desenvolvimento existentes AWS. A integração confirmada com "assistentes de codificação como Kiro, Claude Code ou Codex" através do "Agent Toolkit for AWS" sugere uma abordagem orientada para o futuro para o desenvolvimento, potencialmente permitindo uma implementação e gerenciamento de funções de GPU mais orientadas para a linguagem natural.
Consequências da Engenharia Prática
Este lançamento tem várias conseqüências práticas de engenharia. Para engenheiros de aprendizado de máquina, reduz a barreira para implantar terminais de inferência, permitindo que eles se concentrem no desenvolvimento de modelos e na iteração ao invés da infraestrutura MLOps. Para processamento de mídia, permite transcodificação sob demanda ou geração de conteúdo sem gerenciar uma frota de servidores GPU. O modelo "pay-per-use", baseado em preços EC2 On-Demand mais taxas Lambda, faz a GPU computar mais acessível para cargas de trabalho intermitentes ou estouradas, potencialmente reduzindo os custos em comparação com a manutenção sempre em casos GPU. A estratégia de resiliência confirmada, permitindo a seleção de "tipos de instância da série G de várias gerações" e caindo para as gerações mais antigas, fornece um mecanismo para manter a disponibilidade mesmo durante restrições de capacidade para hardware mais recente. Esta flexibilidade é importante para sistemas de produção que exigem tempo de alta. A abstração do gerenciamento da GPU também implica uma redução no patch de segurança e manutenção para a infraestrutura subjacente, como AWS gerencia o sistema operacional e atualizações do driver.
Limitações conhecidas e informações não divulgadas
Enquanto o anúncio detalha avanços significativos, certos aspectos não foram divulgados. Os modelos específicos da GPU dentro da série EC2 G que Lambda utiliza não foram especificados. Isso significa que os desenvolvedores não podem prever os recursos de hardware subjacentes ou compará-los com arquiteturas específicas da GPU. Além disso, benchmarks detalhados de desempenho (por exemplo, latência, rendimento, custo por inferência para modelos específicos) não foram fornecidos, o que seria crucial para o planejamento e otimização da carga de trabalho. A arquitetura interna exata de "Lambda Managed instances" além de seu uso de EC2 G-série também não foi divulgada. Os desenvolvedores também devem considerar o modelo de preços: embora benéfico para cargas de trabalho intermitentes, tarefas contínuas de GPU de alta utilização ainda podem encontrar instâncias dedicadas de EC2 com Reservados ou Planos de Poupança mais custo-efetivo, dependendo do perfil específico de carga de trabalho e padrões de utilização, como a taxa de gerenciamento Lambda e taxas por pedido se aplicam em cima do custo da instância EC2.