
Home/Blog/Tech/AWS Lambda Ahora admite las instalaciones de GPU para los volúmenes de trabajo AI/ML plataformas de nube, IA y modelos, chips y hardware de computación, herramientas de desarrollador y APIConfirmadoAWS Lambda Ahora admite las instalaciones de GPU para los volúmenes de trabajo AI/ML
AWS Lambda ofrece ahora funciones de eventos acelerados por GPU en Instances gestionados por Lambda, lo que permite el despliegue sin servidor de inferencia de IA, procesamiento de medios y otras cargas de trabajo intensivos de GPU sin gestionar equipos de hardware o software subyacentes.
Publicado el 19 de noviembre de 20266 min leerplataformas de nube, IA y modelos, chips y hardware de computación, herramientas de desarrollador y API
Datos confirmados
AWS Lambda ahora soporta funciones de eventos acelerados por GPU cuando se implementa en Instances gestionados por Lambda. Esta nueva capacidad aprovecha los casos de serie G de EC2 para ejecutar cargas de trabajo intensivas de GPU. Los casos de uso confirmado incluyen inferencia de IA, procesamiento de medios, renderización 3D, computación científica y simulaciones financieras.
Un aspecto clave de esta oferta es la abstracción de la gestión de infraestructura subyacente. Lambda maneja los controladores, marcos y escalado de GPU automáticamente, eliminando estas cargas operativas de los desarrolladores. El servicio gestiona invocaciones simultáneas dentro de cada entorno de ejecución y escalas basadas en la utilización de GPU, la utilización de CPU y la concurrencia.
Para facilitar el desarrollo, Lambda proporciona imágenes de base GPU preconfiguradas con marcos como vLLM, SGLang y PyTorch. Las cargas de trabajo que requieren artefactos grandes pueden utilizar imágenes de contenedores, y cada entorno de ejecución se suministra con hasta 32 GB de almacenamiento efímero de NVMe. Los tiempos de inicio se optimizan mediante el soporte para la carga perezosa Seekable OCI (SOCI) y la transmisión directa de artefactos desde Amazon S3.
Para la resiliencia, los desarrolladores pueden especificar tipos de instancia de serie G de varias generaciones. Lambda prioriza la provisión de la nueva generación que cumple con los requisitos de función, retrocediendo a las generaciones mayores si la capacidad más reciente no está disponible.
Las funciones de eventos acelerados por GPU se integran con más de 200 fuentes de eventos AWS existentes. La configuración es compatible con la consola AWS, AWS CLI, AWS SDKs, AWS CloudFormation, AWS CDK y AWS SAM. Además, esta característica se puede acceder a través de ayudantes de codificación como Kiro, Claude Code, o Codex mediante la instalación de la habilidad Lambda Managed Instances del Agente Toolkit para AWS.
El modelo de fijación de precios incluye el precio EC2 On-Demand para la instancia subyacente (con planes de ahorros y solicitudes reservadas aplicables), más un 9.75% de tasa de gestión de lambda y $0.20 por millón de solicitudes. Esta característica está disponible en todas las regiones comerciales de AWS, donde se ofrecen tanto las instancias de Lambda Managed Instances como las de EC2 G.
Análisis técnico
**Contexto y cambio operativo**
Históricamente, el despliegue de cargas de trabajo acelerados por GPU en un paradigma sin servidor presenta retos importantes. Las funciones tradicionales sin servidor, como estándar AWS Lambda, están optimizadas para tareas apátridas, de corta duración, con límite de CPU. Sin embargo, las aplicaciones intensivas de GPU a menudo requieren hardware especializado, estado persistente (para la carga de modelos), y gestión compleja del controlador/framework, que contradice los principios básicos de la computación sin servidor. La introducción confirmada del apoyo de GPU para AWS Lambda Managed Instances representa un cambio fundamental. Este movimiento permite a los desarrolladores aprovechar el modelo operativo sin servidor – escalado automático, no gestión del servidor y una estructura de facturación de pago por uso – para cargas de trabajo que anteriormente requerían la provisión y gestión de instancias CE2 dedicadas con GPUs. Esto aborda directamente la sobrecarga operacional asociada a implementaciones de GPU, como instalar y actualizar controladores NVIDIA, kits de herramientas CUDA y marcos de aprendizaje automático.
** Gestión de la Abstracción y los Recursos Operacionales**
La propuesta de valor básico de esta mejora de la Lambda reside en su abstracción operacional. The confirmed fact that Lambda handles GPU drivers, frameworks, and scaling means developers are blinded from the complexities of infrastructure management. Por ejemplo, establecer un punto final de inferencia de aprendizaje automático tradicionalmente implica seleccionar un tipo de instancia EC2 con una GPU, configurar el sistema operativo, instalar controladores GPU apropiados, y luego desplegar el marco ML (por ejemplo, PyTorch, TensorFlow) y el modelo. Con esta nueva capacidad de Lambda, estos pasos son gestionados por AWS. La capacidad del servicio para ejecutar "invocaciones múltiples simultáneas en cada entorno de ejecución" y escala "se basa en la utilización de GPU, la utilización de CPU y la concurrencia" indica una capa inteligente de programación de recursos. Esta inferencia sugiere que Lambda pretende maximizar la utilización de la GPU al empaquetar múltiples solicitudes en una sola instancia de serie G, ajustando dinámicamente el número de instancias activas basadas en la demanda. Este enfoque es crítico para la eficiencia de los costos, ya que las GPU son recursos costosos, y mantenerlos ocupados es primordial.
** Optimizaciones de rendimiento y eficiencia**
Optimizar el rendimiento para las cargas de trabajo de GPU sin servidor implica abordar los inicios fríos y la utilización eficiente de los recursos. El soporte confirmado para "Seekable OCI (SOCI) carga perezosa" y "streaming artifacts directly from Amazon S3" son mecanismos directos para mitigar la latencia de inicio frío. SOCI permite que las imágenes de contenedores se inicien sin descargar la imagen entera primero, capturando sólo las capas necesarias bajo demanda. Del mismo modo, los artefactos de streaming de S3 significa que los modelos grandes o los archivos de datos no necesitan ser descargados completamente al almacenamiento efímero antes de que la función pueda comenzar a procesar. Esto es particularmente relevante para los grandes modelos AI, que pueden ser varios gigabytes de tamaño. La provisión de "hasta 32 GB de almacenamiento efímero de NVMe" apoya además el manejo eficiente de pesos modelo sustanciales o datos intermedios durante la ejecución, ofreciendo acceso local de alta velocidad. La combinación de estas características pretende reducir el tiempo de la solicitud de invocación a la computación GPU real, que es crucial para aplicaciones interactivas como la inferencia AI en tiempo real.
**Developer Experience and Ecosystem Integration**
La experiencia del desarrollador se simplifica significativamente por varias características confirmadas. La disponibilidad de "imágenes base GPU preconfiguradas con marcos tales como vLLM, SGLang y PyTorch" reduce el tiempo de configuración inicial. Los desarrolladores pueden comenzar con un ambiente bien conocido, centrándose en su lógica de aplicación en lugar de la gestión de dependencia. El soporte para "grandes artefactos usando imágenes de contenedores" también es un habilitador crítico, ya que muchas aplicaciones aceleradas por GPU, especialmente en AI/ML, implican bases de código sustanciales y archivos de modelo. Además, la integración con "más de 200 fuentes de eventos AWS" significa que las funciones aceleradas de GPU pueden incorporarse sin problemas en los flujos de trabajo existentes sin servidor, desencadenados por eventos de servicios como S3, Kinesis, SQS o API Gateway. La capacidad de configurar estas funciones mediante herramientas estándar AWS (Consola, CLI, SDKs, CloudFormation, CDK, SAM) garantiza la coherencia con las prácticas de desarrollo AWS existentes. La integración confirmada con "auxiliares de codificación como Kiro, Claude Code o Codex" a través del "Agent Toolkit for AWS" sugiere un enfoque de desarrollo orientado hacia el futuro, lo que podría permitir un despliegue y gestión más natural de funciones de GPU.
**Consecuencias de ingeniería práctica**
Este lanzamiento tiene varias consecuencias prácticas de ingeniería. Para los ingenieros de aprendizaje automático, reduce la barrera al despliegue de puntos finales de inferencia, permitiendo que se centren en el desarrollo de modelos y la iteración en lugar de la infraestructura MLOps. Para el procesamiento de medios, permite la transcodificación a pedido o generación de contenidos sin gestionar una flota de servidores GPU. El modelo "pay-per-use", basado en los precios de EC2 On-Demand más los honorarios de Lambda, hace que la GPU compute sea más accesible para las cargas de trabajo intermitentes o rebosantes, reduciendo potencialmente los costos en comparación con mantener siempre en las instancias de GPU. La estrategia de resiliencia confirmada, permitiendo la selección de "tipos de instancias de serie G de varias generaciones" y la caída de nuevo a las generaciones mayores, proporciona un mecanismo para mantener la disponibilidad incluso durante las limitaciones de capacidad para hardware más reciente. Esta flexibilidad es importante para los sistemas de producción que requieren tiempo elevado. La abstracción de la gestión de GPU implica también una reducción en el parche de seguridad y mantenimiento de la infraestructura subyacente, ya que AWS gestiona el sistema operativo y actualizaciones de controlador.
Limitaciones conocidas e información no revelada
Aunque en el anuncio se detallan los avances significativos, no se divulgaron ciertos aspectos. No se especificaron los modelos específicos de GPU en las series G del EC2 que utiliza Lambda. Esto significa que los desarrolladores no pueden predecir precisamente las capacidades de hardware subyacentes o compararlas con arquitecturas específicas de GPU. Además, no se proporcionaron parámetros detallados de desempeño (por ejemplo, latencia, el rendimiento, la relación costo-por-inferencia para modelos específicos), lo que sería fundamental para la planificación y optimización del volumen de trabajo. Tampoco se divulgó la arquitectura interna exacta de "Lambda Managed Instances" más allá de su uso de instancias de serie G EC2. Los desarrolladores también deben considerar el modelo de precios: si bien son beneficiosos para las cargas de trabajo intermitentes, las tareas continuas y de alta utilización de la GPU todavía pueden encontrar instancias específicas de la CE2 con los planes de instalación reservadas o ahorros más rentables, dependiendo de las pautas específicas del perfil de carga de trabajo y la utilización, ya que las tasas de gestión de Lambda y los cargos por solicitud se aplican encima del costo de instancia de la EC2.