Estados Unidos
HEARTLAND BUSINESS SYSTEMS LLC
True Talent Solutions Partners
Member of Technical Staff, ML Systems
Estados Unidos
Menlo Park, California, United States
Traducción automática. Consulta el original.
Sobre el puesto
Únete a un equipo de IA/ML que desarrolla sistemas de entrenamiento e inferencia de alto rendimiento para cargas de trabajo de imagen, vídeo y modelos de mundo. Mejorarás la velocidad y la eficiencia en kernels de GPU, ejecución distribuida y servicio multinodo.
Lo que harás
- Optimizar el rendimiento del entrenamiento y la inferencia para cargas de trabajo de imagen, vídeo y modelos de mundo.
- Utilizar Nsight y herramientas relacionadas para identificar cuellos de botella en kernels, memoria, sistemas y clústeres.
- Implementar optimizaciones de GPU de bajo nivel con CUDA y Triton.
- Diseñar y mejorar motores de entrenamiento e inferencia distribuidos para modelos de difusión.
- Mejorar el rendimiento de la comunicación entre GPU y nodos utilizando NCCL, RDMA, InfiniBand o RoCE.
- Crear pruebas de rendimiento y de regresión para garantizar que las mejoras de rendimiento se mantengan en producción.
- Codiseñar kernels, entornos de ejecución y modelos teniendo en cuenta las características del hardware.
Lo que buscamos
- Al menos 2 años de experiencia en sistemas de entrenamiento o inferencia de deep learning, sistemas distribuidos o trabajos relacionados con sistemas de ML.
- Al menos 1 año de experiencia práctica en sistemas de ML o rendimiento de GPU en un puesto actual o reciente.
- Experiencia en la creación de funciones principales en un framework de inferencia o entrenamiento, como vLLM, SGLang, TensorRT-LLM o Megatron.
- Experiencia práctica escribiendo kernels de CUDA, CUTLASS, Triton o PTX para GPU de NVIDIA.
- Sólidos fundamentos de machine learning y ciencias de la computación, con una titulación en informática o un campo cuantitativo relacionado.
- Experiencia en la optimización del rendimiento de inferencia o entrenamiento, incluyendo kernels de GPU, entornos de ejecución o ejecución distribuida.
- Se valorará la experiencia con cargas de trabajo de difusión, vídeo, imagen u otras cargas de trabajo multimodales.
Compensación y beneficios
- Salario base: 180,000 $ a 230,000 $ anuales.
- Se ofrece patrocinio de visado.
Ubicación
Presencial en Menlo Park, California, Estados Unidos.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil