Estados Unidos
PwrQ Holdings LLC
SambaNova
Ingeniero Senior de Rendimiento de IA
Estados Unidos
San Jose, California, United States
PythonC++
Traducción automática. Consulta el original.
Sobre la oportunidad
SambaNova es un líder en infraestructura de IA de próxima generación, que ofrece una plataforma de inferencia full-stack para clientes en todo el mundo. En el núcleo de la tecnología de SambaNova se encuentra la RDU (Unidad de Flujo de Datos Reconfigurable), un chip construido sobre una arquitectura de flujo de datos en lugar del modelo tradicional de GPU. Su rendimiento de decodificación es especialmente sólido para cargas de trabajo de agentes como agentes de múltiples turnos, generación de código y aplicaciones de larga duración. Las RDU se empaquetan en SambaRack, hardware a escala de rack que permite a los clientes implementar modelos de vanguardia con mejor rendimiento, mayor eficiencia energética y un tiempo de obtención de valor más rápido.
SOBRE EL ROL
Buscamos un ingeniero de rendimiento de ML talentoso y motivado para optimizar y escalar modelos fundacionales de vanguardia en la plataforma de flujo de datos reconfigurable de SambaNova. Trabajarás de forma práctica con algunos de los modelos más avanzados del mundo, como DeepSeek R1, GPT OSS y otras arquitecturas de vanguardia, para superar los límites de rendimiento, latencia y eficiencia. En este rol, tenderás un puente entre el deep learning y el rendimiento del sistema, colaborando en las capas de compilador, tiempo de ejecución y hardware para ofrecer un rendimiento récord mundial para la inferencia de IA a gran escala.
RESPONSABILIDADES
- Poner en marcha y optimizar modelos fundacionales de vanguardia (por ejemplo, DeepSeek, Llama, Qwen y otros) en la plataforma SambaNova a través de la pila de software de SambaNova.
- Perfilar y mejorar el rendimiento del modelo en las capas de compilador, tiempo de ejecución y hardware para lograr un rendimiento y latencia de vanguardia (SOTA).
- Colaborar con los equipos de machine learning, compilador, tiempo de ejecución y hardware para ofrecer aplicaciones de IA de alto rendimiento y codiseñadas.
- Integrar los últimos avances en arquitectura de modelos, cuantización, programación y optimización de memoria tanto del ámbito académico como de la industria.
- Desarrollar soluciones de inferencia robustas, escalables y eficientes de extremo a extremo alineadas con las necesidades del cliente.
- Identificar cuellos de botella de rendimiento y proponer optimizaciones de flujo de datos o programación tanto para sistemas de nodo único como distribuidos.
CUALIFICACIONES REQUERIDAS
- Grado de licenciatura o superior en informática, ingeniería eléctrica o un campo relacionado (por ejemplo, matemáticas aplicadas, física o estadística).
- 3+ años de experiencia en una o más de las siguientes áreas:
- Desarrollo de modelos de Deep learning y optimización de rendimiento
- Optimización a nivel de compilador, tiempo de ejecución o kernel
- Codiseño de software-hardware o ajuste de rendimiento de sistemas
- Dominio de Python o C++, con sólidas bases en algoritmos, estructuras de datos y computación numérica.
- Experiencia con al menos un framework de ML importante: PyTorch, TensorFlow o JAX.
- Capacidad demostrada para analizar y optimizar el rendimiento en canalizaciones de ML del mundo real.
CUALIFICACIONES PREFERIDAS
- Experiencia práctica con entrenamiento e inferencia de modelos LLM o multimodales.
- Experiencia en entrenamiento distribuido a gran escala, lotes continuos y sistemas de inferencia de alto rendimiento.
- Conocimiento de cuantización, optimización de grafos, fusión de kernels y partición de modelos.
- Experiencia con frameworks como DeepSpeed, Megatron, vLLM o TensorRT.
- Sólidas habilidades de programación de GPU (CUDA, Triton u OpenCL); la experiencia con cuDNN, cuBLAS o bibliotecas similares es una ventaja.
- Conocimiento de optimización de jerarquía de memoria, almacenamiento en caché y programación para la ejecución de modelos a gran escala.
- Un historial de publicaciones o contribuciones de código abierto en sistemas de ML u optimización de rendimiento es una ventaja.
Rango salarial base
Rango salarial base $180,000—$255,000 USD
Directrices de envío
Tenga en cuenta que para ser considerado como candidato para cualquier puesto en SambaNova Systems, debe enviar un formulario de solicitud para cada puesto para el que crea que está cualificado.
Política de Igualdad de Oportunidades en el Empleo (EEO)
SambaNova Systems es un Empleador de Igualdad de Oportunidades / Acción Afirmativa. Todos los solicitantes cualificados recibirán consideración para el empleo sin distinción de edad (40 y mayores), color, discapacidad, identidad de género, información genética, estado civil, condición militar o de veterano, origen/ascendencia nacional, raza, religión, credo, sexo (incluyendo embarazo, parto, lactancia), orientación sexual y cualquier otra condición aplicable protegida por las leyes federales, estatales o locales.
Resumen de beneficios para puestos de empleo a tiempo completo basados en EE. UU.
SambaNova ofrece un paquete competitivo de recompensas totales, que incluye el salario base, además de acciones y beneficios. Cubrimos el 95% de la prima para la cobertura del seguro médico de los empleados, y el 77% de la prima para dependientes y ofrecemos una Cuenta de Ahorros para la Salud (HSA) con contribución del empleador. También ofrecemos planes de seguro Dental, de Visión, de Incapacidad a Corto/Largo Plazo, de Vida Básico, de Vida Voluntaria y de Vida y Muerte Accidental (AD&D), además de opciones de Cuenta de Gastos Flexibles (FSA) como Cuidado de la Salud, Propósito Limitado y Cuidado de Dependientes. Nuestra biblioteca de beneficios de bienestar disponible para usted y sus dependientes incluye una suscripción completa a Headspace, membresía Gympass+ con acceso a gimnasios físicos, membresía One Medical, servicios de asesoramiento con un Programa de Asistencia al Empleado y mucho más.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil