États-Unis
PwrQ Holdings LLC
SambaNova
Ingénieur Performance IA Senior
États-Unis
San Jose, California, United States
PythonC++
Traduction automatique. Consultez l’original.
À propos du poste
SambaNova est un leader dans l'infrastructure IA de nouvelle génération, fournissant une plateforme d'inférence full-stack pour des clients dans le monde entier. Au cœur de la technologie de SambaNova se trouve le RDU (Reconfigurable Dataflow Unit) — une puce construite sur une architecture de flux de données plutôt que sur le modèle traditionnel des GPU. Ses performances de décodage sont particulièrement solides pour les charges de travail agentives telles que les agents multi-tours, la génération de code et les applications de longue durée. Les RDU sont regroupés dans SambaRack, un matériel à l'échelle d'un rack qui permet aux clients de déployer des modèles de pointe avec de meilleures performances, une plus grande efficacité énergétique et un temps de mise sur le marché plus rapide.
À PROPOS DU POSTE
Nous recherchons un ingénieur performance ML talentueux et motivé pour optimiser et faire évoluer les modèles fondamentaux de pointe sur la plateforme de flux de données reconfigurable de SambaNova. Vous travaillerez concrètement avec certains des modèles les plus avancés au monde — tels que DeepSeek R1, GPT OSS et d'autres architectures de pointe — pour repousser les limites du débit, de la latence et de l'efficacité. Dans ce rôle, vous ferez le lien entre le deep learning et la performance des systèmes, en collaborant entre les couches compilateur, runtime et matériel pour offrir des performances record mondiales pour l'inférence IA à grande échelle.
RESPONSABILITÉS
- Mettre en service et optimiser les modèles fondamentaux de pointe (par exemple, DeepSeek, Llama, Qwen et autres) sur la plateforme SambaNova via la pile logicielle SambaNova.
- Profiler et améliorer les performances des modèles à travers les couches compilateur, runtime et matériel pour atteindre un débit et une latence de pointe.
- Collaborer avec les équipes machine learning, compilateur, runtime et matériel pour fournir des applications IA co-conçues et haute performance.
- Intégrer les dernières avancées en matière d'architecture de modèles, de quantification, de planification et d'optimisation de la mémoire, issues à la fois du monde universitaire et de l'industrie.
- Développer des solutions d'inférence robustes, évolutives et efficaces de bout en bout, alignées sur les besoins des clients.
- Identifier les goulots d'étranglement de performance et proposer des optimisations de flux de données ou de planification pour les systèmes mono-nœuds et distribués.
QUALIFICATIONS REQUISES
- Baccalauréat ou diplôme supérieur en informatique, génie électrique ou un domaine connexe (par exemple, mathématiques appliquées, physique ou statistiques).
- 3+ années d'expérience dans un ou plusieurs des domaines suivants :
- Développement de modèles Deep learning et optimisation des performances
- Optimisation au niveau du compilateur, du runtime ou du noyau
- Co-conception logiciel-matériel ou réglage des performances système
- Maîtrise de Python ou C++, avec de solides bases en algorithmes, structures de données et calcul numérique.
- Expérience avec au moins un framework ML majeur — PyTorch, TensorFlow, ou JAX.
- Capacité démontrée à analyser et optimiser les performances dans des pipelines ML réels.
QUALIFICATIONS PRÉFÉRENTIELLES
- Expérience pratique avec l'entraînement et l'inférence de modèles LLM ou multimodaux.
- Expérience en entraînement distribué à grande échelle, en batching continu et en systèmes d'inférence à haut débit.
- Connaissance de la quantification, de l'optimisation de graphes, de la fusion de noyaux et du partitionnement de modèles.
- Expérience avec des frameworks tels que DeepSpeed, Megatron, vLLM ou TensorRT.
- Solides compétences en programmation GPU (CUDA, Triton ou OpenCL) ; l'expérience avec cuDNN, cuBLAS ou des bibliothèques similaires est un plus.
- Connaissance de l'optimisation de la hiérarchie mémoire, de la mise en cache et de la planification pour l'exécution de modèles à grande échelle.
- Un historique de publications ou des contributions open-source dans le domaine des systèmes ML ou de l'optimisation des performances est un plus.
Fourchette de salaire de base
Fourchette de rémunération de base $180,000—$255,000 USD
Directives de soumission
Veuillez noter que pour être considéré comme candidat pour tout poste chez SambaNova Systems, vous devez soumettre un formulaire de candidature pour chaque poste pour lequel vous estimez être qualifié.
Politique EEO
SambaNova Systems est un employeur qui souscrit au principe de l'égalité des chances et de l'action positive. Tous les candidats qualifiés recevront une considération pour l'emploi sans distinction d'âge (40 et plus), de couleur, de handicap, d'identité de genre, d'informations génétiques, de statut matrimonial, de statut militaire ou d'ancien combattant, d'origine nationale/ascendance, de race, de religion, de credo, de sexe (y compris la grossesse, l'accouchement, l'allaitement), d'orientation sexuelle et de tout autre statut applicable protégé par les lois fédérales, étatiques ou locales.
Résumé des avantages pour les postes à temps plein basés aux États-Unis
SambaNova offre un ensemble complet de rémunérations compétitives, comprenant le salaire de base, ainsi que des actions et des avantages sociaux. Nous couvrons 95% des primes pour la couverture médicale des employés, et 77% des primes pour les personnes à charge et offrons un compte d'épargne santé (HSA) avec une contribution de l'employeur. Nous proposons également des plans d'assurance dentaire, vision, invalidité de courte/longue durée, vie de base, vie volontaire et AD&D en plus des options de compte de dépenses flexibles (FSA) telles que les soins de santé, le but limité et les soins aux personnes à charge. Notre bibliothèque d'avantages bien-être disponibles pour vous et vos personnes à charge comprend un abonnement complet à Headspace, une adhésion Gympass+ avec accès à des salles de sport physiques, une adhésion One Medical, des services de conseil avec un programme d'aide aux employés, et bien plus encore.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil