CoreWeave

Ingénieur Principal - Performance et Benchmarking

Kubernetes
Traduction automatique. Consultez l’original.

À PROPOS DE CE RÔLE

CoreWeave est The Essential Cloud for AI™.

Conçue par des pionniers pour des pionniers, CoreWeave propose une plateforme technologique, des outils et des équipes qui permettent aux innovateurs de créer et de mettre à l'échelle l'IA en toute confiance. Bénéficiant de la confiance des principaux laboratoires d'IA, des startups et des entreprises mondiales, CoreWeave allie des performances d'infrastructure supérieures à une expertise technique approfondie pour accélérer les percées et transformer la puissance de calcul en capacités concrètes. Fondée en 2017, CoreWeave est devenue une société cotée en bourse (Nasdaq : CRWV) en mars 2025. Pour en savoir plus, rendez-vous sur coreweave.com coreweave.com/.

Nous recherchons un Ingénieur Principal pour diriger techniquement l'équipe Benchmarking & Performance de CoreWeave. Vous serez responsable de notre entrepôt de données de performance à l'échelle mondiale : ingestion, stockage, transformation et analyse des événements de performance dans tous les centres de données de notre infrastructure mondiale. Vous jouerez également un rôle essentiel dans la publication de benchmarks de performance de bout en bout à la pointe de l'industrie : si MLPerf (Entraînement et Inférence), la collaboration étroite avec NVIDIA (Megatron-LM, TensorRT-LLM & DGX cloud) et la communauté open-source (llm-d, vLLM et tous les frameworks ML populaires) vous parlent, venez nous aider à démontrer le leadership de CoreWeave en matière de fiabilité des performances sur le terrain.

Vos missions

  1. Stratégie et Leadership - Définir la stratégie et la feuille de route pluriannuelles du benchmarking ; prioriser les modèles/charges de travail (LLMs, diffusion, vision, parole) et les niveaux de matériel. Construire, diriger et encadrer une équipe performante d'ingénieurs en performance et d'analystes de données. Établir une gouvernance pour les revendications : méthodologies documentées, versioning, reproductibilité et pistes d'audit.
  1. Responsabilité de la Performance - Diriger les soumissions MLPerf Inference et Training de bout en bout : sélection des charges de travail, planification des clusters, runbooks, audits et publication des résultats. Coordonner les pistes d'optimisation avec NVIDIA (CUDA, cuDNN, TensorRT/TensorRT-LLM, Triton, NCCL) pour obtenir des résultats compétitifs ; piloter les correctifs en amont si nécessaire.
  1. Benchmarks internes de latence et de débit - Concevoir un service de benchmarking natif Kubernetes et reproductible qui sollicite les piles CoreWeave via SUNK (Slurm on Kubernetes), Kueue et les pipelines Kubeflow. Mesurer et rapporter la latence p50/p95/p99, la gigue, les tokens/s, le temps jusqu'au premier token, le démarrage à froid/à chaud, et le coût par token/requête selon les modèles, les précisions (BF16/FP8/FP4), les tailles de batch et les types de GPU. Maintenir un corpus de scénarios représentatifs (streaming, batch, multi-tenant) et de jeux de données ; automatiser les comparaisons entre les versions logicielles et les générations de matériel.
  1. Outils et Automatisation - Construire des pipelines CI/CD et des contrôleurs/opérateurs K8s pour planifier les benchmarks à grande échelle ; intégrer les piles d'observabilité (Prometheus, Grafana, OpenTelemetry) et les entrepôts de résultats. Mettre en œuvre l'intégrité de la chaîne d'approvisionnement pour les artefacts de benchmark (SBOMs, signatures Cosign).
  1. Collaboration transversale et Communauté - Collaborer avec NVIDIA, les principaux ISV et les projets OSS (vLLM, Triton, KServe, PyTorch/DeepSpeed, ONNX Runtime) pour co-développer des optimisations et des améliorations en amont. Soutenir les équipes commerciales/SE avec des chiffres faisant autorité pour les appels d'offres et les évaluations concurrentielles ; informer les analystes et la presse avec des données rigoureuses et défendables.

Votre profil

  1. 10+ années d'expérience dans la construction de systèmes distribués ou de services HPC/cloud, avec une expertise approfondie dans l'entraînement ML à grande échelle ou des charges de travail haute performance similaires.
  1. Expérience avérée dans l'architecture ou la construction de systèmes de données à l'échelle planétaire (par exemple, plateformes de télémétrie, piles d'observabilité, entrepôts de données cloud, moteurs OLAP à grande échelle).
  1. Compréhension approfondie des performances GPU (CUDA, NCCL, RDMA, NVLink/PCIe, bande passante mémoire), des piles de serveurs de modèles (Triton, vLLM, TensorRT-LLM, TorchServe) et des frameworks d'entraînement distribué (PyTorch FSDP/DeepSpeed/Megatron-LM).
  1. Maîtrise de Kubernetes et des plans de contrôle ML ; familiarité avec SUNK, Kueue et Kubeflow dans des environnements de production.
  1. Excellent communicant capable d'interagir avec les cadres, les clients, les auditeurs et les communautés OSS.

Ce qui serait un plus

  1. Expérience avec les bases de données de séries temporelles, les arbres de fusion log-structurés (LSM) ou le développement de moteurs de stockage personnalisés.
  1. Expérience dans l'exécution de soumissions MLPerf (Inférence et/ou Entraînement) ou de benchmarks audités équivalents à grande échelle.
  1. Contributions à MLPerf, Triton, vLLM, PyTorch, KServe ou des projets OSS similaires.
  1. Expérience dans le benchmarking de flottes multi-régions et de grands clusters (milliers de GPU).
  1. Publications/présentations sur les performances ML, l'ingénierie de la latence ou la méthodologie de benchmarking à grande échelle.

Ce que nous offrons

La fourchette de salaire de base pour ce poste est de $206,000 à $333,000. Le salaire de départ sera déterminé en fonction des connaissances liées au poste, des compétences, de l'expérience et de la localisation sur le marché. Nous visons à la fois l'alignement sur le marché et l'équité interne lors de la détermination de la rémunération. En plus du salaire de base, notre package de rémunération globale comprend une prime discrétionnaire, des attributions d'actions et un programme d'avantages sociaux complet (sous réserve d'éligibilité).

La fourchette que nous avons publiée représente la fourchette de rémunération typique pour ce rôle. Pour déterminer la rémunération réelle, nous examinons le taux du marché pour chaque candidat, ce qui peut inclure divers facteurs. Ceux-ci incluent les qualifications, l'expérience, la performance lors des entretiens et la localisation.

En plus d'un salaire compétitif, nous offrons une variété d'avantages pour répondre à vos besoins. Les avantages ci-dessous reflètent nos offres basées aux États-Unis pour les employés à temps plein ; pour les rôles dans d'autres localisations, les avantages varient et sont partagés pendant le processus d'embauche. Ceux-ci incluent :

  • Assurance médicale, dentaire et vision - 100% pris en charge par CoreWeave
  • Assurance vie payée par l'entreprise
  • Assurance vie complémentaire volontaire
  • Assurance invalidité à court et long terme
  • Compte de dépenses flexibles (FSA)
  • Compte d'épargne santé (HSA)
  • Remboursement des frais de scolarité
  • Possibilité de participer au plan d'achat d'actions pour les employés (ESPP)
  • Avantages pour le bien-être mental via Spring Health
  • Soutien à la formation de la famille fourni par Carrot
  • Congé parental payé
  • Soutien flexible à la garde d'enfants avec Kinside
  • 401(k) avec une généreuse contribution de l'employeur
  • Congés payés flexibles
  • Déjeuner offert chaque jour dans nos bureaux et centres de données
  • Un environnement de travail décontracté
  • Une culture d'entreprise axée sur la disruption innovante

Égalité des chances et aménagements

Candidats en Californie

California Consumer Privacy Act drive.google.com/file/d/1gPBRBhUNAMBmj7Yn4_M-hCugm7ZJD4hr/view?usp=sharing

CoreWeave est un employeur qui souscrit au principe de l'égalité d'accès à l'emploi, engagé à favoriser un lieu de travail inclusif et solidaire. Tous les candidats qualifiés seront pris en considération pour un emploi sans égard à la race, la couleur, la religion, le sexe, le handicap, l'âge, l'orientation sexuelle, l'identité de genre, l'origine nationale, le statut d'ancien combattant ou les informations génétiques.

Dans le cadre de cet engagement et conformément à l'Americans with Disabilities Act (ADA) eeoc.gov/laws/guidance/fact-sheet-disability-discrimination, CoreWeave veillera à ce que les candidats qualifiés en situation de handicap bénéficient d'aménagements raisonnables pour le processus d'embauche, à moins qu'un tel aménagement ne constitue une contrainte excessive. Si un aménagement raisonnable est nécessaire, veuillez contacter : careers@coreweave.com [careers@coreweave.com].

Conformité au contrôle des exportations

Ce poste nécessite l'accès à des informations soumises au contrôle des exportations. Pour se conformer aux réglementations d'exportation du gouvernement américain applicables à ces informations, le candidat doit être soit (A) une personne américaine, définie comme (i) un citoyen ou ressortissant américain, (ii) un résident permanent légal des États-Unis (détenteur d'une carte verte), (iii) un réfugié en vertu de 8 U.S.C. § 1157, ou (iv) un asilé en vertu de 8 U.S.C. § 1158, (B) éligible pour accéder aux informations soumises au contrôle des exportations sans autorisation d'exportation requise, ou (C) éligible et raisonnablement susceptible d'obtenir l'autorisation d'exportation requise auprès de l'agence gouvernementale américaine compétente. CoreWeave peut, pour des raisons commerciales légitimes, refuser de poursuivre tout processus de licence d'exportation.

Plus d’opportunités avec un seul profil

Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.

Créer mon profil

Ton prochain jobest déjà à ta recherche.

Nort

Plateforme de recrutement inversé pour développeurs

Réseaux sociauxInstagramLinkedInTwitter