Vereinigte Staaten
Temple Health
Jobgether
ML Platform Engineer, Distributed Training
Vereinigte Staaten
United States
PythonKubernetes
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
Diese Stelle wird im Auftrag eines Partnerunternehmens ausgeschrieben, das alle Bewerbungen und weiteren Schritte verwaltet. Unser Partner sucht einen ML Platform Engineer, Distributed Training mit Sitz in den Vereinigten Staaten.
- Beschäftigungsart: Die Stelle kann als Vollzeitbeschäftigung oder als Auftragsarbeit angeboten werden, wie in der ursprünglichen Ausschreibung angegeben.
Wie Jobgether funktioniert
Wir verwenden einen KI-gestützten Matching-Prozess, um sicherzustellen, dass Ihre Bewerbung schnell, objektiv und fair anhand der Kernanforderungen der Stelle geprüft wird. Unser System identifiziert die am besten geeigneten Kandidaten, und diese Shortlist wird direkt an das einstellende Unternehmen weitergegeben. Die endgültige Entscheidung und die nächsten Schritte (Interviews, Assessments) werden von deren internem Team verwaltet.
Wir danken Ihnen für Ihr Interesse und wünschen Ihnen viel Erfolg!
Warum über Jobgether bewerben?
Datenschutzhinweis: Mit dem Absenden Ihrer Bewerbung bestätigen Sie, dass Jobgether Ihre personenbezogenen Daten verarbeitet, um Ihre Eignung zu bewerten und relevante Informationen an den einstellenden Arbeitgeber weiterzugeben. Diese Verarbeitung basiert auf berechtigtem Interesse und vorvertraglichen Maßnahmen gemäß den geltenden Datenschutzgesetzen (einschließlich DSGVO). Sie können Ihre Rechte (Auskunft, Berichtigung, Löschung, Widerspruch) jederzeit ausüben.
#LI-CL1
Werden Sie Teil eines wirkungsstarken KI-Engineering-Teams, das Anwendungen im Gesundheitswesen und in den Biowissenschaften durch das Training von Foundation Models im großen Maßstab unterstützt. Als ML Platform Engineer mit Spezialisierung auf verteiltes Training arbeiten Sie an der GPU-Infrastruktur und an Modell-Trainings-Workloads auf einer Google Kubernetes Engine (GKE)-Plattform, die von H200 und GB200 GPUs betrieben wird. Sie arbeiten mit Infrastruktur-Ingenieuren und Forschungswissenschaftlern zusammen, um die Trainingsleistung zu optimieren, komplexe Fehler zu diagnostizieren und die Ausführung über mehrere Knoten hinweg in großem Maßstab zu verbessern. Anstatt sich nur auf den Cluster-Betrieb zu konzentrieren, übernehmen Sie die Verantwortung für den gesamten Trainings-Stack, von der Workload-Planung und GPU-Netzwerktechnik bis hin zu Benchmarking und Modellbewertungen. Ihre Arbeit hilft Wissenschaftlern, Modelle effizienter zu trainieren und gleichzeitig die Systemzuverlässigkeit, Skalierbarkeit und Kosteneffizienz zu verbessern. Diese Rolle bietet ein praxisorientiertes Engineering-Umfeld, in dem technische Tiefe, proaktive Problemlösung und klare Kommunikation unerlässlich sind.
Verantwortlichkeiten
- Optimierung der Trainingsplattform: Zusammenarbeit mit Infrastrukturteams zur Verbesserung von GKE-basierten Trainingsumgebungen, einschließlich GPU-Node-Pools, Job-Scheduling, Queueing, Ressourcenkontingenten und Kapazitätsmanagement.
- Diagnose von Plattformfehlern: Untersuchung der zugrunde liegenden Ursachen von Infrastruktur- und Trainingsproblemen, Lösung systemischer Probleme und Implementierung dauerhafter Korrekturen anstelle von temporären Workarounds.
- Optimierung der GPU-Netzwerktechnik: Optimierung der GPU-Kommunikation über mehrere Knoten hinweg und des Trainingsdurchsatzes unter Verwendung von Technologien und Techniken wie RDMA, GPUDirect, NCCL und GPU-Interconnect-Topologie.
- Ausführung verteilter Trainings-Workloads: Ausführung, Skalierung, Profilierung und Debugging von Multi-Node-Trainingsjobs unter Verwendung von PyTorch-basierten Frameworks wie FSDP, DeepSpeed, Megatron oder NeMo sowie Ray Train.
- Identifizierung von Leistungsengpässen: Analyse der Rechenauslastung, des Speicherverbrauchs, der Input-Pipelines und der Netzwerkkommunikation zur Verbesserung der Trainingseffizienz und Skalierbarkeit.
- Entwicklung von Leistungs-Benchmarks: Entwicklung und Durchführung von Benchmarks zur Messung von Durchsatz, Skalierungseffizienz und Kosten pro Trainingslauf, wobei die Ergebnisse als Grundlage für Engineering-Entscheidungen dienen.
- Aufbau von Modellbewertungssystemen: Erstellung und Pflege von Evaluierungstools, die die Auswirkungen von Änderungen an Trainingsrezepten, Modellen und Plattformkonfigurationen objektiv messen.
- Verbesserung von Observability und Testing: Instrumentierung von Trainings-Workloads und Plattformkomponenten mit Telemetrie und Monitoring sowie Pflege von End-to-End-Pipeline-Tests, die reale Benutzer-Workflows widerspiegeln.
- Verantwortung für technische Ergebnisse: Proaktive Identifizierung von Lücken, Kommunikation von Projektstatus und Risiken, Vorschlag von Lösungen und Unterstützung der Wissenschaftler, die auf die Plattform angewiesen sind.
- Zusammenarbeit und Kommunikation: Erläuterung und Verteidigung architektonischer Entscheidungen gegenüber Ingenieuren und Forschern, effektive teamübergreifende Zusammenarbeit und Anpassung an sich entwickelnde Prioritäten und Organisationsstrukturen.
Mindestanforderungen
Anforderungen
- Berufserfahrung: Mindestens 5 Jahre Engineering-Erfahrung, einschließlich aktueller praktischer Arbeit mit GPU-Trainingsinfrastruktur und dem Training von Modellen im großen Maßstab.
- Python-Engineering: Fundierte Python-Kenntnisse auf Produktionsebene, einschließlich des Schreibens von sauberem, wartbarem Code, automatisierten Tests, der Teilnahme an Code-Reviews und der Einhaltung solider Softwareentwicklungspraktiken.
- Kubernetes und GKE: Praktische Erfahrung mit Kubernetes auf Google Cloud, einschließlich GPU-Node-Pools, Job-Scheduling- und Queueing-Systemen wie Kueue sowie Ressourcenkontingent- und Kapazitätsmanagement.
- Expertise im verteilten Training: Direkte Erfahrung beim Ausführen und Debuggen von Multi-Node PyTorch-Trainingsjobs und der Arbeit mit Ray Train.
- GPU-Netzwerktechnik und Interconnects: Fundiertes Verständnis von RDMA, GPUDirect, NCCL-Tuning und Multi-Node-GPU-Architekturen mit H200- oder GB200-Hardware.
- Leistungsanalyse: Nachgewiesene Fähigkeit, Trainings-Benchmarks zu entwerfen und durchzuführen, die Modellleistung zu bewerten, Engpässe zu identifizieren und empirische Belege zur Optimierung zu nutzen.
- Technische Tiefe: Fähigkeit, Systemarchitektur, Implementierungsentscheidungen und Leistungsverhalten im Detail zu erklären und dabei unabhängiges technisches Urteilsvermögen zu zeigen, anstatt sich auf KI-Coding-Tools zu verlassen, um die zugrunde liegende Logik zu liefern.
- Verantwortungsbewusstsein und Kommunikation: Nachweisbare Erfolgsbilanz in Bezug auf Verantwortlichkeit, proaktive Problemlösung, transparente Kommunikation und effektive Zusammenarbeit in anspruchsvollen Engineering-Umgebungen.
- Bevorzugte Branchenerfahrung: Vertrautheit mit Daten aus dem Gesundheitswesen oder den Biowissenschaften, einschließlich Genomik, klinischer oder biomedizinischer Informationen, sowie Erfahrung in der Arbeit unter HIPAA-Anforderungen.
- Zusätzliche bevorzugte Fähigkeiten: Erfahrung im Aufbau von Observability und Telemetrie für Trainingsplattformen, einschließlich Metriken, Tracing, Alerting und End-to-End-Pipeline-Tests.
Leistungen
- Jahresgehalt: $159,300–$219,245, wobei die endgültige Gehaltsspanne durch das zugewiesene Level und anwendbare Faktoren wie Erfahrung, Expertise, Interviewleistung und geografischer Standort bestimmt wird.
- Umfassende Krankenversicherung: Gesundheitsversorgung zur Unterstützung des Wohlbefindens der Mitarbeiter.
- Bezahlter Urlaub: Urlaubsanspruch und allgemeiner bezahlter Urlaub.
- Bezahlte Feiertage: Bezahlte Freistellung an ausgewiesenen Feiertagen.
- Krankheitsurlaub: Freistellung zur Unterstützung von Gesundheit und Genesung.
- Elternzeit: Freistellung zur Unterstützung der Mitarbeiter und ihrer Familien.
- Sonderurlaub bei Todesfällen: Unterstützung in Zeiten des Verlusts.
- Altersvorsorge: 401(k)-Plan mit Arbeitgeberzuschuss.
- Mitarbeiter-Empfehlungsprämien: Möglichkeiten, Boni für berechtigte Empfehlungen zu erhalten.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen