Vereinigte Staaten
MANTECH
NVIDIA
Senior Deep Learning Framework Communications Engineer
Vereinigte Staaten
Santa Clara, California, United States · Westford, Massachusetts, United States · Durham, North Carolina, United States · Austin, Texas, United States
PythonC++
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
NVIDIA leistet Pionierarbeit bei bahnbrechenden Entwicklungen in den Bereichen Künstliche Intelligenz, High-Performance Computing und Visualisierung. Die GPU, unsere Erfindung, dient als visuelles Zentrum moderner Computer und steht im Mittelpunkt unserer Produkte und Dienstleistungen. Unsere Arbeit eröffnet neue Universen zur Erkundung, ermöglicht erstaunliche Kreativität und Entdeckungen und treibt das voran, was einst Science-Fiction-Erfindungen von künstlicher Intelligenz bis hin zu autonomen Fahrzeugen waren.
Wir suchen einen motivierten Deep Learning-Ingenieur, der fortschrittliche Kommunikationstechnologien in KI-Stacks integriert, darunter PyTorch, TRT-LLM, vLLM, SGLang, JAX usw. Sie werden mit dem Team zusammenarbeiten, das Kommunikationsbibliotheken wie NCCL, NVSHMEM und Technologien wie GPUDirect entwickelt hat – für die Skalierung von Deep Learning- und HPC-Anwendungen. Ihre Kunden werden vielfältige Multi-GPU-Anforderungen haben, die von Trainings auf Skalen bis zu 100K GPUs bis hin zu Inferenz mit Mikrosekunden-Latenz reichen. Die Kommunikationsleistung zwischen den GPUs hat direkte Auswirkungen auf KI-Anwendungen. Ihre Arbeit an KI-Toolkits wird all dies für die Community erleichtern. Dies ist eine herausragende Gelegenheit für jemanden mit einem KI-Hintergrund, den Stand der Technik in diesem Bereich voranzutreiben. Sind Sie bereit, zur Entwicklung innovativer Technologien beizutragen und die Vision von NVIDIA zu verwirklichen?
Was Sie tun werden
- Integration neuer Features von Kommunikationsbibliotheken in KI-Frameworks: von PoC über Leistungsanalyse bis zur Produktion
- Durchführung tiefgreifender Analysen von KI-Workloads und Frameworks zur Identifizierung von Multi-GPU-Kommunikationsanforderungen und -möglichkeiten. Enge Zusammenarbeit mit Teams, die an den neuesten KI-Modellen arbeiten.
- Verbesserung von KI-Compilern zur Ausblendung von Kommunikationen oder zur Durchführung automatischer Fusion.
- Durchführung eingehender Leistungscharakterisierung von KI-Workloads auf Multi-GPU-Clustern.
- Entwurf fehlertoleranter und elastischer Lösungen für große oder dynamische KI-Workloads.
- Erstellung benutzerdefinierter Kommunikations- oder fusionierter Compute-Kommunikations-Kernels zur Demonstration ultimativer Leistung auf NV-Plattformen.
- Beeinflussung der Roadmap von Kommunikationsbibliotheken – NCCL & NVSHMEM.
- Zusammenarbeit mit einem sehr dynamischen Team über mehrere Zeitzonen hinweg.
Was wir sehen müssen
- B.S., M.S. oder PhD in Informatik oder einem verwandten Fachgebiet (oder gleichwertige Erfahrung) mit 8+ Jahren Erfahrung in Software-Engineering und HPC/KI
- Entwicklungs- oder Integrationserfahrung mit Deep Learning Frameworks wie PyTorch, JAX und Inference Engines wie TRT-LLM, vLLM, SGLang
- Schnelles Prototyping und Entwicklung mit Python, C++, CUDA oder verwandten DSLs (Triton, cuTe)
- Solides Verständnis von KI-Modellen, Parallelismen und/oder Compiler-Technologien (z. B. torch.compile)
- Erfahrung in der Leistungs-Benchmarking auf KI-Clustern. Vertrautheit mit mindestens einem Performance-Profiler-Toolchain (PyTorch-Profiler, NVIDIA Nsight Systems)
- Verständnis von HPC/KI-Kommunikationskonzepten (1-seitige vs. 2-seitige Kommunikation, Elastizität, Ausfallsicherheit, Topologieerkennung usw.)
- Anpassungsfähigkeit und Leidenschaft, neue Bereiche und Werkzeuge zu erlernen
- Flexibilität, um effektiv mit verschiedenen Teams und Zeitzonen zu arbeiten und zu kommunizieren
Wege, sich von der Masse abzuheben
- Erfahrung mit paralleler Programmierung auf mindestens einer Kommunikationslaufzeit (NCCL, NVSHMEM, MPI). Gutes Verständnis der Computerarchitektur, HW-SW-Interaktionen und Betriebssystemprinzipien (auch bekannt als Systemsoftware-Grundlagen)
- Expertise in einem oder mehreren dieser Bereiche: Training, Distributed Inference, MoE, Reinforcement Learning, Kernel-Erstellung (auf CUDA, Triton, cuTe usw.). Erfahrung mit Programmierung für Compute & Communication Overlap in verteilten Laufzeiten
- Erfahrung mit KI-Compiler-Pattern-Matching und Lowering. Solides Verständnis der Speicherhierarchie, des Konsistenzmodells und des Tensor-Layouts
Ihr Grundgehalt wird basierend auf Ihrem Standort, Ihrer Erfahrung und dem Gehalt von Mitarbeitern in ähnlichen Positionen ermittelt. Die Gehaltsspanne beträgt 184.000 USD - 287.500 USD für Level 4 und 224.000 USD - 356.500 USD für Level 5.
Bewerbungen für diese Stelle werden mindestens bis zum 22. Oktober 2026 angenommen.
Diese Ausschreibung gilt für eine bestehende Stelle.
NVIDIA nutzt KI-Tools in seinen Rekrutierungsprozessen.
NVIDIA setzt sich für die Förderung eines integrativen Arbeitsumfelds ein und ist stolz darauf, ein Arbeitgeber der Chancengleichheit zu sein. Da wir die Vielfalt unserer aktuellen und zukünftigen Mitarbeiter sehr schätzen, diskriminieren wir nicht (einschließlich unserer Einstellungs- und Beförderungspraktiken) aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, Geschlechtsausdruck, sexueller Orientierung, Alter, Familienstand, Veteranenstatus, Behinderungsstatus oder einem anderen gesetzlich geschützten Merkmal.
Sie haben außerdem Anspruch auf Aktienoptionen und Leistungen nvidia.com/en-us/benefits/.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen