Senior System Software Engineer - Dynamo-Triton Inference Server

Vereinigte Staaten

Santa Clara, California, United States · Seattle, Washington, United States · California, United States

PythonC++Rust

Automatische Übersetzung. Prüfe das Original.

Über die Stelle

Wir suchen einen Senior System Software Engineer für die Arbeit an Dynamo-Triton Inference Server developer.nvidia.com/dynamo-triton.

NVIDIA stellt Software-Ingenieure für sein GPU-beschleunigtes deep learning-Softwareteam ein. Akademische und kommerzielle Gruppen auf der ganzen Welt nutzen GPUs, um eine Revolution in der KI voranzutreiben und Durchbrüche bei Problemen von der Bildklassifizierung über die Spracherkennung bis hin zur Verarbeitung natürlicher Sprache zu ermöglichen. Wir sind ein schnelllebiges Team, das eine hochperformante KI-Inferenzplattform aufbaut, um die Entwicklung und Bereitstellung neuer KI-Modelle für alle Benutzer einfacher und zugänglicher zu machen.

Was Sie tun werden

Entwicklung von erstklassiger GPU-beschleunigter KI-Inferenz-Serving-Software.

Beitrag zur Feature-Entwicklung und Förderung einer breiten Kundenakzeptanz.

Steuerung der Konvergenz der Triton Inference Server und NVIDIA Dynamo-Stacks zur Etablierung einer einheitlichen, hochperformanten Inferenzplattform. Diese Plattform wird Funktionsparität gewährleisten und sowohl Large Language Model (LLM) als auch Nicht-LLM-Workloads effektiv bedienen.

Aktives Mitglied der Open-Source deep learning-Software-Engineering-Community github.com/triton-inference-server/server.

Ausbalancieren einer Vielzahl von Zielen, wie z. B. die Entwicklung robuster Software für Produktionsserver- oder Cloud-Umgebungen, die Optimierung und Balance von Vorhersagedurchsatz und Latenz sowie die Entwicklung und Einführung der nächsten Generation von Inferenztechnologien.

Mindestanforderungen

Was wir sehen müssen

Master-Abschluss oder Promotion in Informatik oder einem verwandten Fachgebiet (oder entsprechende Erfahrung).

5+ Jahre Berufserfahrung in der deep learning-Software.

Ausgezeichnete Rust- und C++-Kenntnisse, Vertrautheit mit Python und starke Programmier- und Software-Designfähigkeiten, einschließlich Debugging, Leistungsanalyse und Testdesign.

Erfahrung mit hochskalierten verteilten Systemen und ML-Systemen.

Starke Kommunikationsfähigkeiten und die Fähigkeit, in einem schnelllebigen, agilen Teamumfeld zu arbeiten.

Wege, sich von der Masse abzuheben

Vorerfahrung mit KI-Frameworks und -Engines wie TensorRT, PyTorch, ONNX, OpenVINO, vLLM oder TRT-LLM.

Kenntnisse im GPU-Speichermanagement, Cache-Management oder Hochleistungsnetzwerken.

Erfahrung in der Programmierung verteilter Systeme.

Erfahrung in der Mitarbeit an einem großen Open-Source-Projekt: Nutzung von GitHub, Fehlerverfolgung, Code-Branching und -Merging, Umgang mit OSS-Lizenzproblemen, Patches usw.

Ihr Grundgehalt wird basierend auf Ihrem Standort, Ihrer Erfahrung und dem Gehalt von Mitarbeitern in ähnlichen Positionen ermittelt. Die Gehaltsspanne beträgt 152,000 USD - 241,500 USD für Level 3 und 184,000 USD - 287,500 USD für Level 4.

Sie werden auch Anspruch auf Aktienoptionen und Sozialleistungen haben nvidia.com/en-us/benefits/.

Bewerbungen für diese Stelle werden mindestens bis zum 6. Juli 2026 angenommen.

Diese Ausschreibung gilt für eine bestehende Stelle.

NVIDIA nutzt KI-Tools in seinen Rekrutierungsprozessen.

NVIDIA setzt sich für die Förderung eines integrativen Arbeitsumfelds ein und ist stolz darauf, ein Arbeitgeber zu sein, der Chancengleichheit bietet. Da wir Vielfalt bei unseren aktuellen und zukünftigen Mitarbeitern sehr schätzen, diskriminieren wir nicht (auch nicht in unseren Einstellungs- und Beförderungspraktiken) aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, Geschlechtsausdruck, sexueller Orientierung, Alter, Familienstand, Veteranenstatus, Behinderungsstatus oder anderen gesetzlich geschützten Merkmalen.

Sprachen

Senior System Software Engineer - Dynamo-Triton Inference Server

Über die Stelle

Was Sie tun werden

Mindestanforderungen

Was wir sehen müssen

Wege, sich von der Masse abzuheben

Weiter entdecken

Dein nächster Jobsucht schon nach dir.

Mehr Möglichkeiten mit einem Profil

Service Desk Administrator

ServiceNow HR Managed Services Technical Consultant

Service Desk Techniker