Vereinigte Staaten
Retym
SambaNova
Senior AI Performance Engineer
Vereinigte Staaten
San Jose, California, United States
PythonC++
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
SambaNova ist ein führender Anbieter von KI-Infrastruktur der nächsten Generation und liefert eine full-stack-Inferenzplattform für Kunden weltweit. Im Kern der Technologie von SambaNova steht die RDU (Reconfigurable Dataflow Unit) – ein Chip, der auf einer Dataflow-Architektur und nicht auf dem traditionellen GPU-Modell basiert. Ihre Dekodierungsleistung ist besonders stark für agentenbasierte Workloads wie Multi-Turn-Agenten, Code-Generierung und langlaufende Anwendungen. RDUs sind in SambaRack, Rack-Scale-Hardware, verpackt, die es Kunden ermöglicht, hochmoderne Modelle mit besserer Leistung, größerer Energieeffizienz und schnellerer Wertschöpfung einzusetzen.
ÜBER DIE ROLLE
Wir suchen einen talentierten und engagierten ML-Performance-Ingenieur zur Optimierung und Skalierung hochmoderner Foundation Models auf der rekonfigurierbaren Dataflow-Plattform von SambaNova. Sie werden mit einigen der fortschrittlichsten Modelle der Welt – wie DeepSeek R1, GPT OSS und anderen Frontier-Architekturen – arbeiten, um die Grenzen von Durchsatz, Latenz und Effizienz zu erweitern. In dieser Rolle werden Sie die Lücke zwischen deep learning und Systemleistung schließen und teamübergreifend über Compiler-, Laufzeit- und Hardware-Ebenen hinweg zusammenarbeiten, um Weltrekordleistungen für die groß angelegte KI-Inferenz zu erzielen.
VERANTWORTLICHKEITEN
- Einrichtung und Optimierung von hochmodernen Foundation Models (z. B. DeepSeek, Llama, Qwen und andere) auf der SambaNova-Plattform über den SambaNova-Software-Stack.
- Profiling und Verbesserung der Modellleistung über Compiler-, Laufzeit- und Hardware-Ebenen hinweg, um SOTA-Durchsatz und Latenz zu erreichen.
- Zusammenarbeit mit machine learning-, Compiler-, Laufzeit- und Hardware-Teams, um gemeinsam entwickelte, hochleistungsfähige KI-Anwendungen zu liefern.
- Integration der neuesten Fortschritte in den Bereichen Modellarchitektur, Quantisierung, Scheduling und Speicheroptimierung aus Wissenschaft und Industrie.
- Entwicklung robuster, skalierbarer und effizienter End-to-End-Inferenzlösungen, die auf die Kundenbedürfnisse abgestimmt sind.
- Identifizierung von Leistungsengpässen und Vorschlag von Dataflow- oder Scheduling-Optimierungen für Single-Node- und verteilte Systeme.
ERFORDERLICHE QUALIFIKATIONEN
- Bachelor-Abschluss oder höher in Informatik, Elektrotechnik oder einem verwandten Fachgebiet (z. B. angewandte Mathematik, Physik oder Statistik).
- 3+ Jahre Erfahrung in einem oder mehreren der folgenden Bereiche:
- Deep learning Modellentwicklung und Leistungsoptimierung
- Compiler-, Laufzeit- oder Kernel-Level-Optimierung
- Software-Hardware-Co-Design oder Systemleistungs-Tuning
- Beherrschung von Python oder C++, mit starken Grundlagen in Algorithmen, Datenstrukturen und numerischem Rechnen.
- Erfahrung mit mindestens einem großen ML-Framework – PyTorch, TensorFlow oder JAX.
- Nachgewiesene Fähigkeit zur Analyse und Optimierung der Leistung in realen ML-Pipelines.
BEVORZUGTE QUALIFIKATIONEN
- Praktische Erfahrung mit LLM oder Training und Inferenz von multimodalen Modellen.
- Hintergrund in groß angelegtem verteiltem Training, kontinuierlicher Batch-Verarbeitung und Hochdurchsatz-Inferenzsystemen.
- Kenntnisse in Quantisierung, Graphoptimierung, Kernel-Fusion und Modellpartitionierung.
- Erfahrung mit Frameworks wie DeepSpeed, Megatron, vLLM oder TensorRT.
- Starke GPU-Programmierkenntnisse (CUDA, Triton oder OpenCL); Erfahrung mit cuDNN, cuBLAS oder ähnlichen Bibliotheken ist von Vorteil.
- Kenntnisse der Speicherhierarchie-Optimierung, des Cachings und der Planung für die Ausführung großer Modelle.
- Veröffentlichungsliste oder Open-Source-Beiträge in den Bereichen ML-Systeme oder Leistungsoptimierung sind von Vorteil.
Gehaltsspanne
Grundgehaltspanne $180,000—$255,000 USD
Einreichungsrichtlinien
Bitte beachten Sie, dass Sie, um als Bewerber für eine Position bei SambaNova Systems in Betracht gezogen zu werden, ein Bewerbungsformular für jede Position einreichen müssen, für die Sie sich qualifiziert halten.
EEO-Richtlinie
SambaNova Systems ist ein Equal Opportunity/Affirmative Action Arbeitgeber. Alle qualifizierten Bewerber erhalten eine Anstellung ohne Berücksichtigung von Alter (40 und älter), Hautfarbe, Behinderung, Geschlechtsidentität, genetischen Informationen, Familienstand, Militär- oder Veteranenstatus, nationaler Herkunft/Abstammung, Rasse, Religion, Glauben, Geschlecht (einschließlich Schwangerschaft, Geburt, Stillen), sexueller Orientierung und jedem anderen anwendbaren Status, der durch Bundes-, Landes- oder lokale Gesetze geschützt ist.
Zusammenfassung der Leistungen für US-basierte Vollzeitstellen
SambaNova bietet ein wettbewerbsfähiges Gesamtvergütungspaket, einschließlich des Grundgehalts, zuzüglich Aktienoptionen und Leistungen. Wir übernehmen 95% der Prämien für die medizinische Krankenversicherung der Mitarbeiter und 77% der Prämien für Angehörige und bieten ein Health Savings Account (HSA) mit Arbeitgeberbeitrag. Wir bieten außerdem Zahn-, Augen-, Kurz-/Langzeitinvaliditäts-, Grundlebens-, freiwillige Lebens- und AD&D-Versicherungspläne zusätzlich zu Flexible Spending Account (FSA)-Optionen wie Gesundheitswesen, eingeschränkten Zweck und Kinderbetreuung. Unsere Bibliothek an Wohlbefindensleistungen, die Ihnen und Ihren Angehörigen zur Verfügung steht, umfasst ein vollständiges Abonnement für Headspace, eine Gympass+-Mitgliedschaft mit Zugang zu physischen Fitnessstudios, eine One Medical-Mitgliedschaft, Beratungsdienste mit einem Employee Assistance Program und vieles mehr.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen