Vereinigte Staaten
B&A
Together AI
AI Infrastructure Systems Engineer
Vereinigte Staaten
San Francisco, California, United States
PythonKubernetesRustGoTerraform
Automatische Übersetzung. Prüfe das Original.
ÜBER DIE ROLLE
Bei Together AI bauen und betreiben Sie eine der weltweit größten GPU-Flotten, die für das Training und die Inferenz von Frontier-Modellen eingesetzt wird. Dies ist keine klassische Infrastruktur-Rolle – wir suchen Ingenieure, die es lieben, Systeme zu entwickeln, alles zu automatisieren und Probleme in großem Maßstab zu lösen. Wenn Sie lieber Software schreiben, als auf Dashboards zu klicken, davon besessen sind, manuelle Arbeit zu eliminieren, und eine Infrastruktur aufbauen möchten, die zehntausende GPUs autonom verwaltet, würden wir uns freuen, von Ihnen zu hören.
AUFGABEN
- Konzeption und Aufbau von Flotten-Automatisierungssystemen, die GPU-Cluster mit minimalem menschlichem Eingreifen bereitstellen, validieren, bereitstellen, aktualisieren, reparieren und außer Betrieb nehmen.
- Entwicklung von AI Infrastructure Agents, die die Bereitstellung, die Ursachenanalyse bei Fehlern, die Vorfall-Triage und die autonome Fehlerbehebung automatisieren.
- Entwicklung von Fleet Intelligence-Plattformen, die kontinuierlich Hardware-Gesundheit, Firmware, Netzwerk, Speicher, thermische Werte und Workload-Performance überwachen, um Ausfälle vorherzusagen, bevor sie Kunden beeinträchtigen.
- Entwicklung von Software zur Maximierung der GPU-Verfügbarkeit, Auslastung, Leistung und Zuverlässigkeit über tausende Beschleuniger hinweg.
- Erstellung automatisierter Validierungssysteme für GPUs, InfiniBand/RoCE-Fabrics, NVLink/NVSwitch, Speicher und verteilte KI-Workloads.
- Aufbau interner Plattformen und Entwicklertools, die es ermöglichen, die Infrastruktur durch Software zu verwalten – statt durch manuelle Betriebsabläufe.
- Kontinuierliche Verbesserung der Bereitstellungsgeschwindigkeit, Zuverlässigkeit und betrieblichen Effizienz durch Automatisierung.
- Enge Zusammenarbeit mit Hardware-, Netzwerk-, Plattform- und KI-Teams, um die Grenzen der KI-Infrastruktur zu erweitern.
ANFORDERUNGEN
- 3+ Jahre Erfahrung im Aufbau verteilter Systeme, Infrastrukturplattformen oder großskaliger backend-Software.
- Fundierte Software-Engineering-Kenntnisse in Python, Go oder Rust.
- Erfahrung im Aufbau von Plattformen, Automatisierungssystemen oder Entwickler-Infrastruktur.
- Erfahrung mit Linux, Kubernetes, Terraform, Ansible oder vergleichbaren Infrastruktur-Technologien.
- Ausgeprägtes Systemverständnis mit der Fähigkeit, Probleme über Hardware- und Softwaregrenzen hinweg zu erfassen.
- Leidenschaft dafür, komplexe Infrastruktur-Herausforderungen durch Software zu lösen.
- Eine Automatisierungs-Mentalität – wenn eine Aufgabe wiederholt wird, ist Ihr Instinkt, ein System zu bauen, um sie zu eliminieren.
Zusätzliche Erfahrung
- GPU-Infrastruktur, CUDA, NCCL, NVLink/NVSwitch
- InfiniBand oder RoCE-Netzwerke
- Bare-Metal-Bereitstellung und Lifecycle-Management
- Großskalige KI-Trainings- oder Inferenz-Cluster
- Überwachung der Hardware-Gesundheit und prädiktive Fehlererkennung
- Verteilte Speichersysteme
- KI-Agenten und autonome Infrastruktur-Operationen
ÜBER TOGETHER AI
Together AI, die AI Native Cloud, wurde speziell für KI-Ingenieure entwickelt. KI-Anwendungsentwickler erhalten eine leistungsstarke Inferenz, die zuverlässig skaliert, Fine-Tuning und Reinforcement Learning zur Erstellung spezialisierter Frontier-Modelle sowie Pre-Training in massivem Maßstab für vollständig maßgeschneiderte Intelligenz – alles rund um einen Marktplatz führender Open-Source-Modelle, die Teams ausführen, anpassen und besitzen können.
Unternehmen wie Cursor, Decagon, ElevenLabs, Salesforce und Zoom vertrauen auf uns; Together verarbeitet monatlich 400+ Billionen Tokens.
VERGÜTUNG
Wir bieten eine wettbewerbsfähige Vergütung, Startup-Anteile, Krankenversicherung und weitere attraktive Leistungen. Die US-Basisgehaltsspanne für diese Vollzeitstelle beträgt:
$190,000 - $270,000 + Anteile + Leistungen.
Unsere Gehaltsspannen werden basierend auf Standort, Level und Rolle festgelegt. Die individuelle Vergütung richtet sich nach Erfahrung, Fähigkeiten und berufsbezogenem Wissen.
CHANCENGLEICHHEIT
Together AI ist ein Arbeitgeber, der Chancengleichheit fördert, und ist stolz darauf, allen Menschen gleiche Beschäftigungsmöglichkeiten zu bieten, unabhängig von Rasse, Hautfarbe, Abstammung, Religion, Geschlecht, nationaler Herkunft, sexueller Orientierung, Alter, Staatsbürgerschaft, Familienstand, Behinderung, Geschlechtsidentität, Veteranenstatus und mehr.
Bitte lesen Sie unsere Datenschutzrichtlinie unter together.ai/privacy.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen