Senior Site Reliability Engineer — Token Factory (Inference Platform)

Token Factory ist Teil von Nebius Cloud, einer der weltweit größten GPU-Clouds, die Zehntausende von GPUs betreibt. Wir bauen eine Inferenzplattform, die jede Art von Foundation-Modell – Text, Vision, Audio und aufkommende multimodale Architekturen – schnell, zuverlässig und mühelos in massivem Maßstab bereitstellt. Um dieses Versprechen zu erfüllen, brauchen wir einen Ingenieur, der die Plattform unter extremen Lasten fehlerfrei funktionieren lässt und sich nach unerwarteten Ereignissen anmutig erholt.

Wenn die Idee, die Infrastruktur zu sichern, die die multimodale KI von morgen antreibt, Sie begeistert, würden wir uns freuen, Ihre Geschichte zu hören.

Schnelllebig – Kühnes Denken – Ständiges Wachstum – Bedeutsame Wirkung – Vertrauen und echte Eigenverantwortung – Möglichkeit, die Zukunft der KI zu gestalten

In dieser Rolle sind Sie für die Zuverlässigkeit, Leistung und Beobachtbarkeit des gesamten Inferenz-Stacks verantwortlich.

Ihr Tag beginnt mit dem Entwurf und der Verfeinerung von Telemetrie- Pipelines – Metriken, Protokolle und Traces, die Hunderte von Terabyte an Signalen in klare, umsetzbare Erkenntnisse verwandeln. Von dort aus optimieren Sie vielleicht Kubernetes Autoscaler, um mehr Effizienz aus GPUs herauszuholen, entwerfen Sie Terraform Module, die Ausfallsicherheit in jeden neuen Cluster einbacken, oder härten Sie unsere Anfrage-Routing- und Wiederholungslogik, damit selbst vorübergehende Fehler von den Benutzern unbemerkt bleiben. Wenn Vorfälle auftreten, werden Sie sich auf die Automatisierung und Runbooks verlassen, die Sie erstellt haben, um Probleme in Minuten zu erkennen, zu isolieren und zu beheben, und dann die Post-Mortem-Kultur vorantreiben, die eine Wiederholung verhindert. All diese Bemühungen zielen auf ein einziges Ziel ab: die reibungslose Skalierung der Plattform bei gleichzeitiger Einhaltung aggressiver Kosten- und Zuverlässigkeitsziele.

Erfolg in dieser Rolle erfordert tiefgreifende Kenntnisse von Kubernetes, Prometheus, Grafana, Terraform und dem Handwerk der Infrastruktur als Code. Sie skripten komfortabel in Python oder Bash, verstehen die Nuancen von Alert-Design und SLOs für hochentwickelte APIs, und haben genug Zeit in der Produktion verbracht, um zu wissen, wie verteilte back-end s in der realen Welt ausfallen. Erfahrung mit GPU-intensiven Workloads – sei es mit vLLM, Triton, Ray oder einem anderen Beschleuniger-Stack – wird Ihnen ebenso dienen wie ein Hintergrund in MLOps oder Modell-Hosting-Plattformen. Vor allem anderen liegt Ihnen daran, selbstheilende Systeme zu bauen, Sie lieben es, Leistung vom Kernel bis zur Anwendungsschicht zu debuggen, und Sie arbeiten gerne mit Softwareentwicklern zusammen, um Zuverlässigkeit zu einer Funktion zu machen, über die Benutzer nie nachdenken müssen.

Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen als Bedingung für die Einstellung einen Nachweis über die Beschäftigungsberechtigung erbringen.

• Wettbewerbsfähige Vergütung *

• Karrierewachstum und Lernmöglichkeiten *

• Flexibilität und Eigenverantwortung *

• Kollaborative und innovative Kultur *

• Möglichkeit, an wirkungsvollen KI-Projekten zu arbeiten *

• Internationales Umfeld und talentierte Teams

Nebius ist ein Arbeitgeber, der Chancengleichheit fördert. Wir setzen uns für die Schaffung eines integrativen und vielfältigen Arbeitsplatzes ein und bieten gleiche Beschäftigungsmöglichkeiten in allen Aspekten der Beschäftigung. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen gesetzlich geschützten Eigenschaft.

Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.