Estados Unidos
B&A
SambaNova
Engenheiro Sênior de Infraestrutura de ML
Estados Unidos
San Jose, California, United States · Austin, Texas, United States
Python
Tradução automática. Consulte o original.
Sobre a oportunidade
A SambaNova é líder em infraestrutura de IA de próxima geração, oferecendo uma plataforma de inferência full-stack para clientes em todo o mundo. No centro da tecnologia da SambaNova está a RDU (Reconfigurable Dataflow Unit) — um chip construído com base em uma arquitetura de fluxo de dados em vez do modelo tradicional de GPU. Seu desempenho de decodificação é especialmente forte para cargas de trabalho agentic, como agentes de múltiplos turnos, geração de código e aplicações de longa duração. As RDUs são integradas ao SambaRack, um hardware em escala de rack que permite aos clientes implantar modelos de última geração com melhor desempenho, maior eficiência energética e tempo de valorização mais rápido.
Sobre a equipe
A equipe de Infraestrutura de ML constrói e opera a pilha de inferência que executa os modelos da SambaNova em aceleradores RDU, desde o agendamento de solicitações e cache até as APIs públicas no SambaStack e SambaCloud. Levamos técnicas de inferência como decodificação especulativa, decodificação restrita e serviço de contexto longo do protótipo à produção, e somos responsáveis pela infraestrutura de precisão que valida cada funcionalidade que lançamos. Trabalhamos em conjunto com as equipes de ML, compiladores, runtime e produto, já que a maior parte do que construímos toca todas as quatro áreas.
Sobre a função
O Engenheiro de Software Sênior, Infraestrutura de ML, será responsável por projetar, construir e operar a infraestrutura de inferência de nível de produção que impulsiona a pilha de serviço da SambaNova em nossa arquitetura de Unidade de Fluxo de Dados Reconfigurável (RDU). A SambaNova é uma empresa focada em inferência, e esta função está no centro dessa missão: transformar técnicas de inferência de última geração em serviços confiáveis, de alto rendimento e baixa latência, expostos aos clientes por meio do SambaStack e SambaCloud. O engenheiro será responsável por sistemas de ponta a ponta, abrangendo agendamento de solicitações, algoritmos avançados de decodificação, camadas de cache, superfícies de API e a infraestrutura de precisão que mantém a pilha confiável. Esta função trabalha em estreita colaboração com as equipes de ML, compiladores, runtime e produto para levar funcionalidades de inferência do protótipo à produção.
Responsabilidades
- Projetar e colocar em produção técnicas avançadas de inferência na RDU para otimizar desempenho e custo. As áreas principais incluem decodificação especulativa, decodificação restrita, chamada de função/ferramenta, cache de prompt e inferência de contexto longo.
- Ser responsável pela integração da SambaNova com vLLM e frameworks de serviço adjacentes, adaptando-os à arquitetura da RDU.
- Ser responsável pela superfície de API de inferência pública exposta por meio do SambaStack e SambaCloud.
- Construir e manter a infraestrutura de verificação de precisão e regressão que valida cada funcionalidade de inferência enviada aos clientes.
- Colaborar com as equipes de ML, compiladores, runtime e produto para levar funcionalidades de inferência do protótipo à produção.
- Contribuir para discussões de design técnico, revisões de código e decisões arquiteturais como um colaborador individual sênior.
Qualificações Necessárias
- Bacharelado em Ciência da Computação, Engenharia Elétrica ou área relacionada
- 5+ anos de experiência na indústria construindo e operando sistemas distribuídos de grande escala, idealmente em serviço de ML
- Fundamentos sólidos de engenharia de software: algoritmos, estruturas de dados, concorrência e design de sistemas
- Experiência em projetar e manter serviços de produção com requisitos rigorosos de latência, rendimento e disponibilidade
- Conhecimento prático de técnicas modernas de inferência de LLM e familiaridade com pilhas de serviço de código aberto, como vLLM, TensorRT-LLM ou SGLang
- Proficiência em Python
- Experiência em colaborar entre equipes para entregar soluções de engenharia complexas em nível de sistema
Faixa Salarial Base
Faixa de Pagamento Base $200,000—$275,000 USD
Diretrizes de Inscrição
Observe que, para ser considerado um candidato a qualquer posição na SambaNova Systems, você deve enviar um formulário de inscrição para cada posição para a qual acredita estar qualificado.
Política de EEO
A SambaNova Systems é um Empregador de Igualdade de Oportunidades/Ação Afirmativa. Todos os candidatos qualificados receberão consideração para emprego sem levar em conta idade (40 anos ou mais), cor, deficiência, identidade de gênero, informações genéticas, estado civil, status militar ou de veterano, origem nacional/ancestralidade, raça, religião, credo, sexo (incluindo gravidez, parto, amamentação), orientação sexual e qualquer outro status aplicável protegido por leis federais, estaduais ou locais.
Resumo de Benefícios para Posições de Emprego em Tempo Integral nos EUA
A SambaNova oferece um pacote de recompensas totais competitivo, incluindo o salário base, além de ações e benefícios. Cobrimos 95% da cobertura premium para seguro médico do funcionário e 77% da cobertura premium para dependentes, e oferecemos uma Conta Poupança de Saúde (HSA) com contribuição do empregador. Também oferecemos planos de seguro Odontológico, Oftalmológico, de Incapacidade de Curto/Longo Prazo, Vida Básica, Vida Voluntária e AD&D, além de opções de Conta de Gastos Flexíveis (FSA), como Saúde, Propósito Limitado e Cuidado de Dependentes. Nossa biblioteca de benefícios de bem-estar disponível para você e seus dependentes inclui uma assinatura completa do Headspace, associação ao Gympass+ com acesso a academias físicas, associação ao One Medical, serviços de aconselhamento com um Programa de Assistência ao Funcionário e muito mais.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil