Estados Unidos
SanMar- External
Venice.ai
Líder de Engenharia, Otimização de Inferência
Estados Unidos
Sheridan, Wyoming, United States
PythonC++RustGo
Tradução automática. Consulte o original.
Sobre nós
A Venice é a empresa líder mundial em IA para o consumidor, construída sobre princípios de privacidade, liberdade de expressão e soberania do usuário.
Estamos construindo a Cidade Portuária da IA, onde milhões de indivíduos, aplicativos de terceiros e agentes de IA se reúnem, interagem e acessam recursos sofisticados de IA em uma base privada e permissiva. Nossa missão é tornar a inteligência artificial acessível e útil no trabalho diário, preenchendo a lacuna entre a pesquisa de ponta e o impacto prático no mundo real.
Somos uma startup ágil onde espera-se que cada membro da equipe cause um impacto claro. Nossa cultura está enraizada na curiosidade, senso de dono, princípios éticos, filosofia e colaboração — seja projetando melhores fluxos de trabalho de IA, apoiando nossa comunidade em crescimento ou moldando o futuro da interação humano-IA.
Juntar-se à Venice AI significa integrar uma equipe de construtores pouco ortodoxos que acreditam em agir rapidamente, entregar um produto de consumo bonito, de mercado de massa e altamente útil que não espiona as pessoas nem censura suas ideias e perguntas, e manter uma vantagem no mundo em rápida evolução da inteligência de máquina agentica. Se você se sente energizado por grandes ideias, espírito empreendedor, empoderamento individual e a oportunidade de ajudar a moldar uma empresa em rápido crescimento na indústria mais quente do mundo desde o início, entre em contato. Você se sentirá em casa aqui.
Por que estamos contratando
A Venice é a única plataforma de IA que executa inferência com retenção zero de dados e zero treinamento em entradas do usuário. Esta é uma oportunidade para você estar na vanguarda da IA focada em privacidade com uma equipe única e dedicada de indivíduos de alta agência ao seu lado. Esta função exige tanto trabalho prático como contribuidor individual quanto a gestão de uma pequena equipe. Você desempenhará um papel fundamental, moldando a estratégia técnica geral da Venice e montando uma equipe excepcional para entregar desempenho máximo de inferência em escala massiva.
O que você fará
- Ser responsável pela estratégia técnica da Venice para desempenho de inferência
- Recrutar e liderar a Equipe de Otimização de Inferência na Venice
- Otimizar a infraestrutura de GPU da Venice em uma variedade de arquiteturas (por exemplo, H200s, B300s)
- Melhorar a latência, o throughput e o custo por token para cargas de trabalho de inferência de LLM
- Construir estruturas de benchmarking reproduzíveis em mecanismos de inferência (por exemplo, vLLM, SGLang) para identificar o mecanismo ideal, esquema de quantização e estratégia de paralelismo por carga de trabalho e SKU de GPU
- Trabalhar com nosso sistema de roteamento de inferência para otimizar algoritmos de balanceamento de carga de inferência multivariada
- Avaliar técnicas emergentes de otimização de inferência (kernels personalizados de CUDA/Triton), novas variantes de atenção, novos esquemas de quantização e melhorias na pilha de compilação. Experiência prática em desenvolvimento de kernel é um grande diferencial.
- Avaliar hardware de inferência emergente (FPGAs, ASICs, silício personalizado) quanto à viabilidade na pilha da Venice.
Quem é você
- 8+ anos em otimização de desempenho ou HPC, com profundo conhecimento em arquitetura de GPU e programação paralela
- 5+ anos de experiência liderando equipes de engenharia
- Proficiência em Python, Rust ou Go.
- Experiência prática com pelo menos um mecanismo de inferência de LLM em produção (por exemplo, vLLM, SGLang) rodando em alto volume
- Experiência demonstrada com técnicas de otimização de inferência de LLM: continuous batching, PagedAttention/gerenciamento de cache KV, decodificação especulativa, quantização, grafos de CUDA e torch.compile
- Fluência com trade-offs de quantização, tanto qualitativos quanto quantitativos
- Experiência com estratégias de inferência distribuída (paralelismo de tensores, paralelismo de pipeline, paralelismo MoE) em ambientes multi-GPU e multi-nó
- Fluência com profiling de GPU (Nsight Systems, Nsight Compute, Profiler do PyTorch) e uma tendência a medir antes de otimizar
- Bônus: C++/CUDA
- Bônus: otimização de inferência de modelos de difusão/imagem, kernels Triton personalizados, contribuições para frameworks de inferência de código aberto
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil