Estados Unidos
The MITRE Corporation
True Talent Solutions Partners
Miembro del Personal Técnico
Estados Unidos
San Francisco, California, United States
Python
Traducción automática. Consulta el original.
Sobre el puesto
Únete a un pequeño equipo que construye infraestructura de IA que mejora el rendimiento y la eficiencia de la inferencia de modelos de código abierto. Trabajarás en modelos, sistemas de servicio, kernels e infraestructura de producción para ayudar a ofrecer una inferencia fiable y rentable en diversos hardwares.
Qué harás
- Proporcionar soporte de día cero para nuevos modelos de código abierto, ajustándolos para latencia y rendimiento.
- Optimizar los sistemas de servicio mediante técnicas como batching, KV caching, decodificación especulativa y cuantización.
- Escribir y ajustar kernels utilizando CUDA, HIP y Triton en una gama de plataformas aceleradoras.
- Diseñar, desplegar y operar clústeres heterogéneos entre proveedores de infraestructura.
- Ejecutar inferencia en producción en flotas de hardware mixtas, mejorando la fiabilidad, la observabilidad y el coste por token.
- Trabajar con clientes y el equipo de ingeniería para identificar problemas y guiar soluciones.
Qué buscamos
- De uno a seis años de experiencia, con sólidos conocimientos en sistemas, backend, infraestructura o ingeniería de bajo nivel.
- Sólida comprensión de la arquitectura de computadoras, jerarquías de memoria e internos del sistema operativo.
- Experiencia en la gestión de sistemas complejos de principio a fin, logros técnicos notables o un historial de rápida progresión.
- Sólidos fundamentos de informática a nivel de grado y experiencia en una organización tecnológica de alto nivel o una startup en fase inicial.
- Disponibilidad para empezar inmediatamente y trabajar presencialmente en San Francisco.
- Familiaridad con CUDA, HIP, Triton, Python, o programación de GPU; la experiencia en optimización de inferencia e infraestructura a gran escala es valiosa.
- Experiencia en el uso de agentes de IA y herramientas de codificación para mejorar los flujos de trabajo de ingeniería, y comodidad en la comunicación con los clientes.
Compensación y Beneficios
El salario base es de $200,000 a $300,000 USD anuales. Se ofrece patrocinio de visado.
Ubicación
Presencial en San Francisco, California, Estados Unidos.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil