Staff AI Inference and Acceleration Engineer

Estados Unidos

San Jose, California, United States

PythonC++

Traducción automática. Consulta el original.

Sobre la oportunidad

Figure es una empresa de robótica de IA que desarrolla robots humanoides autónomos de propósito general. El objetivo de la empresa es comercializar robots humanoides con inteligencia de nivel humano. Sus robots están diseñados para realizar una variedad de tareas en el hogar y en mercados comerciales. Figure tiene su sede en San Jose, CA.

Buscamos un Staff AI Inference & Acceleration Engineer para unirse al equipo de Platform Software y liderar la arquitectura de inferencia integrada para los robots humanoides de Figure. Serás la autoridad técnica sobre cómo se asignan, optimizan y ejecutan las cargas de trabajo de IA en el hardware de computación del robot, reduciendo el consumo de energía y los costes, al tiempo que cumples con las estrictas demandas de latencia y fiabilidad de un sistema autónomo en tiempo real.

Responsabilidades

Liderar la arquitectura de inferencia integrada: asignar modelos a los aceleradores disponibles (NPU, GPU, DSP, CPU) en función de la latencia, la energía y los presupuestos de memoria.

Particionar las cargas de trabajo de inferencia entre recursos de computación heterogéneos, equilibrando el rendimiento en tiempo real con las restricciones térmicas y de energía.

Definir y mantener un presupuesto de computación a nivel de sistema para todas las tareas de inferencia que se ejecutan en el robot.

Evaluar hardware de aceleración de próxima generación y contribuir a la definición de los requisitos de futuras plataformas de computación.

Optimizar las cadenas de herramientas de inferencia de principio a fin, desde la exportación del modelo hasta la ejecución en tiempo de ejecución, para el hardware de destino.

Aplicar cuantización (INT8, INT4, precisión mixta), poda, fusión de operadores y otras técnicas de compresión para reducir la huella de computación, memoria y energía.

Perfilar los pipelines de inferencia para identificar y eliminar cuellos de botella en la latencia, el ancho de banda de memoria y el consumo de energía.

Optimizar la programación del kernel, la disposición de la memoria y el movimiento de datos a través de la jerarquía de computación.

Colaborar estrechamente con el equipo de AI/ML para definir restricciones de arquitectura de modelos que sean compatibles con el hardware desde el principio.

Trabajar con el equipo de Platform Software en la integración en tiempo de ejecución, la programación y la gestión de energía.

Colaborar con proveedores de silicio y equipos de investigación para realizar un seguimiento del panorama de los aceleradores e influir en las hojas de ruta del hardware.

Requisitos

Máster o Doctorado en Ingeniería Informática, Ingeniería Eléctrica, Ciencias de la Computación o un campo relacionado, o experiencia equivalente en la industria.

Al menos 8 años de experiencia en la industria en aceleración de hardware, sistemas de ML o arquitectura de computación.

Conocimiento profundo de la inferencia de AI/ML: formatos de modelo (ONNX, TFLite, etc.), tiempos de ejecución de inferencia y pipelines de despliegue.

Experiencia práctica en la optimización de modelos para hardware de borde o integrado utilizando cuantización, poda y ajuste a nivel de operador.

Sólida comprensión de la arquitectura de computadores: jerarquías de memoria, movimiento de datos y computación heterogénea.

Experiencia en la creación de perfiles y evaluación comparativa de cargas de trabajo de inferencia en CPU, GPU, NPU y DSP.

Familiaridad con cadenas de herramientas de bajo nivel y marcos de compilación (por ejemplo, TVM, MLIR, TensorRT, Torch, SNPE/QNN, JAX, CUDA, ROCm).

Sólidas habilidades de ingeniería de software en C++ y Python.

Fuertes habilidades de comunicación interfuncional: capacidad para trabajar eficazmente entre equipos de hardware, software y AI/ML.

Cualificaciones adicionales

Conocimiento de las restricciones operativas en tiempo real y su impacto en la programación de la inferencia.

Historial de co-diseño de arquitecturas de modelos con equipos de ML para cumplir con las restricciones de hardware.

El rango salarial base en EE. UU. para este puesto a tiempo completo es de $180,000 a $275,000 anuales.

La remuneración ofrecida para este puesto puede variar en función de varios factores individuales, incluidos los conocimientos, las habilidades y la experiencia relacionados con el trabajo. El paquete de compensación total también puede incluir componentes/beneficios adicionales según el rol específico. Esta información se compartirá si se presenta una oferta de empleo.

Idiomas

Staff AI Inference and Acceleration Engineer

Sobre la oportunidad

Responsabilidades

Requisitos

Cualificaciones adicionales

Tu próximo empleoya está buscándote.

Más oportunidades con un solo perfil

Sigue explorando

Administrador de Service Desk

Consultor Técnico de Servicios Gestionados de RR. HH. en ServiceNow

Técnico de Service Desk