The MITRE Corporation
Apple
Investigador Senior de ML: Post-entrenamiento de LLM Multimodal
DESCRIPCIÓN
Buscamos un Investigador Senior de ML apasionado por el post-entrenamiento de modelos fundacionales, incluyendo el Fine-Tuning Supervisado (SFT) y el Aprendizaje por Refuerzo (RL), y con experiencia en capacidades centrales como el seguimiento de instrucciones, el uso de herramientas, el pensamiento profundo y el razonamiento. En este rol, investigarás, diseñarás y entregarás modelos donde la investigación de machine learning se une al impacto del producto en el mundo real. Trabajarás en estrecha colaboración con científicos de investigación, ingenieros y equipos de producto para encontrar nuevas formas en que la IA generativa pueda ayudar a nuestros usuarios creativos. Tu misión es mejorar los flujos de trabajo de millones de creadores combinando IA generativa con los principios de diseño centrado en el ser humano de Apple.
Lo que hace único nuestro trabajo es que tenemos muchas oportunidades de investigación en casos de uso del mundo real en el espacio multimodal. Nuestro objetivo es desarrollar capacidades específicas y dirigidas dentro de nuestros modelos en una amplia gama de áreas, incluyendo la comprensión de video, el razonamiento, el seguimiento de instrucciones y las tareas agénticas.
Si te apasiona hacer investigación que se publique en los legendarios productos de Apple, este es el equipo para ti.
El rol implica contribuir a cada etapa del proceso de post-entrenamiento:
- Formular hipótesis para un caso de uso
- Definir la recopilación y anotación de datos
- Construir evaluaciones de las capacidades del modelo
- Aplicar SFT, modelado de recompensas avanzado, técnicas de RL y destilación para desarrollar y mejorar la receta de post-entrenamiento
- Ejecutar experimentos, validar resultados y comunicar hallazgos al equipo en general
CALIFICACIONES MÍNIMAS
- Máster en Ciencias de la Computación, Machine Learning o un campo relacionado, o experiencia práctica equivalente
- Mínimo 4+ años de experiencia en investigación en entrenamiento y evaluación de LLM Multimodal
- Trayectoria demostrada en SFT multimodal más al menos una de las siguientes: destilación, optimización de preferencias o RL en línea, respaldada por modelos publicados o experimentos rigurosos
- Sólidas habilidades de programación en Python y al menos un framework de deep learning, como JAX o PyTorch.
- Capacidad para desarrollar intuición a partir de una declaración de problema y traducirla en requisitos de conjunto de datos, diseño de redes neuronales y funciones de pérdida.
CALIFICACIONES PREFERIDAS
- Doctorado en Ciencias de la Computación, Machine Learning o un campo relacionado, o experiencia práctica equivalente
- Experiencia en GRPO, DPO, Vision-OPD y compresión de tokens visuales
- Publicaciones en conferencias de ML de primer nivel (por ejemplo, NeurIPS, ICML, ICLR, CVPR, ICCV, ECCV)
- Extra: Experiencia en cuantización, modelos en dispositivo y SLM (Modelo de Lenguaje Pequeño)
