Software Development Manager, SageMaker Training

Vous souhaitez construire les systèmes distribués qui permettent aux clients de personnaliser les modèles fondamentaux à grande échelle ? L'équipe SageMaker Training and Model Customization développe les services que les clients utilisent pour affiner et post-entraîner les modèles en fonction de leurs propres objectifs de précision, de fiabilité et de coût. Nous recherchons un Software Development Manager pour diriger l'équipe qui gère ces capacités.

La personnalisation des modèles est la couche la plus dynamique de la pile de machine learning. Le post-entraînement est passé du réglage fin supervisé à l'apprentissage par renforcement basé sur des récompenses vérifiables, et des tâches à tour unique à l'entraînement d'agents où un modèle apprend en agissant dans un environnement sur de longues trajectoires. Chaque changement modifie la forme de la charge de travail. L'apprentissage par renforcement place un moteur d'inférence dans la boucle d'entraînement. L'entraînement d'agents ajoute des environnements et des appels d'outils, et déplace le goulot d'étranglement d'une exécution à l'autre. Votre équipe transforme chaque nouvelle technique en une capacité que les clients peuvent utiliser, sans reconstruire la plateforme à chaque évolution de la recherche.

Sous-jacentes aux techniques, cela reste un problème difficile de systèmes distribués. Les tâches d'entraînement s'exécutent sur de grandes flottes d'accélérateurs pendant des jours, et la défaillance d'un seul nœud peut bloquer la tâche. L'équipe travaille avec PyTorch et sur des frameworks tels que Verl, FSDP, Megatron et vLLM, et contribue en amont aux projets open source dont la plateforme dépend.

En tant que manager, vous êtes responsable de l'équipe et de sa mission. Vous recruterez et développerez des ingénieurs, définirez la direction technique avec vos ingénieurs seniors et vos chefs de produit, et déciderez de ce que l'équipe construit et ne construit pas. Vous êtes responsable de la feuille de route et défendrez ses compromis auprès de la direction. Vous êtes responsable du service en production, y compris de la disponibilité sur appel, des métriques opérationnelles et des requêtes qui accompagnent le fait de se trouver sur le chemin critique des charges de travail d'entraînement des clients.

Votre matinée commence par une revue de conception. L'équipe travaille sur la manière de maintenir un moteur d'inférence et un moteur d'entraînement dans la même boucle pour l'apprentissage par renforcement sans laisser les accélérateurs inactifs, et la réponse façonnera l'avenir de la plateforme. Vous plongez dans les scénarios possibles, car à cette échelle, un nœud tombe régulièrement en panne et la récupération doit être normale plutôt qu'exceptionnelle.

Ensuite, un appel de mission. Une nouvelle technique de post-entraînement est à trois mois de la littérature de recherche et deux clients la demandent déjà. Avec vos ingénieurs seniors et votre chef de produit, vous décidez si elle devient une capacité de première classe, une recette basée sur ce que vous avez déjà, ou un non. Cette décision vous appartient, et l'industrie n'attend pas.

Vous passez une heure en discussions 1:1, y compris une conversation de carrière avec un ingénieur qui souhaite gérer le travail de parallélisme. Après le déjeuner, vous participez à un débriefing de recrutement et prenez votre décision. Plus tard, vous rencontrez les scientifiques appliqués pour comprendre ce qu'ils ont validé, et vous discutez du séquençage.

Vous terminez la journée en rédigeant une page pour la direction : ce que vous ne construisez pas ce semestre, et pourquoi c'est le bon compromis.

À propos de l'équipe

Nous construisons les services gérés que les clients utilisent pour personnaliser les modèles fondamentaux. Un client apporte une tâche, un ensemble de données et une manière de noter une bonne réponse. Nos services exécutent la boucle de post-entraînement en leur nom. Nous gérons l'ensemble de ce chemin, depuis l'API orienté client jusqu'à l'infrastructure de session d'entraînement et la flotte d'accélérateurs sur laquelle elle s'exécute.

Cela fait de cette mission une mission fondamentale. La personnalisation des modèles est la façon dont un client transforme un modèle général en un modèle qui lui appartient, et chaque expérience de personnalisation sur SageMaker est construite sur ce que nous livrons. Lorsque nous ajoutons une technique, elle devient disponible pour chaque client sur la plateforme. Lorsque nous accélérons la boucle d'entraînement, le travail de chaque client coûte moins cher.

Amazon est un employeur garantissant l'égalité des chances et ne fait aucune discrimination fondée sur le statut de vétéran protégé, le handicap ou tout autre statut légalement protégé.

Candidats du comté de Los Angeles : Les fonctions de ce poste comprennent : travailler en toute sécurité et en coopération avec les autres employés, superviseurs et le personnel ; adhérer aux normes d'excellence malgré des conditions stressantes ; communiquer efficacement et respectueusement avec les employés, les superviseurs et le personnel pour assurer un service client exceptionnel ; et respecter toutes les lois fédérales, étatiques et locales ainsi que les politiques de l'entreprise. Les antécédents criminels peuvent avoir une relation directe, négative et défavorable avec certaines des fonctions professionnelles matérielles de ce poste. Cela inclut les fonctions et responsabilités énumérées ci-dessus, ainsi que la capacité d'adhérer aux politiques de l'entreprise, d'exercer un jugement sain, de gérer efficacement le stress et de travailler en toute sécurité et respectueusement avec les autres, de faire preuve de fiabilité et de professionnalisme, et de protéger les opérations commerciales et la réputation de l'entreprise. Conformément à l'ordonnance du comté de Los Angeles sur la transparence (Fair Chance Ordinance), nous examinerons pour l'emploi les candidats qualifiés ayant des antécédents d'arrestation et de condamnation.

Notre culture inclusive permet aux Amazoniens d'obtenir les meilleurs résultats pour nos clients. Si vous avez un handicap et avez besoin d'un aménagement ou d'un ajustement sur le lieu de travail pendant le processus de candidature et d'embauche, y compris un soutien pour le processus d'entretien ou d'intégration, veuillez visiter amazon.jobs/content/en/how-we-hire/accommodations pour plus d'informations. Si le pays/la région dans lequel vous postulez n'est pas répertorié, veuillez contacter votre partenaire de recrutement.

USA, CA, Santa Clara - 212,700.00 - 287,700.00 USD annuellement

La fourchette de salaire de base pour ce poste est indiquée ci-dessous. Votre package Amazon comprendra des primes de signature et des unités d'actions restreintes (RSU). La rémunération finale sera déterminée en fonction de facteurs tels que l'expérience, les qualifications et la localisation. Amazon propose également des avantages complets, notamment une assurance maladie (médicale, dentaire, vision, médicaments sur ordonnance, assurance vie de base et assurance décès/invalidité et option pour des plans de vie supplémentaires, programme d'aide aux employés, soutien en santé mentale, ligne de conseil médical, comptes de dépenses discrétionnaires, couverture de remboursement pour l'adoption et la maternité de substitution), une mise en correspondance 401(k), des congés payés et des congés parentaux. Apprenez-en davantage sur nos avantages sur amazon.jobs/en/benefits.