États-Unis
Temple Health
JPMorgan Chase & Co.
Ingénieur logiciel principal SR - Ingénierie LLM
États-Unis
Palo Alto, California, United States
PythonJavaAWSGCPDockerKubernetesTerraform
Traduction automatique. Consultez l’original.
À propos du poste
Nous recherchons un leader technique prêt à faire progresser sa carrière. Rejoignez les meilleurs talents dans l'une des entreprises les plus influentes au monde.
En tant qu'Ingénieur logiciel principal chez JPMorganChase, au sein de l'équipe de prévention de la fraude Trust & Safety de la Commercial & Investment Bank, vous apportez une expertise technique approfondie et travaillez avec des équipes agiles pour améliorer, construire et livrer des produits technologiques de pointe fiables de manière sécurisée, stable et évolutive. Mettez à profit votre expertise approfondie pour remettre en question le statu quo, innover pour un impact commercial, diriger le développement stratégique des produits et portefeuilles technologiques nouveaux et existants, et rester à la pointe des tendances de l'industrie, des meilleures pratiques et des avancées technologiques.
Responsabilités du poste
- Conseille et dirige la stratégie, l'architecture et le développement de solutions de service de modèles pour différentes architectures de modèles (y compris les LLMs et les GNN) dans des environnements cloud et sur site, en alignant les initiatives sur les résultats commerciaux.
- Définit et met en œuvre des stratégies MLOps et LLMOps pour la gestion du cycle de vie complet des modèles, y compris la formation, le versionnement, le déploiement, la surveillance et la gouvernance.
- Pilote l'optimisation de l'inférence des modèles pour un débit élevé et une faible latence en utilisant la quantification, le parallélisme de modèles, le batching intelligent et l'accélération matérielle pour toutes les architectures de modèles.
- Définit la stratégie et les normes opérationnelles pour l'ingénierie basée sur l'IA agentique sur un portefeuille (en utilisant des outils autorisés par l'entreprise dans l'environnement de travail) afin de générer des améliorations mesurables de la vitesse de livraison, de la fiabilité et de la qualité du code (par exemple, automatisation du SDLC/TLM orchestrée par l'IA, validation des conditions de mise en production, accélération du triage des incidents/identification des causes profondes, et modernisation à grande échelle du refactoring/des tests), tout en définissant des garde-fous pour la validation, la sécurité, la résilience et la réutilisation entre les équipes et les fonctions.
- Applique les connaissances des outils de la chaîne d'outils du cycle de vie du développement logiciel, y compris les capacités de développement assisté par l'IA et d'automatisation autorisées par l'entreprise, pour améliorer la valeur réalisée par l'automatisation à grande échelle.
- Crée des frameworks logiciels et de plateforme durables et réutilisables pour standardiser les services d'ingénierie ML, permettant une mise à l'échelle entre les équipes et les fonctions.
- Établit les meilleures pratiques pour l'automatisation, la CI/CD et l'infrastructure en tant que code en utilisant des technologies de conteneurisation et d'orchestration.
- Collabore étroitement avec les équipes de science des données, d'ingénierie de plateforme et de SRE pour mettre en production des modèles sur AWS, en assurant l'observabilité, la fiabilité et l'efficacité des coûts.
- Dirige le déploiement et l'optimisation en utilisant des serveurs d'inférence de modèles tels que Triton Inference Server et vLLM pour un service à haut débit et faible latence à grande échelle.
- Supervise les opérations de production pour les charges de travail d'IA, y compris la surveillance, la réponse aux incidents, la sécurité et la conformité, avec une amélioration continue.
- Traduit des concepts techniques complexes et des tendances émergentes en stratégies actionnables, influençant les parties prenantes seniors et les partenaires interfonctionnels pour prioriser et livrer des capacités d'IA/ML qui génèrent un impact commercial mesurable tout en promouvant une culture de diversité, d'opportunité, d'inclusion et de respect.
Qualifications, capacités et compétences requises
- Formation formelle ou certification sur les concepts d'ingénierie logicielle et 10+ années d'expérience appliquée.
- 8+ années d'expérience en ingénierie IA/ML avec une expertise significative en LLMs, GNN et autres architectures de modèles (par exemple, GPT, Llama, Falcon, Mistral).
- Succès démontré dans l'architecture et le déploiement de solutions LLM et GNN sur AWS (par exemple, SageMaker, Bedrock, EKS) à l'échelle de l'entreprise ; expérience avec Azure ML ou GCP Vertex AI.
- Expérience dans la construction de plateformes de service LLM et GNN dans des environnements à grande échelle typiques des grandes entreprises technologiques.
- Expérience pratique dans la construction de moteurs d'inférence LLM utilisant Triton Inference Server et vLLM, y compris l'autoscaling, la mise en cache et l'optimisation du débit.
- Maîtrise avancée de la Python et des techniques d'optimisation appliquées aux frameworks de deep learning (PyTorch, TensorFlow, Hugging Face Transformers).
- Compréhension approfondie de LLMOps/MLOps (par exemple, MLflow, SageMaker Pipelines, Kubeflow) avec une expérience avérée dans la mise en œuvre des meilleures pratiques à grande échelle.
- Expérience démontrée dans la conception et la mise à l'échelle de modèles de développement basés sur l'IA agentique (en utilisant des outils autorisés par l'entreprise dans l'environnement de travail) entre les équipes/fonctions, y compris l'établissement de la gouvernance pour la validation humaine, la traçabilité/l'auditabilité, et la gestion sécurisée des entrées/sorties sensibles.
- Solide compréhension de l'utilisation responsable de l'IA et des attentes de contrôle à grande échelle, y compris les implications en matière de sécurité/résilience, la sensibilité des données et la gouvernance basée sur les risques ; capacité à conseiller les dirigeants seniors sur l'adoption sécurisée, la réutilisation et les résultats mesurables.
- Expertise en optimisation de l'inférence et en systèmes distribués pour les grands modèles axés sur les applications à haut débit et faible latence, y compris la conception de systèmes, les tests et la stabilité opérationnelle pour les plateformes d'IA d'entreprise.
- Excellentes compétences en communication avec une collaboration avérée avec les équipes de SRE pour mettre en œuvre l'observabilité, la réponse aux incidents et les SLI/SLO pour les services LLM, et la capacité d'influencer les parties prenantes techniques et non techniques pour fournir de la valeur à l'échelle interfonctionnelle.
Qualifications, capacités et compétences préférées
- Master ou Doctorat en informatique, ingénierie ou un domaine connexe (ou expérience équivalente).
- Expérience pratique en cloud natif, y compris la conteneurisation (Docker), l'orchestration (Kubernetes) et l'infrastructure en tant que code (Terraform, CloudFormation).
- Expertise en sécurité, conformité et gouvernance pour les déploiements IA/ML dans des environnements réglementés.
- Expérience dans les domaines de la confiance et de la sécurité ou de la prévention de la fraude ; une familiarité avec les plateformes de paiement est un plus.
- Expérience avérée dans les contributions à des projets open-source LLM ou à des recherches évaluées par des pairs et/ou expérience de présentation lors de conférences industrielles ou de direction de communautés techniques.
- Familiarité avec les stratégies d'accélération matérielle sur les GPU, TPU et les runtimes d'inférence spécialisés.
- Expérience dans la construction d'applications basées sur java.
Ce poste est soumis à la Section 19 de la loi sur la Federal Deposit Insurance. À ce titre, une offre d'emploi pour ce poste est conditionnée à l'examen par JPMorgan Chase des antécédents de condamnations pénales, y compris les détentions avant procès ou les programmes d'entrée.
Nous reconnaissons que nos collaborateurs sont notre force et que les talents divers qu'ils apportent à notre main-d'œuvre mondiale sont directement liés à notre succès. Nous sommes un employeur garantissant l'égalité des chances et accordons une grande importance à la diversité et à l'inclusion au sein de notre entreprise. Nous ne faisons aucune discrimination fondée sur un attribut protégé, y compris la race, la religion, la couleur, l'origine nationale, le sexe, l'orientation sexuelle, l'identité de genre, l'expression de genre, l'âge, le statut matrimonial ou de vétéran, la grossesse ou le handicap, ou toute autre base protégée par la loi applicable. Nous faisons également des aménagements raisonnables pour les pratiques et croyances religieuses des candidats et des employés, ainsi que pour les besoins en matière de santé mentale ou de handicap physique. Visitez notre FAQ pour plus d'informations sur la demande d'un aménagement.
JPMorgan Chase & Co. est un employeur garantissant l'égalité des chances, y compris pour les personnes handicapées/les vétérans
JPMorganChase, l'une des plus anciennes institutions financières, offre des solutions financières innovantes à des millions de consommateurs, de petites entreprises et à bon nombre des clients d'entreprises, institutionnels et gouvernementaux les plus prestigieux au monde sous les marques J.P. Morgan et Chase. Notre histoire s'étend sur plus de 200 ans et aujourd'hui, nous sommes un leader dans la banque d'investissement, la banque de détail et pour les petites entreprises, la banque commerciale, le traitement des transactions financières et la gestion d'actifs.
La banque commerciale et d'investissement de J.P. Morgan est un leader mondial dans les domaines de la banque, des marchés, des services de titres et des paiements. Des entreprises, des gouvernements et des institutions du monde entier nous confient leurs activités dans plus de 100 pays. La banque commerciale et d'investissement fournit des conseils stratégiques, lève des capitaux, gère les risques et étend la liquidité sur les marchés du monde entier.
Nous offrons un ensemble concurrentiel de récompenses totales comprenant un salaire de base déterminé en fonction du rôle, de l'expérience, des compétences et de la localisation. Les personnes occupant des postes éligibles peuvent recevoir une rémunération basée sur des commissions et/ou une rémunération discrétionnaire incitative, versée sous forme de trésorerie et/ou d'actions cessibles, attribuée en reconnaissance des réalisations et contributions individuelles. Nous offrons également une gamme d'avantages et de programmes pour répondre aux besoins des employés, en fonction de leur éligibilité. Ces avantages comprennent une couverture santé complète, des centres de santé et de bien-être sur site, un plan d'épargne retraite, une garde d'enfants de secours, un remboursement des frais de scolarité, un soutien en santé mentale, des conseils financiers et plus encore. Des détails supplémentaires sur la rémunération totale et les avantages seront fournis pendant le processus d'embauche.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil