Brésil
Pentera
Workana
Ingénieur Application IA (Temps Partiel)
À distanceBrésil
Brazil
AWSGCPDockerKubernetes
Traduction automatique. Consultez l’original.
À propos du poste
Client : medxprts.ai
Lieu : Télétravail
Type : Temps partiel, avec possibilité de transition vers un temps plein
Horaire : Chevauchement des fuseaux horaires américains requis
Description
Medxprts.ai développe une plateforme basée sur l'IA pour les secteurs juridique et de la santé, utilisant les LLMs, des flux de travail d'agents et l'automatisation pour créer des applications de qualité production.
Nous recherchons un Ingénieur IA - Fine-Tuning de LLM : un ingénieur expérimenté qui a personnellement entraîné et affiné des modèles open-weight, construit une infrastructure d'entraînement, conçu des jeux de données à partir de documents complexes et mis en place des pipelines rigoureux d'évaluation et d'entraînement par préférence/feedback. Ce rôle travaille en étroite collaboration avec les équipes d'ingénierie pour déployer des modèles et des fonctionnalités intégrées en production.
Responsabilités
- Concevoir, implémenter et exécuter des expériences de fine-tuning de LLM (LoRA/QLoRA et SFT complet) sur des modèles open-weight (par exemple, Llama, Mistral, Qwen) et déployer les modèles entraînés dans les flux de travail produit.
- Construire et maintenir une infrastructure d'entraînement utilisant PyTorch et les outils Hugging Face (Transformers, PEFT, TRL/Axolotl), y compris l'orchestration de l'entraînement multi-GPU (DeepSpeed/FSDP) sur AWS ou GCP.
- Concevoir des jeux de données à partir de sources non structurées du monde réel (longs PDF, dossiers médicaux/juridiques), en effectuant la déduplication, le filtrage, les vérifications de contamination et les divisions d'entraînement/évaluation.
- Créer des systèmes d'évaluation adaptés aux besoins du domaine : ensembles de test réservés, LLM-en-tant-qu'évaluateur avec calibration humaine, tests de régression sur différentes versions de modèles, et surveillance automatisée de la dérive des modèles.
- Implémenter des flux de travail d'entraînement par préférence/feedback (style DPO/RLHF ou similaire) pour apprendre des corrections d'experts (médecin impliqué), et intégrer des boucles de feedback dans les pipelines de ré-entraînement des modèles.
- Collaborer avec les ingénieurs backend/frontend pour intégrer les modèles affinés dans les services, optimiser la latence/coût de l'inférence et supporter les déploiements en production.
- Participer aux revues de PR, aux processus de release, au débogage d'incidents et à l'amélioration continue des outils d'entraînement et de déploiement.
- Assurer la gestion sécurisée et conforme des données sensibles (connaissance HIPAA hautement préférée) lors de la préparation des jeux de données et de l'entraînement des modèles.
Prérequis
- Expérience pratique du fine-tuning de LLMs : avoir personnellement entraîné ou affiné des modèles open-weight en utilisant LoRA/QLoRA et SFT complet ; capable d'expliquer les compromis et de fournir au moins un exemple déployé.
- Expérience en infrastructure d'entraînement : PyTorch + écosystème Hugging Face (Transformers, PEFT, TRL/Axolotl), connaissance de l'entraînement multi-GPU (DeepSpeed ou FSDP), et exécution de charges de travail d'entraînement sur AWS ou GCP.
- Expertise en ingénierie de jeux de données : avoir construit des jeux de données d'instructions/préférences à partir de documents complexes et non structurés ; connaissance pratique de la déduplication, du filtrage, des divisions entraînement/évaluation et de la prévention de la contamination.
- Solide discipline d'évaluation : avoir conçu des systèmes d'évaluation spécifiques au domaine au-delà des benchmarks standards, y compris des configurations d'évaluateurs calibrés humainement et des tests de régression.
- Expérience pratique des méthodes d'apprentissage par préférence/feedback (DPO, flux de travail style RLHF, ou équivalent) et de l'intégration du feedback expert dans les mises à jour des modèles.
- Solides bases en ingénierie logicielle : flux de travail de production (Git, PRs), débogage, tests, expérience de déploiement et code maintenable.
- Expérience avec les APIs, les bases de données et l'intégration de services pour l'inférence de modèles.
- Capacité à travailler de manière autonome, à apprendre rapidement et à suivre les directives techniques.
- Bonnes compétences en communication en anglais et disponibilité pour un chevauchement avec les heures de travail américaines.
Atouts
- Expérience avec les stratégies de gestion de contexte long pour les très grands documents (entraînement sensible à la récupération, extension de contexte, RAG pour des sources de plusieurs milliers de pages).
- Déploiement de modèles et optimisation de l'inférence : quantification (GPTQ/AWQ), service vLLM/TGI, optimisation du débit/batching, optimisation de la latence et des coûts.
- Connaissance des bases de données vectorielles, des pipelines RAG avancés, des MCP, ou des outils d'automatisation de flux de travail de type n8n.
- Connaissance de Docker, CI/CD, Kubernetes/EKS, ou de l'infrastructure serverless.
- Expérience préalable dans le domaine de la santé, du legaltech, des processus conformes HIPAA, ou d'autres environnements réglementés/sensibles aux données.
- Portfolio public, GitHub, ou exemples d'applications LLM/agentiques déployées et de projets de fine-tuning.
- Poste entièrement en télétravail.
- Opportunité de travailler sur de vrais produits IA dans les domaines juridique et de la santé.
- Forte autonomie et responsabilité.
- Incitations basées sur la performance et primes basées sur les résultats.
- Potentiel d'évolution vers un poste à temps plein à long terme.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil