ambi.
ambi.
Ingénieur Plateforme IA
LE POSTE
Construisez la plateforme qui transforme les agents IA en systèmes de production fiables.
Vous serez responsable de la couche de plateforme IA qui permet aux agents d'accomplir des tâches complexes de bout en bout pour les clients de l'entreprise. Votre périmètre couvrira l'exécution des agents, la gestion du contexte, l'exécution et l'orchestration des outils, les pipelines d'évaluation, le prompting au niveau système et l'observabilité.
Il s'agit d'un rôle d'ingénierie IA appliquée pratique. Vous construirez et opérerez des systèmes alimentés par des LLMs, la récupération d'informations et l'orchestration d'agents, avec une responsabilité directe quant à leur fiabilité, leur qualité, leur latence et leur coût.
Vous définirez également la manière dont les modèles sont utilisés sur la plateforme : choix du bon modèle pour chaque tâche, routage du travail vers des modèles plus rentables si nécessaire, et déploiement de modèles open-source auto-hébergés sur des GPU dédiés.
Vous serez responsable du comportement de l'environnement sandbox et de la logique d'exécution des agents, en étroite collaboration avec les SRE, qui sont responsables de l'infrastructure et de la capacité de l'environnement sandbox.
Alors que l'organisation produit s'étend à plusieurs initiatives, vous travaillerez aux côtés des chefs d'initiative, des ingénieurs, des concepteurs et des ingénieurs spécialisés en IA pour transformer les capacités de la plateforme en un impact client mesurable.
VOTRE MISSION
- Construire et faire évoluer l'exécution des agents. Développer les capacités de gestion du contexte, d'exécution des outils et d'orchestration dont les agents ont besoin pour fonctionner de manière fiable en production.
- Rendre la qualité mesurable. Construire des pipelines d'évaluation et des outils qui exposent les modes d'échec, détectent les régressions et permettent des mises en production en toute confiance.
- Améliorer la fiabilité et les performances. Diagnostiquer les défaillances dans le comportement des modèles, les pipelines de récupération et de données, les appels d'outils et l'infrastructure.
- Optimiser l'utilisation des modèles et les coûts. Évaluer les compromis entre capacité, latence et coût entre les modèles hébergés et auto-hébergés.
- Rendre le comportement des agents observable. Développer des outils de traçage et de diagnostic qui aident l'équipe à comprendre ce que les agents ont fait, pourquoi ils ont échoué et comment les améliorer.
- Assurer la livraison de bout en bout. Transformer des problèmes ambigus de la conception à l'implémentation, l'évaluation, le déploiement, la surveillance et l'itération.
VOTRE PROFIL
Nous recherchons une expérience pratique et des preuves d'impact dans les domaines suivants :
- Systèmes IA en production. Vous avez déployé et exploité des systèmes basés sur des LLM au-delà des prototypes ou de la recherche, avec une expérience pratique du prompting, de la gestion du contexte, de l'utilisation d'outils ou de l'orchestration d'agents.
- Prise en charge de bout en bout. Vous avez transformé des problèmes d'IA ambigus en capacités de production avec des résultats mesurables et êtes resté responsable après le lancement.
- Conception de systèmes IA. Vous concevez pour des sorties non déterministes, des limites de contexte et des appels d'outils peu fiables, en considérant la fiabilité, le coût et la latence comme des exigences fondamentales.
- Conception d'évaluations. Vous êtes capable de construire des ensembles de tests significatifs, de définir des taxonomies d'échecs et de créer des évaluations qui révèlent les problèmes de qualité et les régressions.
- Débogage structuré. Vous enquêtez sur les problèmes par le biais d'hypothèses claires et tracez les défaillances à travers les limites du système pour identifier les causes profondes.
- Jugement technique. Vous prenez des décisions judicieuses entre construire et intégrer avec des preuves incomplètes et vous adaptez à l'évolution des modèles, des fournisseurs et des outils.
EXPÉRIENCE COMPLÉMENTAIRE APPRÉCIÉE
- Conception et exploitation de systèmes distribués à haut débit et aux modes de défaillance complexes.
- Sécurisation des systèmes IA contre les risques tels que l'injection de prompts, la gestion de sorties non sécurisées et les dépendances compromises.
- Contribution à des outils ou infrastructures IA open-source.
AXE DU POSTE
Ce rôle est centré sur les systèmes qui alimentent les agents IA. Il n'implique pas l'entraînement de modèles ni la recherche en ML. Son objectif principal est l'ingénierie de plateforme plutôt que les fonctionnalités orientées utilisateur ou le développement d'interfaces utilisateur.
STACK TECHNIQUE
- Langages : TypeScript et Python
- Cloud : GCP — Cloud Run, GKE et GCS
- Infrastructure : Terraform et Docker
- Observabilité : Datadog
- Données : Postgres et Redis
- IA : Modèles et outils Anthropic, ainsi que des modèles open-source auto-hébergés
