Arcana Analytics

21 juil. 2026

Ingénieur IA Senior — Systèmes d'Inférence & d'Agents

États-Unis

United States

PythonPostgreSQLDockerGo

Traduction automatique. Consultez l’original.

Ce que nous construisons

Titre : Ingénieur IA Appliquée — Systèmes d'Inférence & d'Agents

Arcana construit des agents IA qui synthétisent des informations provenant de sources hétérogènes et fournissent des réponses structurées et raisonnées en temps réel. Le produit ne fonctionne que si les agents sont rapides, fiables et corrects, pas approximativement corrects.

Notre stack : Go + Temporal pour l'orchestration, une architecture d'agent Planifier-Exécuter-Synthétiser, et un système d'évaluation que nous utilisons pour mesurer chaque régression. Les problèmes sont difficiles. La barre de latence est agressive. Les exigences de précision sont impitoyables.

Pourquoi ce rôle

Les problèmes ici n'ont pas encore d'articles de blog à leur sujet. Exécution de DAG d'agents parallèles sous des budgets de latence stricts, synthèse en streaming à partir de résultats partiels de sous-agents, systèmes d'évaluation pour des systèmes multi-étapes non déterministes : ce sont de véritables défis non résolus en qualité de production. Petite équipe. Forte autonomie. Les décisions de chaque ingénieur sont déployées en production.

Postuler

Lieu : États-Unis

Envoyer à : [careers@arcana.io]

Inclure :

Un système que vous avez construit où la latence était la contrainte principale : ce que vous avez mesuré, ce que vous avez changé, ce qui a bougé

Lien vers tout ce qui est public (code, écrits, présentations)

Aucune lettre de motivation requise

Nous répondons à chaque candidature.

Le Travail

Optimisation de l'Inférence

Réduire le TTFT en dessous de 400 ms pour les pipelines d'agents multi-étapes

Optimisation du streaming : premier token vers l'utilisateur pendant que les sous-agents sont encore en cours d'exécution

Stratégie de cache KV, compression de prompt, gestion dynamique de la fenêtre de contexte

Routage multi-fournisseurs : sélection de modèle par latence, coût et type de tâche parmi OpenAI, Anthropic, Gemini, et modèles à poids ouverts

Architecture d'Agent

Concevoir et implémenter des pipelines Planifier-Exécuter-Synthétiser qui exécutent les sous-agents dans des DAG parallèles, et non des chaînes séquentielles

Construire une orchestration fiable sur Temporal : tentatives, timeouts, récupération de pannes partielles, idempotence

Application de sortie structurée : validation de schéma JSON, boucles de nouvelle tentative sur une sortie LLM malformée, dégradation gracieuse

Conception d'appel d'outil : conception de schéma que les LLMs suivent de manière fiable entre les fournisseurs

Évaluation & Harness

Gérer le framework d'évaluation de bout en bout : jeux de données de vérité terrain, pipelines de scoring automatisés, détection de régression sur chaque PR

Pipelines LLM-as-judge pour l'évaluation qualitative de la sortie

Tests de régression de latence - p50/p95/p99 suivis à chaque déploiement

Conception de cas de test contradictoires : requêtes ambiguës, données manquantes, sources contradictoires, réponses d'outils malformées

Infrastructure

Service de modèles et optimisation du démarrage à froid

Architecture de workers asynchrones pour l'exécution parallèle de sous-agents

Observabilité : tracer chaque token, chaque appel d'outil, chaque étape de synthèse

Ce que nous recherchons

Vous avez construit quelque chose qui fonctionne en production à une échelle significative et vous comprenez pourquoi il est rapide (ou pourquoi il ne l'est pas).

Signal fort

Vous avez travaillé sur des pipelines d'inférence où le TTFT était la métrique principale et vous l'avez amélioré de manière significative

Vous avez construit des systèmes d'agents multi-étapes et vous savez où ils échouent, non pas en lisant des articles, mais en les voyant échouer en production

Vous avez écrit des systèmes d'évaluation à partir de zéro et vous avez des opinions sur ce qui rend un jeu de données de vérité terrain réellement utile -

Vous avez débogué le non-déterminisme LLM en production et construit des systèmes résilients à celui-ci

Vous avez travaillé avec des réponses LLM en streaming et construit une infrastructure autour de la gestion des sorties partielles

Familiarité avec la stack (nous nous soucions plus de la profondeur que de la correspondance) : Go, Python, Temporal, Kafka, PostgreSQL, Docker

À qui nous voulons parler

Vous avez déployé des systèmes d'inférence dans :

Un produit IA en temps réel (recherche, assistant de codage, chat à grande échelle)

Une entreprise de services d'infrastructure de modèles

Une plateforme d'agents (quel que soit le domaine)

Ou vous avez construit une infrastructure d'évaluation/harness à laquelle une équipe de plus de 10 ingénieurs a réellement fait confiance pour détecter les régressions.

Signal plus faible (mais non éliminatoire)

Vous avez affiné des modèles mais n'avez pas déployé de systèmes d'inférence

Vous avez utilisé LangChain/LlamaIndex mais n'avez pas construit la couche sous-jacente

Solide formation en recherche ML sans exposition aux systèmes

Langues