Ingénieur.e Performance, Systèmes d'Inférence

La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et orientables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en croissance rapide de chercheurs, d'ingénieurs, d'experts en politique et de dirigeants d'entreprise engagés qui travaillent ensemble pour construire des systèmes d'IA bénéfiques.

À propos du poste

La flotte d'inférence d'Anthropic dessert Claude pour des millions d'utilisateurs à travers nos propres produits et les plus grandes plateformes cloud du monde. La pile qui rend cela possible est profonde et étroitement couplée : noyaux d'accélérateurs, serveurs de modèles, routage distribué, autoscaling, gestion de capacité. Chaque couche affecte les autres, souvent d'une manière difficile à voir isolément.

L'équipe des dynamiques des systèmes d'inférence est responsable de la compréhension de l'ensemble du système et de son maintien à un niveau élevé selon quatre dimensions : débit, latence, fiabilité et exactitude. Nous mesurons la performance de la flotte par rapport à sa frontière de performance théorique, menons des investigations inter-couches pour expliquer les écarts, et assurons les vérifications d'exactitude qui garantissent que les sorties de Claude sont correctes, pas seulement rapides, sur différentes plateformes matérielles et configurations de service. Nous ne sommes pas propriétaires des composants individuels. Nous les instrumentons et les modélisons, trouvons les opportunités les plus efficaces entre eux, et collaborons avec les équipes propriétaires pour obtenir les succès.

Vous travaillerez sur les quatre aspects. Une semaine, cela pourrait signifier tracer une régression de latence sur les requêtes extrêmes, depuis le timing des requêtes jusqu'au routage et au batching, en passant par la surcharge du noyau ; la semaine suivante, cela pourrait signifier affiner une évaluation d'exactitude pour qu'elle détecte une régression de sortie introduite par un changement de quantification. Nous recherchons des ingénieurs de performance qui traitent l'exactitude comme faisant partie de la performance.

Logistique

Date limite de candidature : Aucune. Les candidatures seront examinées au fur et à mesure.

La fourchette de rémunération annuelle pour ce poste est indiquée ci-dessous.

Pour les postes de vente, la fourchette indiquée est la fourchette de rémunération cible ("OTE") pour le poste, ce qui signifie que la fourchette comprend à la fois les commissions de vente/les primes de vente cibles et le salaire de base annuel pour le poste.

Salaire annuel

$350,000—$850,000 USD

Nous vous encourageons à postuler même si vous ne pensez pas remplir toutes les qualifications. Tous les candidats solides ne rempliront pas toutes les qualifications énumérées. La recherche montre que les personnes qui s'identifient comme appartenant à des groupes sous-représentés sont plus susceptibles d'éprouver le syndrome de l'imposteur et de douter de la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA tels que ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses dans notre équipe.

Votre sécurité nous importe. Pour vous protéger contre d'éventuelles escroqueries, rappelez-vous que les recruteurs d'Anthropic vous contactent uniquement à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons collaborer avec des agences de recrutement vérifiées qui s'identifieront comme travaillant pour le compte d'Anthropic. Méfiez-vous des e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne vous demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien – visitez directement anthropic.com/careers pour connaître les offres de poste confirmées.

Venez travailler avec nous !

Anthropic est une société d'intérêt public (public benefit corporation) dont le siège est à San Francisco. Nous offrons une rémunération et des avantages compétitifs, une mise en correspondance optionnelle des dons d'actions, des congés parentaux et de vacances généreux, des horaires de travail flexibles et un espace de bureau agréable pour collaborer avec nos collègues. Directives sur l'utilisation de l'IA par les candidats : Apprenez-en davantage sur notre politique d'utilisation de l'IA dans notre processus de candidature.