États-Unis
B&A
Anthropic
Ingénieur de recherche, Interprétabilité
États-Unis
San Francisco, California, United States
PythonJavaRustGo
Traduction automatique. Consultez l’original.
À PROPOS D'ANTHROPIC
La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et pilotables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en pleine croissance composé de chercheurs, d'ingénieurs, d'experts en politique et de dirigeants d'entreprise engagés, travaillant ensemble pour construire des systèmes d'IA bénéfiques.
À PROPOS DU POSTE
Lorsque vous voyez ce dont les modèles de langage modernes sont capables, vous demandez-vous : « Comment ces choses fonctionnent-elles ? Comment pouvons-nous leur faire confiance ? »
L'équipe d'interprétabilité d'Anthropic travaille à la rétro-ingénierie du fonctionnement des modèles entraînés, car nous pensons qu'une compréhension mécaniste est le moyen le plus robuste de rendre les systèmes avancés sûrs.
Considérez que nous faisons de la « neuroscience » des réseaux de neurones en utilisant des « microscopes » que nous construisons, ou que nous faisons de la rétro-ingénierie de réseaux de neurones comme des programmes binaires.
Plus de ressources pour en savoir plus sur notre travail :
- Notre blog de recherche transformer-circuits.pub/ - couvrant les avancées, notamment les caractéristiques monosémantiques transformer-circuits.pub/2024/scaling-monosemanticity/ et les circuits transformer-circuits.pub/2025/attribution-graphs/methods.html
- Une introduction à l'interprétabilité youtube.com/watch?v=TxhhMTOTMDg par notre responsable de recherche, Chris Olah colah.github.io/about.html
- L'urgence de l'interprétabilité darioamodei.com/post/the-urgency-of-interpretability par notre PDG Dario Amodei
- Défis d'ingénierie pour la mise à l'échelle de l'interprétabilité anthropic.com/research/engineering-challenges-interpretability - directement pertinent pour ce poste
* 60 minutes [
YouTube] segment - Vers 8:07, découvrez une démonstration des outils que notre équipe a construits
- Article du New Yorker newyorker.com/magazine/2026/02/16/what-is-claude-anthropic-doesnt-know-either - ce que cela signifie de travailler sur l'un des problèmes ouverts les plus difficiles de l'IA
Même si vous n'avez jamais travaillé sur l'interprétabilité auparavant, l'expertise en infrastructure est similaire à ce qui est nécessaire tout au long du cycle de vie d'un modèle de langage en production :
- Pré-entraînement : L'entraînement de modèles d'apprentissage de dictionnaires ressemble beaucoup au pré-entraînement de modèles - créer des tâches d'entraînement stables et performantes pour des modèles massivement paramétrés sur des milliers de puces
- Inférence : L'interprétabilité utilise une pile d'inférence personnalisée. L'analyse quotidienne nécessite des services qui permettent de modifier les activations internes d'un modèle au milieu d'une passe avant (forward-pass) - par exemple, en ajoutant un « vecteur de pilotage »
- Performance : Comme pour tout travail sur LLM, nous repoussons les limites du matériel et des logiciels. Plutôt que de gagner le dernier 0.1%, nous nous concentrons sur l'identification des goulots d'étranglement, leur résolution et l'avancement compte tenu de l'évolution rapide de la recherche et de notre mission de sécurité
La science continue de progresser - et elle est désormais appliquée directement dans les audits de sécurité www-cdn.anthropic.com/bf10f64990cfda0ba858290be7b8cc6317685f47.pdf sur les modèles de pointe, avec des délais réels. À mesure que nos recherches ont mûri, l'ingénierie et l'infrastructure sont devenues un goulot d'étranglement. Votre travail aura un impact direct sur l'un des problèmes ouverts les plus importants de l'IA.
RESPONSABILITÉS
- Construire et maintenir l'infrastructure spécialisée d'inférence et d'entraînement qui alimente la recherche en interprétabilité - y compris les passes avant/arrière instrumentées, l'extraction d'activations et l'application de vecteurs de pilotage
- Résoudre les goulots d'étranglement de mise à l'échelle et d'efficacité grâce au profilage, à l'optimisation et à une collaboration étroite avec les équipes d'infrastructure homologues
- Concevoir des outils, des abstractions et des plateformes qui permettent aux chercheurs d'expérimenter rapidement sans se heurter à des barrières d'ingénierie
- Aider à intégrer la recherche en interprétabilité dans les audits de sécurité en production - avec des délais réels et des attentes élevées en matière de fiabilité
- Travailler sur l'ensemble de la pile - des composants internes du modèle et de l'optimisation au niveau de l'accélérateur jusqu'aux outils de recherche destinés aux utilisateurs
VOUS POURRIEZ ÊTRE LE CANDIDAT IDÉAL SI VOUS
- Avez 5-10+ années d'expérience dans le développement de logiciels
- Êtes très compétent dans au moins un langage de programmation (par exemple, Python, Rust, Go, Java) et productif avec Python
- Êtes extrêmement curieux des domaines inconnus ; pouvez apprendre rapidement et mettre ces connaissances en pratique, par exemple en plongeant dans de nouvelles couches de la pile pour trouver des goulots d'étranglement
- Avez une forte capacité à prioriser le travail le plus percutant et êtes à l'aise pour travailler dans l'ambiguïté et remettre en question les hypothèses
- Préférez les projets collaboratifs rapides aux efforts individuels extensifs
- Êtes curieux de la recherche en interprétabilité et de son rôle dans la sécurité de l'IA (bien qu'aucune expérience en recherche ne soit requise !)
- Vous souciez des impacts sociétaux et de l'éthique de votre travail
- Êtes à l'aise pour travailler en étroite collaboration avec des chercheurs, en traduisant les besoins de recherche en solutions d'ingénierie.
LES CANDIDATS SOLIDES PEUVENT ÉGALEMENT AVOIR DE L'EXPÉRIENCE AVEC
- L'optimisation des performances de systèmes distribués à grande échelle
- Les fondamentaux de la modélisation du langage avec les transformers
- L'optimisation haute performance LLM : gestion de la mémoire, efficacité de calcul, stratégies de parallélisme, optimisation du débit d'inférence
- Le travail pratique dans une pile ML courante - PyTorch/CUDA sur GPU ou JAX/XLA sur TPU
- La collaboration étroite avec des chercheurs et la création d'outils pour soutenir les équipes de recherche ; ou avoir directement effectué des recherches avec des défis d'ingénierie complexes
PROJETS REPRÉSENTATIFS
- Construction de Garcon transformer-circuits.pub/2021/garcon/index.html, un outil qui permet aux chercheurs d'instrumenter facilement les LLMs pour extraire les activations internes
- Conception et optimisation d'un pipeline pour collecter efficacement des pétaoctets d'activations de transformers et les mélanger
- Profilage et optimisation de tâches d'entraînement ML, y compris le parallélisme multi-GPU et l'optimisation de la mémoire
- Construction d'un système d'inférence piloté qui applique des interventions ciblées sur les composants internes du modèle à grande échelle (conceptuellement similaire à Golden Gate Claude anthropic.com/news/golden-gate-claude mais pour la recherche en sécurité)
POLITIQUE DE LIEU SPÉCIFIQUE AU POSTE
- Ce poste est basé au bureau de San Francisco ; cependant, nous sommes ouverts à considérer des candidats exceptionnels pour le travail à distance au cas par cas.
La fourchette de rémunération annuelle pour ce poste est indiquée ci-dessous. Pour les postes commerciaux, la fourchette fournie est la fourchette de rémunération cible (« OTE ») du poste, ce qui signifie que la fourchette inclut à la fois les commissions/primes de vente cibles et le salaire de base annuel pour le poste.
Salaire annuel : $315,000—$560,000 USD
LOGISTIQUE
- Formation minimale : Licence ou une combinaison équivalente d'études, de formation et/ou d'expérience
- Domaine d'études requis : Un domaine pertinent pour le poste, démontré par des cours, une formation ou une expérience professionnelle
- Années d'expérience minimales : Les années d'expérience requises seront corrélées aux exigences de niveau de poste interne pour le poste
- Politique hybride basée sur le lieu : Actuellement, nous attendons de tout le personnel qu'il soit présent dans l'un de nos bureaux au moins 25% du temps. Cependant, certains postes peuvent nécessiter plus de temps dans nos bureaux.
- Parrainage de visa : Nous parrainons des visas ! Cependant, nous ne sommes pas en mesure de parrainer avec succès des visas pour chaque poste et chaque candidat. Mais si nous vous faisons une offre, nous ferons tous les efforts raisonnables pour vous obtenir un visa, et nous conservons un avocat spécialisé en immigration pour nous aider dans cette démarche.
Nous vous encourageons à postuler même si vous ne pensez pas répondre à toutes les qualifications. Tous les candidats solides ne répondront pas à chaque qualification telle qu'elle est listée. La recherche montre que les personnes qui s'identifient comme appartenant à des groupes sous-représentés sont plus sujettes au syndrome de l'imposteur et au doute quant à la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA comme ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses au sein de notre équipe.
Votre sécurité nous tient à cœur. Pour vous protéger contre les escroqueries potentielles, rappelez-vous que les recruteurs d'Anthropic ne vous contactent qu'à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons nous associer à des agences de recrutement agréées qui s'identifieront comme travaillant au nom d'Anthropic. Soyez prudent avec les e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous n'êtes jamais sûr d'une communication, ne cliquez sur aucun lien - visitez anthropic.com/careers anthropic.com/careers directement pour les ouvertures de postes confirmées.
EN QUOI NOUS SOMMES DIFFÉRENTS
Nous pensons que la recherche en IA ayant le plus grand impact sera de la « big science ». Chez Anthropic, nous travaillons en tant qu'équipe unique et cohérente sur seulement quelques efforts de recherche à grande échelle. Et nous valorisons l'impact - faire progresser nos objectifs à long terme d'une IA pilotable et digne de confiance - plutôt que de travailler sur des énigmes plus petites et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif et nous organisons fréquemment des discussions de recherche pour nous assurer que nous poursuivons le travail ayant le plus grand impact à tout moment. À ce titre, nous accordons une grande importance aux compétences en communication.
Le moyen le plus simple de comprendre nos orientations de recherche est de lire nos recherches récentes. Ces recherches poursuivent bon nombre des directions sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, l'interprétabilité basée sur les circuits, les neurones multimodaux, les lois d'échelle, l'IA et le calcul, les problèmes concrets dans la sécurité de l'IA et l'apprentissage à partir des préférences humaines.
VENEZ TRAVAILLER AVEC NOUS !
Anthropic est une société d'intérêt public dont le siège est à San Francisco. Nous offrons une rémunération et des avantages sociaux compétitifs, une option de don d'actions, des congés généreux et des congés parentaux, des horaires de travail flexibles et un espace de bureau agréable dans lequel collaborer avec des collègues. Conseils sur l'utilisation de l'IA par les candidats : Apprenez-en davantage sur notre politique anthropic.com/candidate-ai-guidance concernant l'utilisation de l'IA dans notre processus de candidature.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil