Programme de bourses Anthropic, Sécurité et Sûreté de l'IA

La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et orientables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en croissance rapide de chercheurs, d'ingénieurs, d'experts en politiques et de chefs d'entreprise engagés qui travaillent ensemble pour construire des systèmes d'IA bénéfiques.

APERÇU DU PROGRAMME DE BOURSES ANTHROPIC

Le Programme de bourses Anthropic est conçu pour favoriser les talents en recherche et ingénierie de l'IA. Nous fournissons un financement et un mentorat à des talents techniques prometteurs - quelle que soit leur expérience préalable.

Les boursiers utiliseront principalement une infrastructure externe (par exemple, des modèles open-source, des APIs publiques) pour travailler sur un projet empirique aligné avec nos priorités de recherche, dans le but de produire un résultat public (par exemple, une soumission d'article). Dans l'une de nos cohortes précédentes, plus de 80% des boursiers ont produit des articles. Nous organisons plusieurs cohortes de boursiers chaque année et examinons les candidatures sur une base continue.

BOURSÎERS EN SÉCURITÉ DE L'IA

MENTEURS, DOMAINES DE RECHERCHE ET PROJETS ANTÉRIEURS

Les boursiers passeront par un processus de sélection de projet et de mise en relation avec un mentor. Les mentors potentiels incluent :

Nos mentors dirigeront des projets dans des domaines de recherche sélectionnés sur la sécurité de l'IA, tels que :

Sur nos blogs Alignment Science alignment.anthropic.com/ et Frontier Red Team red.anthropic.com/, vous pouvez lire des projets passés, notamment :

Pour une liste complète des projets représentatifs pour chaque domaine, veuillez consulter ces articles de blog : Introduction au Programme de bourses Anthropic pour la recherche sur la sécurité de l'IA [alignment.anthropic.com/2024/anthropic-fellows-program/#:~:text=We're%20launching%20the%20Anthropic,time%20on%20AI%20safety%20research]. Recommandations pour les directions de recherche techniques en sécurité de l'IA alignment.anthropic.com/2025/recommended-directions/.

BOURSÎERS EN SÉCURITÉ DE L'IA

MENTEURS, DOMAINES DE RECHERCHE ET PROJETS ANTÉRIEURS

Les boursiers passeront par un processus de sélection de projet et de mise en relation avec un mentor. Les mentors potentiels incluent :

Sur nos blogs Alignment Science alignment.anthropic.com/ et Frontier Red Team red.anthropic.com/, vous pouvez lire certains projets passés des boursiers, notamment :

COMMENT NOUS SOMMES DIFFÉRENTS

Nous pensons que la recherche en IA à plus fort impact sera de la "big science". Chez Anthropic, nous travaillons en équipe cohésive sur seulement quelques efforts de recherche à grande échelle. Et nous valorisons l'impact - faire progresser nos objectifs à long terme d'une IA orientable et digne de confiance - plutôt que de travailler sur des énigmes plus petites et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif, et nous organisons des discussions de recherche fréquentes pour nous assurer que nous poursuivons le travail à plus fort impact à tout moment. Par conséquent, nous accordons une grande importance aux compétences en communication.

La meilleure façon de comprendre nos orientations de recherche est de lire nos recherches récentes. Ces recherches poursuivent plusieurs des orientations sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, Interprétabilité basée sur les circuits, Neurones multimodaux, Lois d'échelle, IA et Calcul, Problèmes concrets en sécurité de l'IA, et Apprentissage à partir des préférences humaines.

VENEZ TRAVAILLER AVEC NOUS !

Anthropic est une société d'intérêt général (public benefit corporation) basée à San Francisco. Nous offrons une rémunération et des avantages compétitifs, une mise en correspondance optionnelle des dons d'équité, des congés parentaux et de vacances généreux, des horaires de travail flexibles et un bel espace de bureau pour collaborer avec des collègues. Guide sur l'utilisation de l'IA par les candidats : Apprenez notre politique anthropic.com/candidate-ai-guidance concernant l'utilisation de l'IA dans notre processus de candidature.

Les candidatures sont maintenant ouvertes pour notre cohorte de janvier - postulez ici avant le 18 octobre. bit.ly/afpsafety

Le processus d'entretien comprendra une candidature initiale et une vérification des références, des évaluations techniques et des entretiens, ainsi qu'une discussion sur la recherche.

Nous vous encourageons à postuler même si vous ne pensez pas satisfaire à toutes les qualifications. Tous les candidats solides ne satisferont pas à toutes les qualifications énumérées. La recherche montre que les personnes issues de groupes sous-représentés sont plus susceptibles de ressentir le syndrome de l'imposteur et de douter de la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA tels que ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une diversité de perspectives dans notre équipe.

RÉMUNÉRATION

L'allocation de base attendue pour ce rôle est de 3,850 USD / 2,310 GBP / 4,300 CAD par semaine, avec une attente de 40 heures par semaine pendant 4 mois (avec une possible prolongation).

LOGISTIQUE

Exigences logistiques : Pour participer au programme de bourses, vous devez avoir une autorisation de travail aux États-Unis, au Royaume-Uni ou au Canada et être situé dans ce pays pendant le programme.

Emplacements des espaces de travail : Nous avons des espaces de travail partagés désignés à Londres et à Berkeley où les boursiers travailleront et où les mentors rendront visite. Nous sommes également ouverts aux boursiers à distance au Royaume-Uni, aux États-Unis ou au Canada. Nous vous demanderons votre disponibilité pour travailler à Berkeley ou à Londres (à temps plein ou à temps partiel) pendant le programme.

Sponsorship de visa : Nous ne sommes actuellement pas en mesure de sponsoriser de visas pour les boursiers. Pour participer au programme de bourses, vous devez avoir ou obtenir indépendamment une autorisation de travail à temps plein au Royaume-Uni, aux États-Unis ou au Canada.

Durée du programme : Le programme dure 4 mois, à temps plein. Si vous ne pouvez pas vous engager pour la durée complète, veuillez quand même postuler et indiquer vos contraintes dans la candidature. Nous examinons ces demandes au cas par cas.

Veuillez noter : Nous ne garantissons pas que nous ferons des offres à temps plein aux boursiers. Cependant, une performance solide pendant le programme peut indiquer qu'un boursier serait un bon candidat pour des postes à temps plein chez Anthropic. Dans les cohortes précédentes, 25-50% des boursiers ont reçu une offre à temps plein, et nous en avons aidé beaucoup d'autres à poursuivre un excellent travail sur la sécurité et la sûreté de l'IA dans d'autres organisations.

Les candidatures et les entretiens sont gérés par Constellation constellation.org/, notre partenaire de recrutement et de programme. Constellation gère également l'espace de travail de Berkeley et fournit un soutien de programme aux boursiers travaillant sur la sécurité et la sûreté de l'IA ; les boursiers sur des projets axés sur les capacités sont soutenus directement par Anthropic. Tous les candidats utilisent actuellement le même portail de candidature, mais nous travaillons à séparer les candidatures pour les projets axés sur la sécurité/sûreté et les capacités dans les futures campagnes.

POSTULEZ ICI AVANT LE 18 OCTOBRE. bit.ly/afpsafety

Ce qui suit concerne les politiques d'Anthropic pour les postes à temps plein. Celles-ci NE s'appliquent PAS au Programme de bourses.

Politique hybride basée sur le lieu : Actuellement, nous nous attendons à ce que tout le personnel soit dans l'un de nos bureaux au moins 25% du temps. Cependant, certains postes peuvent nécessiter plus de temps dans nos bureaux.

Sponsorship de visa : Nous sponsorisons des visas ! Cependant, nous ne sommes pas toujours en mesure de sponsoriser des visas pour chaque poste et chaque candidat. Mais si nous vous faisons une offre, nous ferons tous les efforts raisonnables pour vous obtenir un visa, et nous faisons appel à un avocat spécialisé en immigration pour nous aider.

Nous vous encourageons à postuler même si vous ne pensez pas satisfaire à toutes les qualifications. Tous les candidats solides ne satisferont pas à toutes les qualifications énumérées. La recherche montre que les personnes issues de groupes sous-représentés sont plus susceptibles de ressentir le syndrome de l'imposteur et de douter de la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA tels que ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une diversité de perspectives dans notre équipe.

Votre sécurité nous importe. Pour vous protéger contre d'éventuelles escroqueries, rappelez-vous que les recruteurs d'Anthropic vous contactent uniquement à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons collaborer avec des agences de recrutement agréées qui s'identifieront comme travaillant pour le compte d'Anthropic. Méfiez-vous des e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne vous demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien - visitez directement anthropic.com/careers anthropic.com/careers pour connaître les offres d'emploi confirmées.

• 4 mois de recherche à temps plein

• Mentorat direct de la part des chercheurs d'Anthropic

• Accès à un espace de travail partagé (à Berkeley, en Californie ou à Londres, au Royaume-Uni)

• Connexion à la communauté plus large de recherche sur la sécurité et la sûreté de l'IA

• Allocation hebdomadaire de 3,850 USD / 2,310 GBP / 4,300 CAD + avantages (ceux-ci varient selon le pays)

• Financement pour le calcul (~15k $ / mois) et autres dépenses de recherche

LES CANDIDATS DOIVENT ÊTRE

LOGISTIQUE

Formation minimale : Licence ou une combinaison équivalente d'éducation, de formation et/ou d'expérience

Domaine d'études requis : Un domaine pertinent pour le poste, tel que démontré par les cours, la formation ou l'expérience professionnelle

Années d'expérience minimales : Les années d'expérience requises seront corrélées aux exigences de niveau de poste interne pour le poste

CRITÈRES PARTICULIERS POUR LES CANDIDATS

Vous pourriez être particulièrement bien adapté à ce flux de travail si vous :

Vous pourriez être particulièrement bien adapté à ce flux de travail si vous :