États-Unis
Redwood Materials
Ingénieur de Recherche, Défenses de Sécurité Frontier, DeepMind
États-Unis
Mountain View, California, United States · San Francisco, California, United States
Traduction automatique. Consultez l’original.
QUALIFICATIONS MINIMALES : *
- Diplôme de licence ou expérience professionnelle équivalente. *
- 5 années d'expérience en développement logiciel dans un ou plusieurs langages de programmation. *
- 3 années d'expérience en test, maintenance ou lancement de produits logiciels, et 1 année d'expérience en conception et architecture logicielle.
QUALIFICATIONS PRÉFÉRENTIELLES : *
- Master ou Doctorat en Informatique ou dans un domaine technique connexe. *
- Expérience en développement, affinage ou méthodologies d'évaluation de la sécurité des grands modèles de langage (LLM). *
- Expérience dans la transformation de la recherche en produit. *
- Expérience dans des domaines tels que la Sécurité et l'Alignement.
À PROPOS DU POSTE
Notre équipe se concentre sur la réduction des risques lors du lancement de modèles en se défendant contre des domaines d'utilisation abusive critiques tels que la cybersécurité, les NRBC (Nucléaire, Radiologique, Biologique, Chimique, Explosif), et la manipulation nuisible. Actuellement, cela implique la création de nouvelles évaluations, le red-teaming, la recherche et le déploiement de défenses avancées (à la fois dans et hors du modèle), et la surveillance des risques émergents. Nous veillons à ce que nos défenses soient très robustes, tout en permettant l'utilisation bénéfique de notre technologie.
GDM est une communauté scientifique dédiée, engagée à « résoudre l'intelligence » et à garantir que notre technologie soit utilisée pour le bénéfice public général.
L'équipe Frontier Safety Mitigation opère dans un environnement rapide et hautement collaboratif. Nous avons une forte culture de soutien, de dévouement et de travail d'équipe. Nous prenons au sérieux la possibilité de capacités de modèles dangereuses de manière tangible à mesure que l'IA progresse. Pour cette raison, nous pensons que la recherche et la mise en œuvre proactives de défenses robustes et multicouches sont une partie essentielle de la stratégie globale pour construire une IA sûre.
Nous recherchons un ingénieur de recherche pour l'équipe Frontier Safety Mitigation au sein de l'équipe de sécurité Gemini.
Votre responsabilité principale est de nous aider à construire la prochaine génération de défenses de sécurité pour les modèles de pointe. Ce rôle est hautement appliqué et se concentre sur la construction de défenses robustes de bout en bout contre les risques graves. Ce travail alimente directement les engagements du Cadre de Sécurité Frontier de DeepMind.
Vous serez à l'aise pour déterminer comment aborder de nouvelles questions de recherche et mettre en œuvre des solutions techniques à grande échelle.
L'intelligence artificielle sera l'une des inventions les plus transformatrices de l'humanité. Chez Google DeepMind, nous sommes un laboratoire d'IA pionnier avec des équipes interdisciplinaires exceptionnelles axées sur l'avancement du développement de l'IA pour résoudre des défis mondiaux complexes et accélérer l'innovation de produits de haute qualité pour des milliards d'utilisateurs. Nous utilisons nos technologies pour le bénéfice public général et la découverte scientifique, en veillant à ce que la sécurité et l'éthique soient toujours notre priorité absolue.
Nous repoussons les limites dans plusieurs domaines. Nos équipes mondiales offrent des opportunités d'apprentissage diversifiées et des parcours de carrière variés pour ceux qui sont motivés à obtenir des résultats exceptionnels grâce à un effort collectif.
La rémunération individuelle est déterminée par des facteurs tels que les compétences liées au poste, l'expérience et la formation ou les qualifications pertinentes.
US : $174000 - $252000 (USD) + prime cible de 15% + actions + avantages
].
RESPONSABILITÉS : *
- Construire des classificateurs avancés et des pipelines de données pour détecter les utilisations abusives, en gérant le processus de bout en bout, de l'évaluation automatisée à l'itération rapide du modèle. *
- Construire des systèmes de surveillance inter-contextes pour détecter les préjudices coordonnés, en développant de nouvelles méthodes d'agrégation de signaux à travers des sessions utilisateur disparates pour identifier des vecteurs d'attaque à grande échelle. *
- Implémenter des systèmes de réponse au niveau du compte, semi-automatisés et basés sur les données, pour détecter, suivre et appliquer des sanctions contre des acteurs malveillants persistants en utilisant des signaux riches issus du trafic de production. *
- Évaluer et sécuriser les systèmes d'IA agentiques en développant des modèles de menace, en créant des environnements de test et en déployant des défenses robustes contre le piratage agentique de pointe et les attaques à long terme. *
- Faire progresser la recherche en red-teaming automatisé et en robustesse adversariale, en tirant parti des attaques multi-tours/agentiques pour tester systématiquement et découvrir les vulnérabilités d'utilisation abusive.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil