Estados Unidos
Redwood Materials
Lila Sciences
Staff / Engenheiro(a) de Pesquisa Principal, Mitigações de Segurança em IA
Estados Unidos
London, England, United Kingdom · San Francisco, California, United States · Cambridge, Massachusetts, United States
Tradução automática. Consulte o original.
Seu Impacto na LILA
Estamos construindo uma equipe de segurança em IA com alta densidade de talentos e alta agência na Lila, que envolverá todas as equipes centrais da organização (ciência, treinamento de modelos, integração de laboratório, etc.), para identificar e mitigar riscos de superinteligência científica, mantendo as capacidades centrais de descoberta científica da pilha. O foco inicial desta equipe será construir e implementar uma estratégia de segurança personalizada para a Lila, adaptada aos seus objetivos específicos e estratégias de implantação. Isso envolverá o desenvolvimento de estratégias técnicas de segurança, engajamento mais amplo do ecossistema, avaliações focadas em segurança, sistemas de segurança para mitigar riscos e uma agenda de pesquisa que explore necessidades de longo prazo, como a supervisão de sistemas científicos superinteligentes.
Na Lila Sciences, você desenvolverá e testará salvaguardas que reduzem os riscos sociais de IA científica cada vez mais capaz em ciclo fechado. Esta é uma função de contribuidor individual de alta prioridade para um engenheiro que construiu intervenções de segurança no desenvolvimento e implantação de modelos de fronteira e deseja aplicar essa experiência a modelos científicos, agentes, ferramentas e fluxos de trabalho conectados a laboratórios.
Você trabalhará com cientistas de domínio, pesquisadores de risco, avaliadores e equipes de engenharia para transformar descobertas de risco e requisitos de política em intervenções eficazes. O trabalho abrange pesquisa e implementação: desenvolvendo abordagens, testando seus limites e ajudando a integrar salvaguardas confiáveis nos sistemas onde são necessárias. Estamos abertos a diferentes níveis de senioridade e profundidade em abordagens de mitigação.
O Que Você Construirá
- Traduzir avaliações de risco científico, limites de política de uso duplo e descobertas de avaliação em projetos de mitigação concretos e requisitos testáveis.
- Desenvolver e implementar salvaguardas adequadas ao problema, potencialmente abrangendo treinamento de modelos, classificadores, monitoramento, controles de acesso e intervenções em tempo de execução.
- Construir experimentos que meçam a redução de risco, a robustez e os efeitos no uso científico legítimo, juntamente com restrições práticas de desempenho.
- Usar descobertas adversárias e falhas observadas para melhorar as salvaguardas, trabalhando em estreita colaboração com pesquisadores de segurança automatizada e avaliação científica.
- Trabalhar diretamente com equipes de treinamento de modelos, pós-treinamento, inferência e plataforma para integrar mitigações no desenvolvimento de modelos, avaliação de lançamento e sistemas de serviço em larga escala, com instrumentação apropriada e testes reproduzíveis.
- Investigar regressões, mudanças de distribuição e padrões emergentes de uso indevido, e usar as evidências para guiar o desenvolvimento futuro.
O Que Você Precisará para Ter Sucesso
- Experiência prática no desenvolvimento e validação de intervenções de segurança para modelos de fronteira em sistemas de treinamento, pós-treinamento ou inferência em larga escala, com contribuições para ciclos de desenvolvimento ou lançamento de modelos.
- Profundidade em pelo menos uma área relevante, como pós-treinamento de segurança, classificadores em nível de modelo, salvaguardas integradas à inferência, ou monitoramento e aplicação de abusos em uma plataforma de serviço de modelos.
- Experiência trabalhando diretamente com equipes de desenvolvimento de modelos ou de salvaguardas, usando acesso apropriado à intervenção — como pipelines de treinamento, internos do modelo, infraestrutura de inferência ou acesso sistemático de avaliação — para investigar falhas e implementar melhorias.
- Fortes habilidades de pesquisa e engenharia e a capacidade de ir de um problema ambíguo para implementações funcionais e de fácil manutenção.
- Bom julgamento experimental, incluindo a capacidade de avaliar a robustez, interpretar métricas imperfeitas e raciocinar sobre objetivos concorrentes.
- A capacidade de colaborar entre equipes de pesquisa e engenharia, explicar trade-offs técnicos e assumir a propriedade de contribuições individuais complexas.
Pontos Extras
- Experiência com modelos científicos, software científico ou sistemas conectados a laboratórios.
- Trabalho de segurança envolvendo agentes que usam ferramentas, fluxos de trabalho de várias etapas ou uso indevido de alta consequência.
- Experiência em conectar evidências geradas por especialistas e requisitos de política a dados de treinamento, critérios de avaliação ou controles operacionais.
Remuneração
Oferecemos remuneração base competitiva com potencial de bônus e participação acionária generosa em estágio inicial. Sua oferta final refletirá seu histórico, experiência e impacto esperado.
Benefícios nos EUA. Funcionários em tempo integral nos EUA recebem um programa abrangente de benefícios, incluindo cobertura médica, odontológica e oftalmológica; seguro de vida e invalidez pago pelo empregador; tempo livre flexível com feriados generosos em toda a empresa; licença parental remunerada; um programa de assistência educacional; benefícios de transporte, incluindo associações de compartilhamento de bicicletas para funcionários baseados no escritório; e um programa de almoço subsidiado pela empresa.
Benefícios Internacionais. Funcionários em tempo integral fora dos EUA recebem um programa abrangente de benefícios adaptado à sua região. Faixas salariais em USD aplicam-se apenas a posições baseadas nos EUA; salários internacionais são definidos para o mercado local.
Faixa Salarial Base Esperada
$224,000—$336,000 USD
Estamos Todos Dentro
Lila Sciences está comprometida com igualdade de oportunidades de emprego, independentemente de raça, cor, ascendência, religião, sexo, origem nacional, orientação sexual, idade, cidadania, estado civil, deficiência, identidade de gênero ou status de veterano.
As informações que você fornecer durante o processo de inscrição serão tratadas de acordo com nossa Política de Privacidade do Candidato.
Uma Nota para Agências
Lila Sciences não aceita currículos não solicitados de nenhuma fonte, exceto de candidatos. O envio de currículos não solicitados por agências de recrutamento ou de pessoal para a Lila Sciences ou seus funcionários é estritamente proibido, a menos que contatado diretamente pela equipe interna de Aquisição de Talentos da Lila Science. Qualquer currículo enviado por uma agência na ausência de um acordo assinado se tornará automaticamente propriedade da Lila Sciences, e a Lila Sciences não deverá nenhuma taxa de indicação ou outra taxa a esse respeito.
Sobre a LILA
Lila Sciences está construindo Scientific Superintelligence™ para resolver os maiores desafios da humanidade. Acreditamos que a ciência é a fronteira mais inspiradora para a IA. Em vez de codificar conhecimento especializado em ferramentas, a LILA constrói sistemas que podem aprender por si mesmos.
A LILA combina modelos avançados de IA com instrumentos proprietários da AI Science Factory™ em um sistema operacional para ciência que executa todo o método científico autonomamente, acelerando a descoberta em velocidade, escala e impacto sem precedentes em medicina, materiais e energia. Saiba mais em lila.ai.
Guiados por nossos valores centrais de verdade, confiança, curiosidade, garra e velocidade, agimos com a velocidade de uma startup enquanto abordamos problemas de importância histórica. Se isso parece um ambiente em que você adoraria trabalhar, mesmo que não atenda a todas as qualificações listadas acima, nós o encorajamos a se candidatar.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil