Vereinigte Staaten
Redwood Materials
Lila Sciences
Staff / Principal Research Engineer, AI Safety Mitigations
Vereinigte Staaten
London, England, United Kingdom · San Francisco, California, United States · Cambridge, Massachusetts, United States
Automatische Übersetzung. Prüfe das Original.
Ihr Einfluss bei LILA
Wir bauen ein talentiertes, handlungsstarkes KI-Sicherheitsteam bei Lila auf, das alle Kernteams des Unternehmens (Wissenschaft, Modelltraining, Laborintegration usw.) einbezieht, um Risiken durch wissenschaftliche Superintelligenz zu identifizieren und zu mindern und gleichzeitig die Kernfähigkeiten des Stacks für wissenschaftliche Entdeckungen zu erhalten. Der anfängliche Schwerpunkt dieses Teams wird auf dem Aufbau und der Implementierung einer maßgeschneiderten Sicherheitsstrategie für Lila liegen, die auf seine spezifischen Ziele und Bereitstellungsstrategien zugeschnitten ist. Dies wird die Entwicklung technischer Sicherheitsstrategien, breitere Ökosystem-Engagement, sicherheitsorientierte Bewertungen, Sicherheitssysteme zur Risikominderung und eine Forschungsagenda umfassen, die längerfristige Bedürfnisse wie die Aufsicht über superintelligente wissenschaftliche Systeme untersucht.
Bei Lila Sciences entwickeln und testen Sie Schutzmaßnahmen, die gesellschaftliche Risiken durch zunehmend leistungsfähige, geschlossene wissenschaftliche KI reduzieren. Dies ist eine hochpriorisierte Einzelbeitragsrolle für einen Ingenieur, der Sicherheitsinterventionen bei der Entwicklung und Bereitstellung von Frontier-Modellen entwickelt hat und diese Erfahrung auf wissenschaftliche Modelle, Agenten, Werkzeuge und laborbezogene Arbeitsabläufe anwenden möchte.
Sie arbeiten mit Fachwissenschaftlern, Risikoforschern, Gutachtern und Ingenieurteams zusammen, um Risikofunde und politische Anforderungen in wirksame Interventionen umzuwandeln. Die Arbeit umfasst Forschung und Implementierung: Entwicklung von Ansätzen, Testen ihrer Grenzen und Hilfe bei der Integration zuverlässiger Schutzmaßnahmen in die Systeme, in denen sie benötigt werden. Wir sind offen für unterschiedliche Senioritätsstufen und Tiefen bei den Minderungsansätzen.
Was Sie bauen werden
- Übersetzen Sie wissenschaftliche Risikobewertungen, Dual-Use-Politikgrenzen und Evaluationsergebnisse in konkrete Minderungsdesigns und testbare Anforderungen.
- Entwickeln und implementieren Sie Schutzmaßnahmen, die auf das Problem zugeschnitten sind, möglicherweise einschließlich Modelltraining, Klassifikatoren, Überwachung, Zugriffskontrollen und Laufzeitinterventionen.
- Erstellen Sie Experimente, die Risikominderung, Robustheit und Auswirkungen auf die legitime wissenschaftliche Nutzung sowie praktische Leistungsbeschränkungen messen.
- Nutzen Sie gegnerische Erkenntnisse und beobachtete Fehler, um Schutzmaßnahmen zu verbessern, und arbeiten Sie eng mit Forschern für automatisierte Sicherheit und wissenschaftliche Evaluierung zusammen.
- Arbeiten Sie direkt mit den Teams für Modelltraining, Nachbearbeitung, Inferenz und Plattform zusammen, um Minderungsmaßnahmen in die Modellentwicklung, Release-Evaluierung und groß angelegte Serving-Systeme zu integrieren, mit entsprechender Instrumentierung und reproduzierbarer Tests.
- Untersuchen Sie Regressionen, Verteilungsverschiebungen und aufkommende Missbrauchsmuster und nutzen Sie die Beweise, um die weitere Entwicklung zu steuern.
Was Sie für den Erfolg benötigen
- Praktische Erfahrung in der Entwicklung und Validierung von Sicherheitsinterventionen für Frontier-Modelle in Trainings-, Nachbearbeitungs- oder groß angelegten Inferenzsystemen, mit Beiträgen zu Modellentwicklungs- oder Freigabezyklen.
- Tiefe Kenntnisse in mindestens einem relevanten Bereich, wie z. B. Sicherheit nach dem Training, klassifikatoren auf Modellebene, Schutzmaßnahmen, die in die Inferenz integriert sind, oder Missbrauchsüberwachung und -durchsetzung auf einer Modell-Serving-Plattform.
- Erfahrung in der direkten Zusammenarbeit mit Modellentwicklungs- oder Schutzteams, wobei der für die Intervention geeignete Zugriff genutzt wird – wie z. B. Trainingspipelines, Modellinterna, Inferenzinfrastruktur oder systematischer Evaluationszugriff –, um Fehler zu untersuchen und Verbesserungen zu implementieren.
- Starke Forschungs- und Ingenieursfähigkeiten und die Fähigkeit, von einem unklaren Problem zu funktionierenden, wartbaren Implementierungen zu gelangen.
- Fundiertes experimentelles Urteilsvermögen, einschließlich der Fähigkeit, Robustheit zu bewerten, unvollkommene Metriken zu interpretieren und über konkurrierende Ziele nachzudenken.
- Die Fähigkeit zur Zusammenarbeit in Forschungs- und Ingenieurteams, zur Erklärung technischer Kompromisse und zur Übernahme der Verantwortung für komplexe individuelle Beiträge.
Bonuspunkte für
- Erfahrung mit wissenschaftlichen Modellen, wissenschaftlicher Software oder laborbezogenen Systemen.
- Sicherheitsarbeit mit Tool-nutzenden Agenten, mehrstufigen Arbeitsabläufen oder schwerwiegenden Missbrauchsfällen.
- Erfahrung in der Verknüpfung von Expertenwissen und politischen Anforderungen mit Trainingsdaten, Bewertungskriterien oder operativen Kontrollen.
Vergütung
Wir bieten eine wettbewerbsfähige Grundvergütung mit Bonusziel und großzügigen Frühphasen-Aktienoptionen. Ihr endgültiges Angebot spiegelt Ihren Hintergrund, Ihre Expertise und Ihre erwartete Wirkung wider.
US-Leistungen. Vollzeit-US-Mitarbeiter erhalten ein umfassendes Leistungsprogramm, einschließlich Kranken-, Zahn- und Augenversicherungen; vom Arbeitgeber bezahlte Lebens- und Invalidenversicherungen; flexible Urlaubszeiten mit großzügigen Feiertagen im gesamten Unternehmen; bezahlter Elternurlaub; ein Bildungshilfeprogramm; Pendlerleistungen, einschließlich Fahrrad-Sharing-Mitgliedschaften für Büromitarbeiter; und ein vom Unternehmen subventioniertes Mittagessen.
Internationale Leistungen. Vollzeitmitarbeiter außerhalb der USA erhalten ein umfassendes Leistungsprogramm, das auf ihre Region zugeschnitten ist. USD Gehaltsspannen gelten nur für US-basierte Positionen; internationale Gehälter werden an den lokalen Markt angepasst.
Erwartete Gehaltsspanne (Grundgehalt)
$224,000—$336,000 USD
Wir sind voll dabei
Lila Sciences setzt sich für Chancengleichheit ein, unabhängig von Rasse, Hautfarbe, Herkunft, Religion, Geschlecht, nationaler Herkunft, sexueller Orientierung, Alter, Staatsbürgerschaft, Familienstand, Behinderung, Geschlechtsidentität oder Veteranenstatus.
Die Informationen, die Sie während Ihres Bewerbungsprozesses angeben, werden gemäß unserer Kandidaten-Datenschutzrichtlinie behandelt.
Eine Notiz an Agenturen
Lila Sciences akzeptiert keine unaufgeforderten Lebensläufe von anderen Quellen als Kandidaten. Die Einreichung unaufgeforderter Lebensläufe durch Rekrutierungs- oder Personalvermittlungsagenturen an Lila Sciences oder seine Mitarbeiter ist strengstens untersagt, es sei denn, sie werden direkt vom internen Talentakquisitionsteam von Lila Science kontaktiert. Jeder Lebenslauf, der von einer Agentur ohne unterzeichnete Vereinbarung eingereicht wird, wird automatisch Eigentum von Lila Sciences, und Lila Sciences schuldet diesbezüglich keine Vermittlungs- oder andere Gebühren.
Über LILA
Lila Sciences baut Scientific Superintelligence™ auf, um die größten Herausforderungen der Menschheit zu lösen. Wir glauben, dass Wissenschaft die inspirierendste Grenze für KI ist. Anstatt Expertenwissen in Werkzeuge zu kodieren, baut LILA Systeme, die selbst lernen können.
LILA kombiniert fortschrittliche KI-Modelle mit proprietären AI Science Factory™-Instrumenten zu einem Betriebssystem für die Wissenschaft, das die gesamte wissenschaftliche Methode autonom ausführt und die Entdeckung mit beispielloser Geschwindigkeit, Skalierung und Wirkung in den Bereichen Medizin, Materialien und Energie beschleunigt. Erfahren Sie mehr unter lila.ai.
Geleitet von unseren Kernwerten Wahrheit, Vertrauen, Neugier, Tatkraft und Geschwindigkeit bewegen wir uns mit Startup-Geschwindigkeit, während wir Probleme von historischer Bedeutung angehen. Wenn dies nach einem Umfeld klingt, in dem Sie gerne arbeiten würden, auch wenn Sie nicht alle oben genannten Qualifikationen erfüllen, ermutigen wir Sie, sich zu bewerben.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen