Research Engineer, Interpretability

Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Führungskräfte, die gemeinsam an der Entwicklung vorteilhafter KI-Systeme arbeiten.

ÜBER DIE ROLLE

Wenn Sie sehen, wozu moderne Sprachmodelle fähig sind, fragen Sie sich dann: „Wie funktionieren diese Dinge? Wie können wir ihnen vertrauen?“

Das Interpretability-Team bei Anthropic arbeitet daran, die Funktionsweise trainierter Modelle durch Reverse Engineering zu entschlüsseln, da wir davon überzeugt sind, dass ein mechanistisches Verständnis der robusteste Weg ist, um fortschrittliche Systeme sicher zu machen.

Stellen Sie sich vor, wir betreiben „Neurowissenschaft“ an neuronalen Netzen mithilfe von „Mikroskopen“, die wir selbst bauen – oder wir führen Reverse Engineering an neuronalen Netzen durch, ähnlich wie bei Binärprogrammen.

Weitere Ressourcen, um mehr über unsere Arbeit zu erfahren:

] Segment – Um 8:07 sehen Sie eine Demo der Tools, die unser Team entwickelt hat

Auch wenn Sie noch nicht an Interpretierbarkeit gearbeitet haben, ähnelt die Infrastruktur-Expertise dem, was über den gesamten Lebenszyklus eines produktiven Sprachmodells hinweg benötigt wird:

Die Wissenschaft skaliert weiter – und wird nun direkt bei Sicherheitsaudits www-cdn.anthropic.com/bf10f64990cfda0ba858290be7b8cc6317685f47.pdf an Frontier-Modellen mit echten Fristen angewendet. Da unsere Forschung gereift ist, sind Engineering und Infrastruktur zu einem Engpass geworden. Ihre Arbeit wird einen direkten Einfluss auf eines der wichtigsten offenen Probleme der KI haben.

ROLLENSPEZIFISCHE STANDORT-RICHTLINIE

Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt. Für Vertriebsrollen ist die angegebene Spanne die „On Target Earnings“ (OTE)-Spanne der Rolle, was bedeutet, dass die Spanne sowohl das Ziel für Verkaufsprovisionen/Verkaufsboni als auch das jährliche Grundgehalt für die Rolle umfasst.

Jahresgehalt: $315,000—$560,000 USD

LOGISTIK

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie glauben, nicht jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten werden jede einzelne aufgeführte Qualifikation erfüllen. Die Forschung zeigt, dass Menschen, die sich als zu unterrepräsentierten Gruppen zugehörig identifizieren, eher zu Imposter-Syndrom neigen und an der Stärke ihrer Kandidatur zweifeln. Daher bitten wir Sie, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Auswirkungen haben. Wir denken, dass dies Repräsentation noch wichtiger macht, und wir bemühen uns, eine Reihe verschiedener Perspektiven in unser Team aufzunehmen.

Ihre Sicherheit ist uns wichtig. Um sich vor potenziellen Betrugsversuchen zu schützen, denken Sie daran, dass Recruiter von Anthropic Sie nur von @anthropic.com-E-Mail-Adressen aus kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic handelnd identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Recruiter von Anthropic werden Sie niemals vor Ihrem ersten Arbeitstag nach Geld, Gebühren oder Bankdaten fragen. Wenn Sie sich bei einer Kommunikation jemals unsicher sind, klicken Sie auf keine Links – besuchen Sie direkt anthropic.com/careers anthropic.com/careers für bestätigte Stellenangebote.

WIE WIR UNS UNTERSCHEIDEN

Wir glauben, dass die wirkungsvollste KI-Forschung „Big Science“ sein wird. Bei Anthropic arbeiten wir als ein geschlossenes Team an nur wenigen groß angelegten Forschungsvorhaben. Und wir schätzen Wirkung – das Vorantreiben unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI – mehr als die Arbeit an kleineren und spezifischeren Rätseln. Wir betrachten KI-Forschung als eine empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine extrem kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir jederzeit die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist das Lesen unserer aktuellen Forschung. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodale Neuronen, Skalierungsgesetze, KI & Compute, Konkrete Probleme in der KI-Sicherheit und Lernen aus menschlichen Präferenzen.

Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Spendenanpassung für Anteile, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können. Anleitung zur KI-Nutzung durch Kandidaten: Erfahren Sie mehr über unsere Richtlinie anthropic.com/candidate-ai-guidance zur Nutzung von KI in unserem Bewerbungsprozess.