The MITRE Corporation
Apple
ML Evaluation Specialist, Human Data
Über die Stelle
Bei Apple entwickeln wir nicht nur Produkte – wir entwickeln Erlebnisse, die von erstklassigen Daten angetrieben werden.
Das Team Human-centered AI innerhalb von Apple Services Engineering sucht einen ML Evaluation Specialist, Human Data für unsere Abteilung Data Quality and Operations, um komplexe, Multi-Stakeholder-Operationen zu leiten, die sich auf Datenerfassung, -kuratierung, -annotation und menschliche Evaluierungsbemühungen für Apple Music, App Store, TV+, Podcasts und Books spezialisieren.
Der ideale Kandidat bringt eine seltene Kombination aus technischer Tiefe und Programmausführungsfähigkeiten mit.
Sie legen großen Wert auf Datenqualität und menschliche Ausrichtung, verfolgen einen kreativen und systematischen Ansatz zur Problemlösung und finden Motivation in weitreichenden Arbeiten, deren Auswirkungen sich in alltäglichen Apple-Erlebnissen zeigen.
Der ideale Kandidat bringt eine seltene Kombination aus technischer Tiefe und Programmausführungsfähigkeiten mit.
Sie legen großen Wert auf Datenqualität und menschliche Ausrichtung, verfolgen einen kreativen und systematischen Ansatz zur Problemlösung und finden Motivation in weitreichenden Arbeiten, deren Auswirkungen sich in alltäglichen Apple-Erlebnissen zeigen.
BESCHREIBUNG
In dieser Rolle verantworten Sie die operative Strategie und die kontinuierliche Verbesserung von groß angelegten, mehrsprachigen Human-Data-Programmen, von der Gestaltung von Onboarding-Strukturen, die schrittweise die Kalibrierung von Annotatoren aufbauen, über die Analyse von Annotatoren-Verhaltensmustern zur Identifizierung, wo Automatisierung Low-Judgment-Entscheidungen abnehmen kann, bis hin zur Durchsetzung von Qualitäts-Frameworks, die den Kreislauf zwischen Annotatoren-Schwierigkeiten und Aufgabenneugestaltung schließen.
Sie identifizieren, wo menschliches Urteilsvermögen unerlässlich ist und wo es besser eingesetzt werden könnte, und bauen dann die Strukturen, die Automatisierung und die Feedback-Systeme auf, die es den Annotatoren ermöglichen, ihre kognitive Energie auf das Wesentliche zu konzentrieren.
Da diese Arbeit über Engineering, Data Science, Forschung, Beschaffung und Recht hinweggeht, ist ein wichtiger Teil der Rolle die Funktion als Bindeglied zwischen Teams, die jeweils einen Teil dieses Bereichs verantworten, die Abstimmung auf gemeinsame Standards, die Aufdeckung von Lücken und die Sicherstellung, dass Erkenntnisse aus der Annotationsschicht vorgelagerte Entscheidungen über Aufgabendesign und Tooling informieren.
Sie bringen eine Perspektive auf Best Practices für Human Data ein und übersetzen diese in skalierbare, menschenzentrierte Ansätze, die generative KI-Funktionen sicherer und zuverlässiger machen.
Sie sind in der Lage, morgens komplexe Datenpipelines zu entwerfen und bereitzustellen und nachmittags nahtlos umfassende Strategien zur Qualitätsverbesserung an Stakeholder zu präsentieren.
In dieser Rolle verantworten Sie die operative Strategie und die kontinuierliche Verbesserung von groß angelegten, mehrsprachigen Human-Data-Programmen, von der Gestaltung von Onboarding-Strukturen, die schrittweise die Kalibrierung von Annotatoren aufbauen, über die Analyse von Annotatoren-Verhaltensmustern zur Identifizierung, wo Automatisierung Low-Judgment-Entscheidungen abnehmen kann, bis hin zur Durchsetzung von Qualitäts-Frameworks, die den Kreislauf zwischen Annotatoren-Schwierigkeiten und Aufgabenneugestaltung schließen.
Sie identifizieren, wo menschliches Urteilsvermögen unerlässlich ist und wo es besser eingesetzt werden könnte, und bauen dann die Strukturen, die Automatisierung und die Feedback-Systeme auf, die es den Annotatoren ermöglichen, ihre kognitive Energie auf das Wesentliche zu konzentrieren.
Da diese Arbeit über Engineering, Data Science, Forschung, Beschaffung und Recht hinweggeht, ist ein wichtiger Teil der Rolle die Funktion als Bindeglied zwischen Teams, die jeweils einen Teil dieses Bereichs verantworten, die Abstimmung auf gemeinsame Standards, die Aufdeckung von Lücken und die Sicherstellung, dass Erkenntnisse aus der Annotationsschicht vorgelagerte Entscheidungen über Aufgabendesign und Tooling informieren.
Sie bringen eine Perspektive auf Human-Data-Best Practices ein und übersetzen diese in skalierbare, menschenzentrierte Ansätze, die generative KI-Funktionen sicherer und zuverlässiger machen.
Sie sind in der Lage, morgens komplexe Datenpipelines zu entwerfen und bereitzustellen und nachmittags nahtlos umfassende Strategien zur Qualitätsverbesserung an Stakeholder zu präsentieren.
MINDESTQUALIFIKATIONEN
- Bachelor-Abschluss oder höher in Kognitionswissenschaft, Linguistik oder einem verwandten Fachgebiet, das eine experimentelle oder empirische Komponente beinhaltet
- 4+ Jahre Erfahrung in der Definition und Leitung von abteilungsübergreifenden Human-Data-Programmen für KI/ML, einschließlich Annotation-Operationen, Qualitäts-Frameworks und Evaluierungsstrategien, in einer NLP/NLU- oder generativen KI-Umgebung
- Beherrschung von Programmier- und Datensprachen (Python, R, SQL) zur Verarbeitung, Analyse und Abfrage großer Datensätze, zur Gewinnung von Erkenntnissen, zur Automatisierung von Aufgaben und zur Überwachung der Programmleistung
- Praktische Erfahrung in der Gestaltung und Verwaltung von 0→1 Human-in-the-Loop Datenerfassungs-, Annotations- und Evaluierungsinitiativen, einschließlich der Steuerung und Einbeziehung von agentischen Workflows zur Verbesserung von Qualität und Skalierbarkeit
- Erfahrung in der Arbeit mit verschiedenen Datentypen (z. B. Sprache, Text, multimodal) in mehreren Sprachen
- Expertise im End-to-End-Datenqualitätsmanagement für Annotationen, einschließlich der Fähigkeit, statistische Prozesskontrollen und Datenqualitätsmetriken zu entwickeln
- Kenntnisse von datenschutzfreundlichen Datenhandhabungspraktiken und Compliance-Frameworks
- Nachgewiesener Erfolg bei der Optimierung von Datenpipelines und Workflows zur Verbesserung der Qualität, Reduzierung der Durchlaufzeit und Skalierung von Operationen
- Erfahrung in der funktionsübergreifenden Zusammenarbeit mit Engineering, Data Science, Recht, Datenschutz und Drittanbietern
BEVORZUGTE QUALIFIKATIONEN
- Master-Abschluss oder höher in Kognitionswissenschaft, Linguistik oder einem verwandten Fachgebiet, das eine experimentelle oder empirische Komponente beinhaltet
- 2+ Jahre Erfahrung in der Verantwortung für Datenstrategien für die Entwicklung und Evaluierung von Frontier-KI, mit Erfahrung in Methoden zur menschlichen Ausrichtung und agentischen GenAI-Systemen
- Erfahrung in der Verwaltung externer Anbieter oder Arbeitskräftepartner in großem Maßstab
- Kenntnisse von Prinzipien der KI-Sicherheit und Responsible AI, einschließlich Erfahrung in deren Anwendung auf Daten-Erfassungs- oder Annotations-Workflows
- Starke organisatorische Fähigkeiten und eine umsetzungsorientierte Denkweise; Fähigkeit, Detailgenauigkeit mit dem Blick für das große Ganze in einer Umgebung auszubalancieren, in der sich Programmbereiche und Prioritäten schnell ändern
- Ausgezeichnete schriftliche und mündliche Kommunikationsfähigkeiten; Fähigkeit, technische Konzepte für nicht-technische Stakeholder zu übersetzen
