Corning
Lingaro
Data Engineer - Azure
Automatische Übersetzung. Prüfe das Original.
Aufgaben
- Erstellung von Datenpipelines zur Aufnahme von Daten aus verschiedenen Quellen wie Datenbanken, APIs oder Streaming-Plattformen.
- Integration und Transformation von Daten, um deren Kompatibilität mit dem Ziel-Datenmodell oder -Format sicherzustellen.
- Entwurf und Optimierung von Datenspeicherarchitekturen, einschließlich Data Lakes, Data Warehouses oder verteilter Dateisysteme.
- Implementierung von Techniken wie Partitionierung, Komprimierung oder Indizierung zur Optimierung der Datenspeicherung und -abfrage.
- Identifizierung und Behebung von Engpässen, Optimierung von Abfragen und Implementierung von Caching-Strategien zur Verbesserung der Datenabrufgeschwindigkeit und der Gesamtsystemeffizienz.
- Entwurf und Implementierung von Datenmodellen, die eine effiziente Datenspeicherung, -abfrage und -analyse unterstützen.
- Zusammenarbeit mit Data Scientists und Analysten, um deren Anforderungen zu verstehen und ihnen gut strukturierte und optimierte Daten für Analyse- und Modellierungszwecke zur Verfügung zu stellen.
- Zusammenarbeit mit funktionsübergreifenden Teams, einschließlich Data Scientists, Analysten und Business Stakeholdern, um deren Anforderungen zu verstehen und technische Lösungen bereitzustellen.
- Vermittlung komplexer technischer Konzepte an nicht-technische Stakeholder auf klare und prägnante Weise.
- Eigenständigkeit und Verantwortung für die Lieferung einer Lösung.
- Fähigkeit zur Arbeit unter agilen und Scrum Entwicklungsmethoden.
- Schulung und Mentoring von Junior Data Engineers, Bereitstellung von Anleitung und Wissenstransfer.
- Entwurf und Implementierung von Datenverarbeitungssystemen auf der Azure Plattform. Dies beinhaltet das Schreiben von effizientem und skalierbarem Code zur Verarbeitung, Transformation und Bereinigung großer Mengen strukturierter und unstrukturierter Daten.
- Erstellung von Datenpipelines zur Aufnahme von Daten aus verschiedenen Quellen wie Datenbanken, APIs oder Streaming-Plattformen.
- Integration und Transformation von Daten, um deren Kompatibilität mit dem Ziel-Datenmodell oder -Format sicherzustellen.
- Identifizierung und Behebung von Engpässen, Optimierung von Abfragen und Implementierung von Caching-Strategien zur Verbesserung der Datenabrufgeschwindigkeit und der Gesamtsystemeffizienz.
- Zusammenarbeit mit funktionsübergreifenden Teams, einschließlich Data Scientists, Analysten und Business Stakeholdern, um deren Anforderungen zu verstehen und technische Lösungen bereitzustellen.
Was wir suchen
- Databricks 4/5.
- Apache Spark 4/5.
- Programmierung – Daten 4/5.
- Softwareentwicklung für DE – 4/5.
- Azure Services – 3/5.
- Technische Führung – 3/5.
- Architektur – Datenverarbeitung – 3/5.
- GenAI für Data Engineering – 3/5.
- CI/CD Automatisierung 3/5.
Sonstiges
- 4-6 Jahre Berufserfahrung in einer ähnlichen Rolle.
- Sehr gutes Kommunikationsniveau, einschließlich der Fähigkeit, Informationen klar und präzise an Kollegen und Business Stakeholder zu vermitteln.
- Praktische Erfahrung mit agilen Methoden – unterstützende Tools (JIRA, Azure DevOps).
- Eigenständigkeit und Verantwortung bei der Lieferung von Lösungen.
- Fähigkeit zur Arbeit unter agilen Methoden.
- Praktische Erfahrung im Entwurf und der Optimierung von Datenspeichern (Data Lakes, Data Warehouses, verteilte Dateisysteme).
- Erfahrung oder Vertrautheit mit anderen Cloud-Technologien, Data Warehouses, Data Governance und Business-Analyse ist ein Plus.
\n \n $1 - $2 pro Monat \n
