ambi.
Rhenus Logistics
Engenheiro(a) de Dados Sênior
SQL
Tradução automática. Consulte o original.
O que você pode esperar
Sobre a Vaga
Estamos buscando um(a) Engenheiro(a) de Plataforma de Dados Azure experiente e orientado(a) a soluções para desenvolver, operar e otimizar nossa moderna plataforma de dados baseada em Azure. Nesta função, você se concentrará em Azure, Databricks, infraestrutura de dados e CI/CD, apoiando ambientes multi-tenant e possibilitando soluções de dados confiáveis e escaláveis.
Principais responsabilidades
- Desenvolver uma Plataforma de Dados Moderna em Azure: Projetar, construir e operar soluções de dados de ponta a ponta usando Azure Data Factory, Azure Data Lake Storage Gen2, Databricks e Azure Synapse Analytics.
- Criar Pipelines de Dados: Desenvolver e manter pipelines ETL/ELT escaláveis usando PySpark e Spark, com forte foco em qualidade de dados, confiabilidade e desempenho.
- Suporte a Ambientes Multi-Tenant: Suportar e operar plataformas de dados multi-tenant em múltiplos ambientes (desenvolvimento, teste, produção) com clara separação e governança.
- Operações de Infraestrutura e Plataforma: Provisionar, configurar e manter a infraestrutura de dados Azure, garantindo estabilidade, segurança e escalabilidade.
- CI/CD para Plataformas de Dados: Construir e manter pipelines de CI/CD para pipelines de dados e cargas de trabalho de Databricks, possibilitando implantações automatizadas entre ambientes.
- Uso de Azure Eficiente em Custo e Boas Práticas: Aplicar as melhores práticas de Azure para otimizar desempenho e custo, incluindo dimensionamento de recursos, gerenciamento de ciclo de vida e monitoramento de custos.
- Colaboração com Equipes de BI e Dados: Trabalhar em estreita colaboração com equipes de BI e dados para suportar modelos de dados e soluções de relatórios eficientes.
- Noções Básicas de Governança e Segurança de Dados: Apoiar requisitos de governança de dados, como controle de acesso, manuseio seguro de dados e gerenciamento básico de metadados.
O que você traz
- Experiência em Plataforma de Dados Azure: Vários anos de experiência prática com Azure Data Factory, ADLS Gen2, Databricks e Azure Synapse Analytics.
- PySpark e Spark: Forte experiência na construção de pipelines de processamento de dados distribuídos usando PySpark e Spark.
- Conhecimento de ETL / ELT: Sólido entendimento de conceitos de ETL/ELT e práticas de modelagem de dados.
- CI/CD e Automação: Experiência com pipelines de CI/CD para cargas de trabalho de dados e automação básica de implantações.
- Habilidades em SQL: Fortes habilidades em SQL e experiência em otimização de consultas analíticas.
- Formatos de Dados: Experiência prática com Parquet e/ou Avro.
- Consciência de Infraestrutura: Bom entendimento da estrutura de recursos Azure, ambientes e melhores práticas operacionais.
- Mentalidade Analítica e Orientada para Equipe: Abordagem focada em soluções com capacidade de trabalhar de forma independente e colaborativa.
- Habilidades Linguísticas: Fluência em inglês é necessária; conhecimento de alemão é uma vantagem.
Observação: Esta é uma vaga remota na União Europeia. Os candidatos precisam residir em um país onde a Rhenus Overland Transport já esteja estabelecida.
