Cummins
Softgic
Engenheiro(a) de Dados Sênior – Qualidade e Observabilidade de Dados | 1789
Sobre a oportunidade
Você é apaixonado(a) por construir plataformas de dados confiáveis e escaláveis e por melhorar a qualidade dos dados em nível corporativo? Estamos procurando um(a) Engenheiro(a) de Dados Sênior – Qualidade e Observabilidade de Dados para liderar a implementação de um framework moderno de qualidade de dados, capacitando as equipes de engenharia a detectar, monitorar e prevenir problemas de dados antes que eles impactem as operações de negócios.
Nesta função, você impulsionará a implementação de práticas de qualidade de dados de propriedade da engenharia, operacionalizará o GX Core, estabelecerá padrões de validação e construirá soluções de observabilidade que aumentam a confiança em relatórios, processos de sincronização e fluxos de trabalho operacionais.
Responsabilidades
- Projetar e implementar um framework escalável de qualidade de dados em toda a plataforma.
- Liderar a implementação e operacionalização do GX Core (Great Expectations) como o principal framework de validação de dados.
- Desenvolver e manter regras reutilizáveis de qualidade de dados usando uma abordagem de Regra como Código (Rule-as-Code).
- Criar verificações de validação automatizadas para conjuntos de dados e fluxos de trabalho críticos para os negócios.
- Implementar observabilidade de dados, monitoramento, alertas e soluções de relatórios.
- Definir e manter a linhagem de dados em domínios de negócios chave.
- Projetar processos de validação para completude, precisão, integridade, consistência, reconciliação, atualidade e detecção de anomalias de dados.
- Integrar validações de qualidade de dados em pipelines de CI/CD e processos de release.
- Desenvolver dashboards e relatórios para monitorar tendências de qualidade de dados e saúde operacional.
- Investigar as causas raiz de problemas recorrentes de dados e implementar soluções preventivas.
- Colaborar com as equipes de Engenharia de Dados, Engenharia de Aplicações, QA, Produto e Suporte para estabelecer propriedade e governança para a qualidade dos dados.
- Definir padrões para governança, frequência de validação, fluxos de trabalho de remediação e métricas de qualidade.
- Melhorar continuamente os processos de qualidade de dados e estabelecer melhores práticas de observabilidade a longo prazo.
Requisitos
- 5+ anos de experiência como Engenheiro(a) de Dados ou em funções similares de engenharia de dados.
- Forte experiência em projetar e implementar frameworks corporativos de Qualidade de Dados.
- Experiência prática com GX Core (Great Expectations) ou ferramentas similares como Soda.
- Fortes habilidades em SQL e experiência trabalhando com Aurora PostgreSQL e Amazon Redshift.
- Experiência em projetar regras de validação de dados, processos de reconciliação e soluções de observabilidade.
- Experiência em construir e manter pipelines ETL e fluxos de trabalho de dados em larga escala.
- Forte entendimento de modelagem de dados, integridade referencial, sincronização e processamento em lote.
- Experiência em integrar validação de dados em pipelines de CI/CD.
- Experiência com Git e melhores práticas de engenharia como Regra como Código (Rule-as-Code).
- Experiência em construir dashboards, alertas e relatórios para monitoramento operacional.
- Fortes habilidades analíticas e de resolução de problemas com experiência em realizar análise de causa raiz.
- Experiência em colaboração com equipes de engenharia multifuncionais.
- Excelentes habilidades de comunicação e documentação.
O que Oferecemos
- ? Posição totalmente remota.
- ? Oportunidade de construir soluções de qualidade e observabilidade de dados em escala corporativa.
- ? Função de alto impacto com propriedade sobre a estratégia de qualidade de dados e melhores práticas de engenharia.
- ? Ambiente colaborativo trabalhando ao lado das equipes de Engenharia de Dados, QA, Produto e Engenharia de Aplicações.
- ? Oportunidade de trabalhar com validação de dados moderna, observabilidade e tecnologias de dados em nuvem, impulsionando a melhoria contínua em toda a plataforma.
