* Salário: R$ 11.000 a R$ 20.000 por mês (estimado)
* O valor exibido é uma estimativa calculada com base em dados públicos e referências do mercado. Não garantimos que este seja o salário oferecido para esta vaga específica.
Área: Tecnologia da Informação
Nível: Senior
.
Responsabilidades e atribuições
- Construir o novo Lakehouse corporativo utilizando Databricks na AWS;
- Desenvolver pipelines de dados batch e streaming com PySpark e Spark SQL;
- Criar e sustentar a arquitetura Medallion (Bronze, Silver e Gold) no Delta Lake;
- Participar da criação da nova modelagem de dados do Data Warehouse;
- Migrar dados, pipelines e rotinas do ambiente atual em Databricks on Azure para AWS;
- Migrar jobs e integrações do IBM DataStage, Azure Data Factory e Azure Synapse Analytics;
- Migrar Workspaces Databricks entre ambientes Azure e AWS;
- Configurar e operar governança de dados utilizando Unity Catalog e Odin;
- Implementar monitoramento, testes e qualidade de dados;
- Atuar em conjunto com DevOps na automação de deploys e CI/CD;
- Versionar notebooks, pipelines e códigos utilizando Git e Databricks Repos.
Requisitos e qualificações
- Experiência sólida como Engenheiro(a) de Dados;
- Conhecimento avançado em Databricks e Apache Spark;
- Experiência com desenvolvimento em Python e SQL avançado;
- Vivência em ambientes AWS(S3,Glue Catalog,Lake Formation);
- Experiência com arquitetura Lakehouse e Delta Lake;
- Conhecimento em modelagem dimensional e Data Warehouse;
- Experiência com pipelines batch e streaming;
- Conhecimento em Git e processos de CI/CD;
- Experiência em projetos de migração cloud e modernização de dados.
- Diferenciais:
- Experiência com IBM DataStage;
- Conhecimento em Azure Data Factory,Azure Synapse Analytics;
- Experiência com governança e catalogação de dados.
Etapas do processo
- Etapa 1: Cadastro
- Etapa 2: Mapeamento de Stack
- Etapa 3: Fit Cultural
- Etapa 4: Entrevista Líder
- Etapa 5: Cadastro de Qualificação
- Etapa 6: Oferta e Negociação
- Etapa 7: Contratação
Become a Compasser, be part of AI/R.
Confidencial (Apenas para Cadastrados) is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.
We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.
To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.
We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.
Join us and be part of the AI-driven revolution.