Caro usuário, habilite o javascript para que esse site funcione corretamente.

Spark Data Engineer | Senior

* Salário: R$ 11.000 a R$ 20.000 por mês (estimado)

* O valor exibido é uma estimativa calculada com base em dados públicos e referências do mercado. Não garantimos que este seja o salário oferecido para esta vaga específica.

Área: Tecnologia da Informação

Nível: Senior

.

Responsabilidades e atribuições

  • Desenvolver e manter pipelines de dados ETL/ELT em ambientes de alta volumetria e complexidade, utilizando Apache Spark (Scala e Python) e AWS;
  • Atuar na evolução e expansão da Plataforma Analítica, com foco em arquiteturas e tecnologias de Big Data;
  • Levantar, analisar e traduzir requisitos de negócio em soluções técnicas de dados;
  • Elaborar e manter modelos de dados analíticos, métricas e indicadores;
  • Integrar múltiplas fontes de dados, incluindo streams (Apache Kafka / MSK) e bancos SQL e NoSQL;
  • Desenvolver, operar e evoluir pipelines de dados em ambientes produtivos;
  • Garantir escalabilidade, performance, confiabilidade, qualidade e governança das informações;
  • Preparar, tratar e disponibilizar dados para consumo analítico e operacional;
  • Automatizar a criação, configuração e monitoramento de pipelines e ambientes de dados;
  • Atuar na gestão de SLAs, correção de falhas e resolução de incidentes em fluxos de dados;
  • Trabalhar de forma colaborativa em squads ágeis, apoiando decisões técnicas e promovendo boas práticas de engenharia de dados;
  • Contribuir com mentoria técnica e disseminação de conhecimento no time.

Requisitos e qualificações

  • Domínio de Python e Scala, aplicados à engenharia de dados;
  • Sólidos conhecimentos em SQL e PL/SQL;
  • Experiência mandatória com Apache Spark (Batch e Streaming);
  • Vivência sólida em AWS, incluindo Lambda, S3, Glue e MSK;
  • Experiência com bancos de dados relacionais (Oracle e Postgres);
  • Experiência com bancos NoSQL (Cassandra e ScyllaDB);
  • Experiência com mensageria e streaming de dados utilizando Apache Kafka;
  • Vivência em ambientes de alta criticidade, com requisitos elevados de disponibilidade, segurança e confiabilidade;
  • Experiência na criação e manutenção de modelos de dados, métricas e indicadores de negócio.


Etapas do processo

  1. Etapa 1: Cadastro
  2. Etapa 2: Mapemaneto de Stack
  3. Etapa 3: Fit Cultural
  4. Etapa 4: Entrevista Líder
  5. Etapa 5: Oferta e Negociação
  6. Etapa 6: Contratação

Become a Compasser, be part of AI/R.

Confidencial (Apenas para Cadastrados) is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.


We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.


BUSCAS DE VAGAS SEMELHANTES