Databricks / CI-CD - Senior DevOps Engineer (Remote)

Responsabilidades e atribuições

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs), disponibilizando templates reutilizáveis e escaláveis para os domínios de dados
• Definir a estratégia de controle de versão (Git), políticas de branching (trunk-based, GitFlow ou equivalente), fluxo de revisões de código (code review), versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab)
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel) e publicação em artifact registry
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Requisitos e qualificações

Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta;

• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases
• Domínio avançado de controle de versão com Git, estratégias de branching (trunk-based, GitFlow), pull requests, code review e proteção de branches
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).

• Desejáveis: Vivência prática com Databricks Asset Bundles (DABs), Databricks CLI e Databricks Repos
• Experiência em projetos de migração de Data Warehouse legado para arquitetura Lakehouse Databricks
• Conhecimento em observabilidade e monitoramento de pipelines e infraestrutura com ferramentas como DataDog ou similares
• Conhecimento em Infraestrutura como Código (IaC) com Terraform
• Experiência com outras ferramentas de esteira como Bitbucket Pipelines, GitLab CI ou GitHub Actions.

Informações adicionais

#remote