DevOps Essentials for Data Engineering - Portuguese BR

Este curso explora as melhores práticas de engenharia de software e os princípios de DevOps, projetados especificamente para engenheiros de dados que trabalham com Databricks. Os participantes construirão uma base sólida em tópicos-chave, como qualidade de código, controle de versão, documentação e testes. O curso enfatiza o DevOps, abordando os principais componentes, os benefícios e o papel da continuous integration e delivery (CI/CD) na otimização dos fluxos de trabalho de engenharia de dados.

Você aprenderá a aplicar princípios de modularidade no PySpark para criar componentes reutilizáveis e estruturar código de forma eficiente. A experiência prática inclui o projeto e a implementação de testes unitários para funções do PySpark usando a estrutura pytest, seguidos por testes de integração para pipelines de dados Databricks com DLT (Delta Live Tables) e fluxos de trabalho para garantir a confiabilidade.

O curso também aborda operações essenciais do Git no Databricks, incluindo o uso de pastas Git do Databricks para integrar práticas de integração contínua. Por fim, você examinará de alto nível vários métodos de implantação de ativos do Databricks, como REST API, CLI, SDK e DABs (Databricks Asset Bundles), fornecendo o conhecimento de técnicas para implantar e gerenciar seus pipelines.

Ao final do curso, você será proficiente em software engineering e práticas recomendadas de DevOps, permitindo que você crie soluções de engenharia de dados escaláveis, sustentáveis e eficientes.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Associate

Duration

Prerequisites

Conhecimento proficiente da plataforma Databricks, incluindo experiência com Databricks Workspaces, Apache Spark, Delta Lake e Medallion Architecture, Unity Catalog, Delta Live Tables e fluxos de trabalho. Uma compreensão básica do controle de versão Git também é necessária.
Experiência em ingestão e transformação de dados, com proficiência em PySpark para processamento de dados e manipulações de DataFrame. Além disso, os candidatos devem ter experiência em escrever queries SQL de nível intermediário para análise e transformação de dados.
Conhecimento de programação Python, com proficiência em escrever código Python de nível intermediário, incluindo a capacidade de projetar e implementar funções e classes. Os usuários também devem ser hábeis em criar, importar e utilizar efetivamente pacotes Python.

Outline

Software Engineering, DevOps e Fundamentos de CI/CD

Introdução às práticas recomendadas de Software Engineering (SWE)

Introdução a Modularizando Código em PySpark

Modularizar o Código PySpark

Fundamentos de DevOps

O papel da CI/CD na DevOps

Verificação de Conhecimento/Discussão

Continuous Integration

Planejando do Projeto

Exploração de configuração do projeto

Introdução aos testes de unidade para PySpark

Criando e executando testes unitários

Executando testes de integração com DLT e Fluxos de trabalho

Realização de Testes de integração com DLT e Fluxos de trabalho

Version Control with Git Overview

Introdução a Continuous Deployment

Visão geral da implantação de ativos do Databricks (slides)

Implantação do projeto Databricks

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Databricks Data Privacy - Portuguese BR

Este conteúdo fornece um guia abrangente sobre o gerenciamento da privacidade de dados na Databricks. Ele aborda tópicos importantes, como arquitetura Delta Lake, isolamento de dados regional, compliance com GDPR/CCPA e uso de Change Data Feed (CDF). Por meio de demonstrações práticas e laboratórios práticos, os participantes aprendem a usar os recursos do Unity Catalog para proteger dados confidenciais e garantir a compliance, capacitando-os a proteger a integridade dos dados de forma eficaz.

Languages Available: English | 日本語 | Português BR | 한국어

Automated Deployment with Databricks Asset Bundles - Portuguese BR

Este curso fornece uma revisão abrangente dos princípios de DevOps e sua aplicação em projetos Databricks. Ele começa com uma visão geral dos principais DevOps, DataOps, integração contínua (CI), implantação contínua (CD) e testes, e explora como esses princípios podem ser aplicados a pipelines de engenharia de dados.

Em seguida, o curso se concentra na implantação contínua dentro do processo de CI/CD, examinando ferramentas como a API REST do Databricks, o SDK e a CLI para implantação de projetos. Você aprenderá sobre os DABs (Asset Bundles, pacotes de ativos do Databricks) e como eles se encaixam no processo de CI/CD. Você se aprofundará em seus principais componentes, na estrutura de pastas e em como eles simplificam a implantação em vários ambientes de destino no Databricks. Você também aprenderá a adicionar variáveis, modificar, validar, implantar e executar Databricks Asset Bundles para vários ambientes com configurações diferentes usando a CLI do Databricks.

Por fim, o curso apresenta o Visual Studio Code como um ambiente de desenvolvimento interativo (IDE) para criar, testar e implantar Databricks Asset Bundles localmente, otimizando seu processo de desenvolvimento. O curso termina com uma introdução à automação de pipelines de implantação usando ações do GitHub para aprimorar o fluxo de trabalho de CI/CD com Databricks Asset Bundles.

Ao final deste curso, você estará equipado para automatizar as implantações de projetos do Databricks com os Databricks Asset Bundles, melhorando a eficiência por meio de práticas de DevOps.

Languages Available: English | 日本語 | Português BR | 한국어

Deploy Workloads with Databricks Workflows - Portuguese BR

Ao programar tarefas com os jobs do Databricks, os aplicativos podem serem executados automaticamente para manter as tabelas no lakehouse atualizadas. Usar Databricks SQL para programar atualizações em queries e painéis permite percepções rápidas usando os dados mais recentes. Neste curso, os alunos serão apresentados a orquestração de tarefas usando a interface do usuário dos Jobs do Databricks Workflow. Opcionalmente, eles configurarão e irão programar painéis e alertas para refletir as atualizações dos pipelines de dados de produção.

Neste curso de meio dia, você aprenderá a orquestrar pipelines de dados com jobs do Databricks Workflow e programar atualizações de painel para manter as análises atualizadas. Abordaremos tópicos como introdução ao Databricks Workflows, como usar Databricks SQL para consultas sob demanda e como configurar e programar painéis e alertas para refletir atualizações em pipelines de dados de produção.

Languages Available: English | 日本語 | Português BR | 한국어