Advanced Techniques with Spark Declarative Pipelines - Portuguese BR

Este curso explora os Spark Declarative Pipelines (SDP) da Databricks Lakeflow para a construção de pipelines de transmissão de nível de produção. Aprenderá padrões de design avançados, aplicação robusta da qualidade de dados e integração multiplataforma, essenciais para a engenharia de lakehouses no mundo real.

Ao longo do curso, irá aprofundar técnicas modernas de ingestão e processamento de dados, dominando ferramentas como o Liquid Clustering para otimização de layout e o padrão Multiplex Streaming para eventos com esquemas mistos. No final dos módulos, saberá como lidar com confiança com a evolução de esquemas, automatizar a Change Data Capture (CDC) e garantir a integridade dos dados.

Através de aulas teóricas e demonstrações práticas, irá:

• Construir pipelines de múltiplos fluxos para ingerir dados de múltiplas fontes numa tabela Bronze unificada.

• Aplicar o algoritmo Liquid Clustering e as Expectativas de Qualidade de Dados nas camadas Prata e Ouro.

• Implementar o padrão Multiplex com Iceberg UniForm para acesso a dados multiplataforma.

• Automatizar o seguimento do histórico de SCD Tipo 2 utilizando o AUTO CDC INTO.

• Conceber pipelines de quarentena sem perda de dados para auditar e gerir registros inválidos.

Observação: A Databricks Academy está a migrar para um formato baseado em notebooks para as aulas dentro do ambiente Databricks, descontinuando o uso de diapositivos nas aulas. Pode aceder aos notebooks das aulas no ambiente de laboratório Vocareum.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Professional

Duration

Prerequisites

No mínimo, você deve conhecer os itens a seguir antes de tentar aprender esse conteúdo:

• Spark Declarative Pipelines — Conclusão do curso "Criar Pipelines de Dados com Lakeflow Spark Declarative Pipelines" ou familiaridade com CREATE OR REFRESH STREAMING TABLE, CONSTRAINTS e a interface de utilizador do Pipelines

• Fundamentos do Delta Lake — Compreensão das tabelas Delta e de como o Delta gere os ficheiros de dados e os registos de transações

• Conceitos de Transmissão — Conhecimentos de transmissão em micro-lotes, checkpointing e processamento em tempo de evento no SDP

• Proficiência em SQL — Capacidade de ler e escrever SQL, incluindo SELECT, JOIN, MERGE, CASE WHEN e funções agregadas comuns

• Python em Databricks Notebooks — Familiaridade com a leitura e execução de código Python em Databricks Notebooks

• Noções básicas do Unity Catalog — Compreensão dos catálogos, esquemas, tabelas e volumes do Unity Catalog

Outline

• Introdução a Fluxos Múltiplos, Expectativa e Agrupamento Líquido em SDP

• Demo: Multi Flow SDP com Agrupamento Líquido e Qualidade de Dados

• Introdução ao Transmissão de Multiplex, Delta Sinks e Leituras Iceberg

• Demo: Transmissão de Multiplex SDP com Delta Sinks e Leituras Iceberg

• Revisão de Change Data Capture (CDC)

• Demo: Automatizando SCD Tipo 2 com AUTO CDC no Lakeflow Spark Declarative Pipelines

• Verificações avançadas de qualidade de dados e expectativas em SDP

• Demo: Verificações avançadas de qualidade de dados e expectativas em SDP

• Lab - Construir um pipeline de comércio eletrónico de múltiplas fontes com SDP

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Registre-se agora

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Registre-se agora

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Analyst

SQL Analytics on Databricks - Portuguese BR

Neste curso, você aprenderá a usar efetivamente a Databricks para análise de dados, com foco específico no Databricks SQL. Como Analista de Dados da Databricks, suas responsabilidades incluirão encontrar dados relevantes, analisá-los para possíveis aplicações e transformá-los em formatos que forneçam percepções de negócios valiosos.

Você também entenderá sua função no gerenciamento de objetos de dados e como manipulá-los na Databricks Data Intelligence Platform, usando ferramentas como Notebooks, Editor SQL e Databricks SQL.

Além disso, você aprenderá sobre a importância do Unity Catalog no gerenciamento de ativos de dados e da plataforma como um todo. Por fim, o curso fornecerá uma visão geral de como o Databricks facilita a otimização de desempenho e ensinará como acessar percepções de query para entender os processos que ocorrem nos bastidores ao executar a analítica SQL no Databricks.

Languages Available: English | 日本語 | Português BR | 한국어

Data Warehousing with Databricks - Portuguese BR

Este curso foi desenvolvido para profissionais de dados que desejam explorar os recursos de Data Warehousing do Databricks. Supondo que não haja conhecimento prévio do Databricks, ele fornece uma introdução ao uso do Databricks como uma solução moderna de Data Warehousing baseada em nuvem. Os alunos explorarão como usar a Databricks Data Intelligence Platform para ingerir, transformar, governar e analisar dados de forma eficiente usando o dataset padrão TCP-DI do setor como referência. Os alunos também explorarão o Genie, um recurso inovador do Databricks que simplifica a exploração de dados por meio de queries em linguagem natural. Ao final deste curso, os participantes serão equipados com as habilidades fundamentais para implementar e otimizar um data warehouse usando o Databricks.

Languages Available: English | 日本語 | Português BR | 한국어

Machine Learning Practitioner

Machine Learning Model Development - Portuguese BR

Este curso abrangente oferece um guia prático para o desenvolvimento de modelos tradicionais de machine learning em Databricks, com ênfase em demonstrações práticas e fluxos de trabalho utilizando bibliotecas populares de ML. Os participantes irão explorar as principais técnicas de machine learning, incluindo regressão e agrupamento, aproveitando as poderosas capacidades do Databricks. O curso abrange a integração com o MLflow para o acompanhamento de modelos, o Databricks Feature Store para a gestão de recursos e o Optuna para o ajuste de hiperparâmetros. Além disso, os participantes aprenderão a acelerar o treino de modelos com o Databricks AutoML. No final do curso, os alunos terão competências práticas e aplicáveis ao mundo real para desenvolver, otimizar e implementar modelos de machine learning de forma eficiente no ambiente Databricks.

Languages Available: English | 日本語 | Português BR | 한국어