Databricks Streaming and Lakeflow Spark Declarative Pipelines - Portuguese BR

Este curso oferece uma compreensão abrangente do Spark Structured Streaming e do Delta Lake, incluindo modelos de compute, configuração para leitura de dados em tempo real e manutenção da qualidade dos dados num ambiente de transmissão.

Nota: Este curso faz parte da série de cursos "Data Engineering Avançada com o Databricks".

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Professional

Duration

Prerequisites

No mínimo, você deve conhecer os itens a seguir antes de tentar aprender esse conteúdo:

• Capacidade de realizar tarefas básicas de desenvolvimento de código utilizando o Databricks Data Engineering and Data Science workspace (criar clusters, executar código em notebooks, utilizar operações básicas de notebooks, importar repositórios do Git, etc.)

• Experiência intermédia em programação com PySpark

• Extrair dados de diversos formatos de ficheiros e fontes de dados

• Aplicar diversas transformações comuns para limpar os dados

• Reestruturar e manipular dados complexos utilizando funções integradas avançadas

• Experiência intermediária em programação com Delta Lake (criação de tabelas, realização de atualizações completas e incrementais, compressão de ficheiros, restauro de versões anteriores, etc.)

• Experiência básica na configuração e programação de pipelines de dados utilizando a interface de utilizador do Lakeflow Spark Declarative Pipelines

• Experiência básica na definição de Lakeflow Spark Declarative Pipelines utilizando o PySpark

• Ingestão e processamento de dados utilizando Auto Loader e sintaxe PySpark

• Processamento de Change Data Capture feeds com a sintaxe APPLY CHANGES INTO

• Análise de log de eventos e resultados de pipelines para resolver problemas de sintaxe de Declarative Pipeline

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Deploy Workloads with Lakeflow Jobs - Portuguese BR

O curso Implantar cargas de trabalho com Lakeflow Jobs ensina como orquestrar e automatizar fluxos de trabalho de dados, análises e IA usando o Lakeflow Jobs como uma plataforma de orquestração unificada dentro do ecossistema Databricks.

- Você aprenderá a projetar e implementar cargas de trabalho de dados usando Directed Acyclic Graphs (DAGs), configurar várias opções de agendamento e implementar recursos avançados de fluxo de trabalho, como execução condicional de tarefas, dependências de execução condicional e for each loops.

- O curso aborda as melhores práticas para a criação de pipelines robustos e prontos para produção com seleção de compute adequada, orquestração modular, técnicas de tratamento de erros e design tolerante a falhas, tudo integrado nativamente na Databricks Data Intelligence Platform.

Nota: Este curso faz parte da série de cursos "Data Engineering Avançada com o Databricks".

Languages Available: English | 日本語 | Português BR | 한국어

Build Data Pipelines with Lakeflow Declarative Pipelines - Portuguese BR

Este curso apresenta aos usuários os conceitos e habilidades essenciais necessários para criar pipelines de dados usando pipelines declarativos do Lakeflow em Databricks para ingestão e processamento incrementais em lote ou transmissão por meio de várias streaming tables e materialized views. Projetado para engenheiros de dados novos em pipelines declarativos Lakeflow, o curso fornece uma visão geral abrangente dos principais componentes, como processamento incremental de dados, streaming tables, materialized views e views temporárias, destacando suas finalidades e diferenças específicas.

Os tópicos abordados incluem:

- Desenvolvimento e depuração de pipelines ETL com o editor de vários arquivos no Lakeflow usando SQL (com exemplos de código Python fornecidos)

- Como os pipelines declarativos do Lakeflow acompanham dependências de dados em um pipeline através do gráfico de pipeline

- Configuração de recursos de computação do pipeline, ativos de dados, modos de gatilho e outras opções avançadas.

Em seguida, o curso apresenta as expectativas de qualidade de dados no Lakeflow, orientando os usuários pelo processo de integração de expectativas em pipelines para validar e impor a integridade dos dados. Em seguida, os alunos explorarão como colocar um pipeline em produção, incluindo opções de agendamento, modo de produção e habilitação do log de eventos do pipeline para monitorar o desempenho e a integridade do pipeline.

Finalmente, o curso aborda como implementar a captura de dados de alterações (CDC) usando a sintaxe APPLY CHANGES INTO dentro dos Pipelines Declarativos do Lakeflow para gerenciar dimensões que mudam lentamente (SCD Tipo 1 e Tipo 2), preparando os usuários para integrar CDC em seus próprios pipelines.

Languages Available: English | 日本語 | Português BR | 한국어

Databricks Performance Optimization - Portuguese BR

Neste curso, você aprenderá a otimizar cargas de trabalho com Spark e Delta Lake e analisar o Spark UI para avaliar desempenho e depurar aplicativos. Abordaremos tópicos como transmissão, Liquid Cluster, omissão de dados, cache, Photon e muito mais.

Nota: Este curso faz parte da série de cursos "Data Engineering Avançada com o Databricks".

Languages Available: English | 日本語 | Português BR | 한국어

Subscription

Lab

Professional