Ir para o conteúdo principal

Build Data Pipelines with Lakeflow Spark Declarative Pipelines - Portuguese BR

Este curso apresenta aos usuários os conceitos e habilidades essenciais necessários para criar pipelines de dados usando Lakeflow Spark Declarative Pipelines em Databricks para ingestão e processamento incrementais em lote ou transmissão por meio de várias streaming tables e materialized views. Projetado para engenheiros de dados novos em Spark Declarative Pipelines, o curso fornece uma visão geral abrangente dos principais componentes, como processamento incremental de dados, streaming tables, materialized views e views temporárias, destacando suas finalidades e diferenças específicas.


Os tópicos abordados incluem:


- Desenvolvimento e depuração de pipelines ETL com o editor de vários arquivos no Lakeflow usando SQL (com exemplos de código Python fornecidos)

- Como os Lakeflow Spark Declarative Pipelines acompanham dependências de dados em um pipeline através do gráfico de pipeline

- Configuração de recursos de compute do pipeline, ativos de dados, modos de gatilho e outras opções avançadas.


 Em seguida, o curso apresenta as expectativas de qualidade de dados no Spark Declarative Pipelines, orientando os usuários pelo processo de integração de expectativas em pipelines para validar e impor a integridade dos dados. Em seguida, os alunos explorarão como colocar um pipeline em produção, incluindo opções de agendamento, modo de produção e habilitação do log de eventos do pipeline para monitorar o desempenho e a integridade do pipeline.


 Finalmente, o curso aborda como implementar a captura de dados de alterações (CDC) usando a sintaxe AUTO CDC INTO dentro dos Spark Declarative Pipelines para gerenciar dimensões que mudam lentamente (SCD Tipo 1 e Tipo 2), preparando os usuários para integrar CDC em seus próprios pipelines.


Languages Available: English日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites
  • ⇾ Noções básicas sobre a Databricks Data Intelligence Platform, incluindo Databricks Workspaces, Apache Spark, Delta Lake, Medallion Architecture e Unity Catalog.

⇾ Experiência na ingestão de dados brutos em tabelas Delta, incluindo o uso da read_files função SQL para carregar formatos como CSV, JSON, TXT e Parquet.

⇾ Proficiência na transformação de dados usando SQL, incluindo escrever queries de nível intermediário e uma compreensão básica de joins SQL.

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Registre-se agora

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Registre-se agora

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Machine Learning Practitioner

Machine Learning with Databricks - Portuguese BR

Bem-vindo ao Machine Learning com Databricks!

Este curso é a sua porta de entrada para dominar os machine learning workflows em Databricks. Mergulhe na preparação de dados, desenvolvimento de modelos, implementação e operações, orientado por instrutores especializados. Aprenda competências essenciais para exploração de dados, treino de modelos e estratégias de implementação adaptadas para Databricks. No final do curso, terá o conhecimento e a confiança para navegar por todo o ciclo de vida do machine learning na plataforma Databricks, capacitando-o a construir e implementar soluções robustas de machine learning de forma eficiente.

 

Preparação de Dados para Machine Learning

Este curso foca-se nos fundamentos da preparação de dados para machine learning utilizando Databricks. Os participantes irão aprender competências essenciais para explorar, limpar e organizar dados adaptadas a aplicações tradicionais de machine learning. Os tópicos-chave incluem visualização de dados, engenharia de recursos e estratégias ótimas de armazenamento de recursos. Através de exercícios práticos, os participantes ganharão experiência prática na preparação eficiente de datasets para machine learning dentro de Databricks. Este curso é concebido para cientistas de dados de nível associado e profissionais de machine learning e indivíduos que procuram melhorar a sua proficiência na preparação de dados, garantindo uma base sólida para a implementação bem-sucedida de modelos de machine learning.

 

Desenvolvimento de Modelos de Machine Learning

Este curso abrangente fornece um guia prático para desenvolver modelos tradicionais de aprendizagem automática em Databricks, enfatizando demonstrações práticas e fluxos de trabalho usando bibliotecas populares de ML. Os participantes irão explorar técnicas-chave de ML, incluindo regressão e clustering, aproveitando as poderosas capacidades do Databricks. O curso aborda integração com MLflow para rastreamento de modelos, Databricks Feature Store para gestão de funcionalidades e Optuna para afinação de hiperparâmetros. Além disso, os participantes aprenderão como acelerar o treino de modelos com Databricks AutoML. No final do curso, os alunos terão competências práticas e práticas para desenvolver, otimizar e implementar modelos de aprendizagem automática de forma eficiente no ambiente Databricks.

 

Implementação de Modelos de Machine Learning

Este curso foi concebido para apresentar três estratégias principais de implementação de machine learning e ilustrar a implementação de cada estratégia em Databricks. Após uma exploração dos fundamentos da implementação de modelos, o curso aprofunda a inferência em lote, oferecendo demonstrações práticas e laboratórios para utilizar um modelo em cenários de inferência em lote, juntamente com considerações para otimização de desempenho. A segunda parte do curso cobre de forma abrangente a implementação de pipelines, enquanto o segmento final foca-se na implementação em tempo real. Os participantes participarão em demonstrações práticas e laboratórios, implementando modelos com Model Serving e utilizando o Model Serving para inferência em tempo real.

 

Operações de Machine Learning

Este curso irá guiar os participantes numa exploração abrangente das operações de modelos de machine learning, com foco no MLOps e na gestão do ciclo de vida dos modelos. O segmento inicial cobre componentes essenciais do MLOps e as melhores práticas, proporcionando aos participantes uma base sólida para operacionalizar eficazmente modelos de machine learning. Na parte final do curso, iremos aprofundar os fundamentos do ciclo de vida do modelo, demonstrando como navegar nele de forma fluida usando o Model Registry em conjunto com o Unity Catalog para uma gestão eficiente dos modelos. No final do curso, os participantes terão adquirido conhecimentos práticos e uma compreensão completa dos princípios do MLOps, equipados com as competências necessárias para navegar no complexo panorama das operações de modelos de machine learning.

Languages Available: English | 日本語 | Português BR | 한국어

Paid
16h
Lab
instructor-led
Associate
Data Analyst

Data Analysis with Databricks - Portuguese BR

Este curso fornece uma introdução abrangente ao Databricks SQL. Os alunos irão ingerir dados, escrever queries, produzir visualizações e painéis e configurar alertas. Este curso irá prepará-lo para fazer o exame Analista Associado de Dados, Certificado da Databricks. Este curso é composto por dois módulos de quatro horas.

 

SQL Analytics on Databricks

Neste curso, você aprenderá a usar efetivamente a Databricks para análise de dados, com foco específico no Databricks SQL. Como Analista de Dados da Databricks, suas responsabilidades incluirão encontrar dados relevantes, analisá-los para possíveis aplicações e transformá-los em formatos que forneçam percepções de negócios valiosos. 

Você também entenderá sua função no gerenciamento de objetos de dados e como manipulá-los na Databricks Data Intelligence Platform, usando ferramentas como Notebooks, Editor SQL e Databricks SQL. 

Além disso, você aprenderá sobre a importância do Unity Catalog no gerenciamento de ativos de dados e da plataforma como um todo. Por fim, o curso fornecerá uma visão geral de como o Databricks facilita a otimização de desempenho e ensinará como acessar percepções de query para entender os processos que ocorrem nos bastidores ao executar a analítica SQL no Databricks.

AI/BI for Data Analysts

Neste curso, você aprenderá a usar os recursos que o Databricks fornece para as necessidades de business intelligence: Painéis de IA/BI e AI/BI Genie. Como Analista de Dados da Databricks, você terá a tarefa de criar Painéis de IA/BI e AI/BI Genie Spaces dentro da plataforma, gerenciar o acesso a esses ativos pelas partes interessadas e necessárias e manter esses ativos à medida que são editados, atualizados ou desativados ao longo de sua vida útil. Este curso pretende instruir os participantes sobre como projetar painéis para percepções de negócios, compartilhá-los com colaboradores e partes interessadas e manter esses ativos dentro da plataforma. Os participantes também aprenderão a utilizar os AI/BI Genie Spaces para dar suporte à análise de autoatendimento por meio da criação e manutenção desses ambientes alimentados pelo Databricks Data Intelligence Engine.

Languages Available: English | 日本語 | Português BR | 한국어

Paid
8h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.