Automated Deployment with Databricks Asset Bundles - Portuguese BR

Este curso oferece uma revisão abrangente dos princípios de DevOps e sua aplicação em projetos Databricks. Ele começa com uma visão geral dos principais conceitos de DevOps, DataOps, continuous integration (CI), continuous deployment (CD) e testes, e explora como esses princípios podem ser aplicados a pipelines de engenharia de dados.

Em seguida, o curso se concentra na continuous deployment dentro do processo de CI/CD, examinando ferramentas como a Databricks REST API, o SDK e a CLI para a implantação de projetos. Você aprenderá sobre os Databricks Asset Bundles (DABs) e como eles se encaixam no processo de CI/CD. Você se aprofundará em seus principais componentes, estrutura de pastas e como eles otimizam a implantação em vários ambientes de destino na Databricks. Você também aprenderá como adicionar variáveis, modificar, validar, implantar e executar Databricks Asset Bundles para vários ambientes com diferentes configurações usando a Databricks CLI.

Por fim, o curso apresenta o Visual Studio Code como um Interactive Development Environment (IDE) para criar, testar e implantar Databricks Asset Bundles localmente, otimizando seu processo de desenvolvimento. O curso conclui com uma introdução à automação de pipelines de implantação usando o GitHub Actions para aprimorar o fluxo de trabalho de CI/CD com Databricks Asset Bundles.

Ao final deste curso, você estará apto a automatizar implantações de projetos Databricks com Databricks Asset Bundles, melhorando a eficiência por meio de práticas de DevOps.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Professional

Duration

Prerequisites

Competências/conhecimentos/habilidades:

• Sólido conhecimento da Databricks Platform, incluindo experiência com Databricks Workspaces, Apache Spark, Delta Lake, a arquitetura Medallion, Unity Catalog, Delta Live Tables e Workflows. Em particular, conhecimento sobre como aproveitar Expectations com DLTs.

• Experiência em ingestão e transformação de dados, com proficiência em PySpark para processamento de dados e manipulação de DataFrames. Os candidatos também devem ter experiência em escrever SQL queries de nível intermediário para análise e transformação de dados.

• Proficiência em programação Python, incluindo a capacidade de projetar e implementar funções e classes, e experiência com a criação, importação e utilização de pacotes Python.

• Familiaridade com práticas de DevOps, particularmente princípios de continuous integration and continuous delivery/deployment (CI/CD).

• Conhecimento básico de controle de versão Git.

• Pré-requisito: Curso Fundamentos de DevOps para Engenharia de Dados

Outline

DevOps e CI/CD Revisão

• Revisão de DevOps

• Integração Contínua e Entrega Contínua Implantação/Entrega (CI/CD) Revisão

• Configuração do curso e Autenticação

Deploy com Ativo do Databricks Bundles (DABs)

• Implantação de Databricks Projetos

• Introdução a Recurso Databricks Pacotes (DABs)

• Implantando um DAB simples

• Implantação de um DAB simples

• Substituições de variáveis em DABs

• Implantando um DAB (Pacote de Ativos de Databricks) em Vários ambientes

• Implantar um DAB em vários ambientes

• Visão geral dos templates de projeto DAB

• Usar um modelo de DAB padrão do Databricks

• Visão geral do projeto de CI/CD com DABs

• Integração Contínua e Entrega Contínua Implantação com DABs

• Adicionando ML a Fluxos de trabalho de Engenharia com DABs

Fazendo mais com Ativo Databricks Pacotes

• Desenvolvendo localmente com o Visual Studio Code (VSCode)

• Usando o VSCode com Databricks

• Práticas recomendadas de CI/CD para Engenharia de Dados

• Próximos passos: Implantação automatizada com GitHub Actions

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Registre-se agora

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Registre-se agora

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Deploy Workloads with Lakeflow Jobs - Portuguese BR

O curso Implante cargas de trabalho com Lakeflow Jobs ensina como orquestrar e automatizar fluxos de trabalho de dados, análises e IA usando o Lakeflow Jobs como uma plataforma de orquestração unificada dentro do ecossistema Databricks.

⇾ Você aprenderá a projetar e implementar cargas de trabalho de dados usando gráficos acíclicos direcionados (DAGs), configurar várias opções de agendamento e implementar recursos avançados de fluxo de trabalho, como execução condicional de tarefas, dependências run-if e loops for each.

⇾ O curso aborda as melhores práticas para criar pipelines robustos e prontos para produção com seleção adequada de computação, orquestração modular, técnicas de tratamento de erros e design tolerante a falhas, tudo integrado nativamente à plataforma de inteligência de dados Databricks.

Build Data Pipelines with Lakeflow Spark Declarative Pipelines - Portuguese BR

Este curso apresenta aos usuários os conceitos e habilidades essenciais necessários para criar pipelines de dados usando Lakeflow Spark Declarative Pipelines em Databricks para ingestão e processamento incrementais em lote ou transmissão por meio de várias streaming tables e materialized views. Projetado para engenheiros de dados novos em Spark Declarative Pipelines, o curso fornece uma visão geral abrangente dos principais componentes, como processamento incremental de dados, streaming tables, materialized views e views temporárias, destacando suas finalidades e diferenças específicas.

Os tópicos abordados incluem:

- Desenvolvimento e depuração de pipelines ETL com o editor de vários arquivos no Lakeflow usando SQL (com exemplos de código Python fornecidos)

- Como os Lakeflow Spark Declarative Pipelines acompanham dependências de dados em um pipeline através do gráfico de pipeline

- Configuração de recursos de compute do pipeline, ativos de dados, modos de gatilho e outras opções avançadas.

Em seguida, o curso apresenta as expectativas de qualidade de dados no Spark Declarative Pipelines, orientando os usuários pelo processo de integração de expectativas em pipelines para validar e impor a integridade dos dados. Em seguida, os alunos explorarão como colocar um pipeline em produção, incluindo opções de agendamento, modo de produção e habilitação do log de eventos do pipeline para monitorar o desempenho e a integridade do pipeline.

Finalmente, o curso aborda como implementar a captura de dados de alterações (CDC) usando a sintaxe AUTO CDC INTO dentro dos Spark Declarative Pipelines para gerenciar dimensões que mudam lentamente (SCD Tipo 1 e Tipo 2), preparando os usuários para integrar CDC em seus próprios pipelines.

Languages Available: English | 日本語 | Português BR | 한국어

Data Ingestion with Lakeflow Connect - Portuguese BR

"Este curso fornece uma introdução abrangente ao Lakeflow Connect, uma solução escalável e simplificada para a ingestão de dados em Databricks de uma ampla gama de fontes. Você começará explorando os diferentes tipos de conectores Lakeflow Connect (Padrão e Gerenciado) e aprenderá várias técnicas de ingestão de dados, incluindo ingestão em lote, lote incremental e transmissão. Você também analisará os principais benefícios do uso de tabelas Delta e da arquitetura Medallion.

Em seguida, você desenvolverá habilidades práticas para ingerir dados do armazenamento de objetos do Cloud usando os conectores padrão do Lakeflow Connect. Isso inclui trabalhar com métodos como CREATE TABLE AS SELECT (CTAS), COPY INTO e Auto Loader, com ênfase nos benefícios e considerações de cada abordagem. Você também aprenderá a acrescentar colunas de metadados às tabelas de nível bronze durante a ingestão no Databricks Data Intelligence Platform. Em seguida, o curso aborda como lidar com registros que não correspondem ao esquema da tabela usando a coluna de dados resgatados, juntamente com estratégias para gerenciar e analisar esses dados. Você também explorará técnicas para ingerir e nivelar dados JSON semiestruturados.

Em seguida, você explorará como executar a ingestão de dados de nível empresarial usando os Conectores Gerenciados do Lakeflow Connect para trazer dados de bancos de dados e aplicativos de software como serviço (SaaS). O curso também apresenta o Partner Connect como uma opção para integrar ferramentas de parceiros em seus fluxos de trabalho de ingestão.

Finalmente, o curso termina com estratégias alternativas de ingestão, incluindo operações MERGE INTO e alavancagem do Databricks Marketplace, equipando você com uma base sólida para dar suporte a casos de uso modernos de engenharia de dados."

Languages Available: English | 日本語 | Português BR | 한국어