Stream Processing and Analysis with Apache Spark™ - Korean

Databricks 데이터 프라이버시는 데이터 엔지니어가 Databricks Data Intelligence Platform에서 개인 데이터를 찾고, 보호하고, 삭제하고, 책임 있게 관리하는 방법을 가르칩니다. 프라이버시를 Unity Catalog와 Delta Lake 위에 구축된 기술적 결정과 컨트롤의 집합으로 다룹니다. 이 과정은 프라이버시를 보안, 거버넌스, 컴플라이언스와 구분한 뒤, 식별·보호·관리·검증 생명주기와 학습자가 모든 기법에 적용하는 짧은 의사결정 모델을 중심으로 작업을 구성합니다.

학습자는 먼저 Data Classification으로 민감 컬럼을 찾고, 거버넌스 태그로 각 컬럼의 처리 방식을 기록합니다. 태그 기반 속성 기반 액세스 제어(ABAC) 정책으로 해당 컬럼을 보호하고, 중앙 정책이 맞지 않으면 수동 컬럼 마스크와 행 필터를 사용합니다. 비식별화는 솔트 해싱, 별도로 거버넌스되는 볼트를 통한 토큰화, 컬럼 암호화로 더 나아가며, 솔트와 키는 Databricks Secrets에 보관합니다. 삭제권의 경우 요청을 추적하고, 분류와 리니지로 대상자의 데이터를 찾고, DELETE와 MERGE로 삭제 및 변경을 전파한 다음, REORG TABLE ... APPLY (PURGE)와 보존 기간을 고려한 VACUUM으로 기본 파일을 퍼지합니다. 과정은 리니지, 감사 로그, 쿼리 이력, Delta 테이블 이력을 결합하여 각 컨트롤이 작동했는지 보여주는 증거 추적으로 마무리됩니다.

모든 데이터는 합성 데이터입니다. 데모는 한 다국적 소매업체의 데이터 자산을 생명주기를 따라가며, 마스킹된 쿼리 결과, 빈 삭제 확인, 테이블 이력 항목처럼 컨트롤이 작동했다는 증거로 각 단계를 끝냅니다. 시나리오 기반 실습 두 개가 워크플로를 강화합니다. 첫 번째에서는 자회사 고객 테이블의 깨진 보호를 복구합니다. 두 번째에서는 반쯤 완료된 삭제 요청을 마무리하고 완료 증거를 구성합니다. 이 과정은 기술 과정이며 법률 자문을 제공하지 않습니다.

참고:

1. 이 강좌는 '데이터브릭을 사용한 고급 데이터 엔지니어링' 시리즈의 두 번째 강좌입니다.

2. SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Languages Available: Languages Available: English | 日本語 | Português BR  | 한국어

이 과정은 Databricks 운영과 관련된 Azure 특화 접점을 다룹니다. 주요 내용으로는 Azure 퍼스트 파티 서비스로서의 배포(포털, ARM/Bicep, Terraform), 자동 ID 관리를 포함한 Microsoft Entra ID 통합, 액세스 커넥터를 통한 스토리지 및 관리 ID 연결, VNet 주입, Private Link 및 서버리스 네트워킹, 고객 관리형 키, Azure 네이티브 모니터링, 정책 및 비용 통합이 포함됩니다. 이 과정은 학습자가 Azure Databricks Platform Architect 인증을 취득할 수 있도록 준비시킵니다.

참고: Databricks Academy는 강의용 슬라이드 덱 사용을 중단하고, Databricks 환경 내 수업 세션을 노트북 기반 형식으로 전환하고 있습니다. 강의 노트북은 Vocareum 랩 환경에서 확인할 수 있습니다.

이 과정에서는 Databricks Data and AI Platform의 Unity Catalog를 사용하여 카탈로그 구조와 대규모 데이터 조직을 설계, 구현 및 관리하는 방법을 학습합니다. 총 5개의 모듈로 구성되며, 먼저 클라우드 배포 모델 내에서 Unity Catalog의 위치를 살펴보고, 어카운트 콘솔, 지역별 메타스토어, 그리고 이를 가능하게 하는 관리자 역할을 다룹니다. 이어서 조직의 토폴로지(비즈니스 단위, 지역, dev/QA/prod 환경)를 명명 규칙, 소유권, MANAGE 위임을 갖춘 스케일 가능한 카탈로그 및 스키마 설계로 전환하는 방법을 학습합니다. 다음으로, 스토리지 자격 증명, 외부 위치, 관리형 스토리지 계층 구조, 관리형 테이블과 외부 테이블의 비교, Volumes, Lakehouse Federation을 활용한 안전한 스토리지 통합을 다룹니다. 그런 다음 워크스페이스-카탈로그 바인딩, 권한 상속, 행 필터, 열 마스크, 속성 기반 접근 제어(ABAC) 정책 등 액세스 패턴과 격리 전략을 적용하고, 감사 신호를 통해 결과를 검증합니다. 마지막으로, Unity Catalog 환경을 설계, 관리 및 운영하기 위한 모범 사례를 다루며 과정을 마무리합니다. 실습 데모와 랩은 서버리스 compute에서 실행되며, 짧은 Genie Code 단계가 포함됩니다.

참고: SCORM 강의 파일의 경우, 콘텐츠를 완료한 후 SCORM 창을 닫아 주세요. ‘다음 레슨’ 버튼을 클릭하지 마세요. 클릭하면 SCORM 모듈이 완료된 것으로 표시되지 않을 수 있습니다.