Passa al contenuto principale

Real-Time Mode in Apache Spark™ Structured Streaming

Elabora i dati in millisecondi, 100 volte più velocemente rispetto ai micro-batch di Spark, senza un secondo motore

Data pipeline with 2 Kafka sinks, 601K records.

Elabora i dati in streaming in millisecondi su calcolo serverless

Real-Time Mode (RTM) offre una latenza fino a 100 volte inferiore rispetto alla modalità micro-batch di Spark per i carichi di lavoro operativi, eliminando la necessità di motori separati come Apache Flink. Supportando l'elaborazione continua, RTM riduce la latenza end-to-end fino a soli 5 ms per i carichi di lavoro tempo-critici. Integrato in modo nativo in Apache Spark™ Declarative Pipelines, garantisce ai team di dati prestazioni elevate e i vantaggi dei servizi completamente gestiti, tra cui l'esecuzione senza versioni, gli aggiornamenti automatici dell'infrastruttura e una manutenzione con tempi di inattività minimi o nulli.

Sblocca i carichi di lavoro operativi con un motore di esecuzione unificato

Minimize logic drift and codebase duplication

Riduci al minimo la deriva della logica e la duplicazione del codice

Usa la stessa API Spark per l'addestramento batch su grande scala e l'inferenza in tempo reale a bassissima latenza. RTM consente una scalabilità senza problemi, permettendoti di passare dalle pipeline batch orarie allo streaming continuo con una sola modifica al codice, eliminando completamente la necessità di complesse architetture a doppio motore.

Spark RTM mostly has lower latency than Flink.

Elabora gli eventi fino al 92% più velocemente rispetto a Flink

RTM è progettato per prendere decisioni in frazioni di secondo, offrendo un grande impatto in casi d'uso come il rilevamento delle frodi in tempo reale e la personalizzazione istantanea. Grazie al flusso continuo di dati, alla pianificazione delle pipeline e agli shuffle in streaming, RTM raggiunge rigide latenze P99 tra 40 ms e 300 ms per i carichi di lavoro operativi più impegnativi.

Micro-batch vs. Real-time data processing modes.

Offri una latenza fino a 100 volte inferiore rispetto ai micro-batch

Passa da un'ETL nell'ordine dei minuti a uno streaming operativo in millisecondi con una sola riga di configurazione. Per i carichi di lavoro supportati, RTM offre una latenza fino a 100 volte inferiore rispetto ai micro-batch standard, consentendoti di alimentare le applicazioni all'interno dello stesso ecosistema Spark.

PER APPROFONDIRE

Scopri di più sulla Real-Time Mode

PRODOTTI CORRELATI

Scopri di più

Esplora le altre offerte integrate e intelligenti sulla piattaforma Databricks Data + AI.

Apache Spark™ Declarative Pipelines

Semplifica l'ETL batch e streaming con qualità dei dati automatizzata, Change Data Capture (CDC), ingestion dei dati, trasformazione e governance unificata.

Genie Code

Crea e gestisci pipeline di dati con un'IA agentica in grado di comprendere i tuoi dati.

Zerobus Ingest

Invia i dati degli eventi direttamente al tuo lakehouse in tempo quasi reale. L'API di scrittura diretta riduce il carico operativo offrendo un elevato throughput e prestazioni su scala.

Unity Catalog

Gestisci in modo trasparente tutti i tuoi asset di dati con l'unica soluzione di governance aperta e unificata del settore per dati e IA, integrata nella piattaforma Databricks Data + AI.

Fai il passo successivo

FAQ sulla Real-Time Mode (RTM)

La Real-Time Mode è un'evoluzione di Apache Spark Structured Streaming che offre una latenza 100 volte inferiore rispetto all'esecuzione in micro-batch di Spark..

Sfruttando la pianificazione delle pipeline per eseguire contemporaneamente le fasi di query e gli shuffle in streaming per passare immediatamente i dati tra i task, elimina i colli di bottiglia della latenza.

Questa architettura offre una latenza fino a 100 volte inferiore rispetto alla modalità micro-batch di Spark per i carichi di lavoro di streaming operativi supportati, riducendo l'elaborazione da secondi a millisecondi, con una latenza end-to-end di soli 5 millisecondi.

Sei pronto a diventare un'azienda guidata da dati e IA?

Fai i primi passi nella tua trasformazione