Lernen Sie, wie Sie Echtzeitdaten mit denselben Spark-APIs verarbeiten, die Sie auch für die Stapelverarbeitung verwenden.
Archived. This article has not been updated since the publish date above. The dynamic nature of information means that previously accurate content can become outdated or even obsolete over time. Readers are advised to exercise due diligence and cross-check any information found in this blog post before making decisions or adopting any practices based on said information.
Structured Streaming ist eine High-Level-API für die Verarbeitung von Streams, die mit Spark 2.2 produktionsreif wurde. Mit Structured Streaming stehen Ihnen die Operationen, die Sie im Batch-Modus mithilfe der strukturierten Spark-APIs durchführen, im Streaming-Verfahren zur Verfügung. Das reduziert die Latenz und ermöglicht eine inkrementelle Verarbeitung. Der Clou an Structured Streaming ist, dass Sie damit praktisch ohne Codeänderungen schnell und einfach einen Mehrwert aus Streaming-Systemen generieren können. Außerdem können Sie Ihren Batch-Job als Prototyp schreiben und ihn dann in einen Streaming-Job umwandeln, was Prüfung und Optimierung vereinfacht. Die schrittweise Verarbeitung der betreffenden Daten macht es möglich.
Abonnieren Sie unseren Blog und erhalten Sie die neuesten Beiträge direkt in Ihren Posteingang.