StreamingQueryManager

Beheert alle actieve StreamingQuery exemplaren die zijn gekoppeld aan een SparkSession. Gebruik spark.streams dit om toegang te krijgen.

Syntaxis

# Access through SparkSession
spark.streams

Eigenschappen

Vastgoed Beschrijving
active Retourneert een lijst met alle actieve streamingquery's die hieraan SparkSessionzijn gekoppeld.

Methods

Methode Beschrijving
get(id) Retourneert een actieve query op basis van de unieke id.
awaitAnyTermination(timeout) Wacht totdat een actieve query wordt beëindigd of totdat de time-out verloopt.
resetTerminated() Vergeet afgelopen beëindigde query's, zodat deze awaitAnyTermination() opnieuw kunnen worden gebruikt om te wachten op nieuwe beëindigingen.
addListener(listener) Registreert een StreamingQueryListener voor het ontvangen van callbacks voor levenscyclus-gebeurtenissen.
removeListener(listener) De registratie van een StreamingQueryListener.

Examples

sdf = spark.readStream.format("rate").load()
sq = sdf.writeStream.format('memory').queryName('this_query').start()
sqm = spark.streams
[q.name for q in sqm.active]
# ['this_query']
sqm.awaitAnyTermination(5)
# True
sq.stop()
sqm.resetTerminated()