StreamingQueryManager

Hanterar alla aktiva StreamingQuery instanser som är associerade med en SparkSession. Använd spark.streams för att komma åt detta.

Syntax

# Access through SparkSession
spark.streams

Egenskaper

Fastighet Beskrivning
active Returnerar en lista över alla aktiva strömmande frågor som är associerade med den här SparkSession.

Methods

Metod Beskrivning
get(id) Returnerar en aktiv fråga med dess unika ID.
awaitAnyTermination(timeout) Väntar tills en aktiv fråga avslutas eller tills tidsgränsen upphör att gälla.
resetTerminated() Glömmer tidigare avslutade frågor så att de awaitAnyTermination() kan användas igen för att vänta på nya avslutningar.
addListener(listener) Registrerar en StreamingQueryListener för att ta emot återanrop till livscykelhändelser.
removeListener(listener) Avregistrerar en StreamingQueryListener.

Exempel

sdf = spark.readStream.format("rate").load()
sq = sdf.writeStream.format('memory').queryName('this_query').start()
sqm = spark.streams
[q.name for q in sqm.active]
# ['this_query']
sqm.awaitAnyTermination(5)
# True
sq.stop()
sqm.resetTerminated()