expliquer

Imprime les plans (logiques et physiques) dans la console à des fins de débogage.

Syntaxe

explain(extended: Optional[Union[bool, str]] = None, mode: Optional[str] = None)

Paramètres

Paramètre Type Description
extended bool, facultatif par défaut False. Si False, imprime uniquement le plan physique. Lorsqu’il s’agit d’une chaîne sans spécifier le mode, il fonctionne comme le mode est spécifié.
mode str, facultatif spécifie le format de sortie attendu des plans. simple: Imprimez uniquement un plan physique. extended: Imprimez les plans logiques et physiques. codegen: imprimez un plan physique et des codes générés s’ils sont disponibles. cost: imprimez un plan logique et des statistiques s’ils sont disponibles. formatted: Fractionnez la sortie en deux sections : un plan physique et des détails de nœud.

Exemples

df = spark.createDataFrame(
    [(14, "Tom"), (23, "Alice"), (16, "Bob")], ["age", "name"])
df.explain()
# == Physical Plan ==
# *(1) Scan ExistingRDD[age...,name...]

df.explain(extended=True)
# == Parsed Logical Plan ==
# ...
# == Analyzed Logical Plan ==
# ...
# == Optimized Logical Plan ==
# ...
# == Physical Plan ==
# ...

df.explain(mode="formatted")
# == Physical Plan ==
# * Scan ExistingRDD (...)
# (1) Scan ExistingRDD [codegen id : ...]
# Output [2]: [age..., name...]
# ...