TableValuedFunction.inline

Omvandlar ett fält av strukturer till en tabell.

Den här funktionen tar en indatakolumn som innehåller en matris med structs och returnerar en ny kolumn där varje struct i matrisen exploderar i en separat rad.

Syntax

spark.tvf.inline(input)

Parameterar

Retur

pyspark.sql.DataFrame: En dataram med sprängda structrader.

Examples

Exempel 1: Använda infogad med en enda structmatris

import pyspark.sql.functions as sf
spark.tvf.inline(sf.array(
    sf.named_struct(sf.lit("a"), sf.lit(1), sf.lit("b"), sf.lit(2)),
    sf.named_struct(sf.lit("a"), sf.lit(3), sf.lit("b"), sf.lit(4))
)).show()

+---+---+
|  a|  b|
+---+---+
|  1|  2|
|  3|  4|
+---+---+

Exempel 2: Använda infogad med en tom structmatriskolumn

import pyspark.sql.functions as sf
spark.tvf.inline(sf.array().astype("array<struct<a:int,b:int>>")).show()

+---+---+
|  a|  b|
+---+---+
+---+---+

Exempel 3: Använda infogad med en structmatriskolumn som innehåller null-värden

import pyspark.sql.functions as sf
spark.tvf.inline(sf.array(
    sf.named_struct(sf.lit("a"), sf.lit(1), sf.lit("b"), sf.lit(2)),
    sf.lit(None),
    sf.named_struct(sf.lit("a"), sf.lit(3), sf.lit("b"), sf.lit(4))
)).show()

+----+----+
|   a|   b|
+----+----+
|   1|   2|
|NULL|NULL|
|   3|   4|
+----+----+