foreachPartition

Aplica la f función a cada partición de este DataFrame.

Sintaxis

foreachPartition(f: Callable[[Iterator[Row]], None])

Parámetros

Parámetro Tipo Descripción
f function Función que acepta un parámetro que recibirá cada partición para procesar.

Ejemplos

df = spark.createDataFrame(
    [(14, "Tom"), (23, "Alice"), (16, "Bob")], ["age", "name"])
def func(itr):
    for person in itr:
        print(person.name)

df.foreachPartition(func)