toLocalIterator

Devolve um iterador que contém todas as linhas deste DataFrame. O iterador consumirá tanta memória quanto a maior partição deste DataFrame. Com pré-leitura, pode consumir até à memória das 2 maiores partições.

Sintaxe

toLocalIterator(prefetchPartitions: bool = False)

Parâmetros

Parâmetro Tipo Descrição
prefetchPartitions bool, opcional Se o Spark deve pré-buscar a próxima partição antes de ser necessária.

Devoluções

Iterador: Iterador de linhas.

Exemplos

df = spark.createDataFrame(
    [(14, "Tom"), (23, "Alice"), (16, "Bob")], ["age", "name"])
list(df.toLocalIterator())
# [Row(age=14, name='Tom'), Row(age=23, name='Alice'), Row(age=16, name='Bob')]