carga

Carrega dados de uma fonte de dados e devolve-os como um DataFrame.

Sintaxe

load(path=None, format=None, schema=None, **options)

Parâmetros

Parâmetro Tipo Descrição
path STR ou lista, opcional Um ou mais caminhos numa fonte de dados apoiada por um sistema de ficheiros.
format STR, opcional O formato da fonte de dados. O padrão é 'parquet'.
schema StructType ou str, opcional O esquema de entrada como objeto StructType ou uma cadeia de caracteres formatada em DDL (por exemplo, 'col0 INT, col1 DOUBLE').
**options dicionário Opções adicionais de cordas.

Devoluções

DataFrame

Exemplos

Carregue um ficheiro CSV com formato, esquema e opções especificados.

import tempfile
with tempfile.TemporaryDirectory(prefix="load") as d:
    df = spark.createDataFrame([{"age": 100, "name": "Alice"}])
    df.write.option("header", True).mode("overwrite").format("csv").save(d)

    df = spark.read.load(
        d, schema=df.schema, format="csv", nullValue="Alice", header=True)
    df.printSchema()
    # root
    #  |-- age: long (nullable = true)
    #  |-- name: string (nullable = true)
    df.show()
    # +---+----+
    # |age|name|
    # +---+----+
    # |100|NULL|
    # +---+----+
  • Last updated on