carregar (DataStreamReader)

Carrega um fluxo de dados de uma fonte de dados e devolve-o como DataFrame.

Sintaxe

load(path=None, format=None, schema=None, **options)

Parâmetros

Parâmetro Tipo Descrição
path STR, opcional Caminho para fontes de dados suportadas por sistema de ficheiros.
format STR, opcional Formato da fonte de dados. O padrão é 'parquet'.
schema StructType ou str, opcional Esquema para os dados de entrada como uma cadeia formatada StructType ou DDL (por exemplo, col0 INT, col1 DOUBLE).
**options Todas as outras opções de cordas.

Devoluções

DataFrame

Exemplos

Carregar um fluxo a partir de um ficheiro JSON temporário:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
    spark.createDataFrame(
        [(100, "Hyukjin Kwon"),], ["age", "name"]
    ).write.mode("overwrite").format("json").save(d)
    q = spark.readStream.schema(
        "age INT, name STRING"
    ).format("json").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()
  • Last updated on