load (DataStreamReader)

データ ソースからデータ ストリームを読み込み、DataFrame として返します。

構文

load(path=None, format=None, schema=None, **options)

パラメーター

パラメーター タイプ 説明
path str、省略可能 ファイル システムベースのデータ ソースのパス。
format str、省略可能 データ ソースの形式。 既定値は 'parquet' です。
schema StructType または str(省略可能) StructType または DDL 形式の文字列 (たとえば、 col0 INT, col1 DOUBLE) としての入力データのスキーマ。
**options その他のすべての文字列オプション。

返品

DataFrame

例示

一時 JSON ファイルからストリームを読み込みます。

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
    spark.createDataFrame(
        [(100, "Hyukjin Kwon"),], ["age", "name"]
    ).write.mode("overwrite").format("json").save(d)
    q = spark.readStream.schema(
        "age INT, name STRING"
    ).format("json").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()
  • Last updated on