parquet (DataStreamReader)

Parquet ファイル ストリームを読み込み、結果を DataFrame として返します。

構文

parquet(path, **options)

パラメーター

パラメーター タイプ 説明
path str Hadoop でサポートされているファイル システムのパス。

返品

DataFrame

例示

一時 Parquet ファイルからストリームを読み込みます。

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="parquet") as d:
    spark.range(10).write.mode("overwrite").format("parquet").save(d)
    q = spark.readStream.schema(
        "id LONG").parquet(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()
  • Last updated on