pandas_api

Converte o DataFrame existente num DataFrame pandas-on-Spark.

Sintaxe

pandas_api(index_col: Optional[Union[str, List[str]]] = None)

Parâmetros

Parâmetro Tipo Descrição
index_col Str ou lista de STR, opcional Coluna de índice da tabela no Spark.

Devoluções

PandasOnSparkDataFrame

Notes

Se um DataFrame pandas-on-Spark for convertido para um DataFrame Spark e depois de volta para pandas-on-Spark, perderá a informação do índice e o índice original será transformado numa coluna normal.

Isto só está disponível se o Pandas estiver instalado e disponível.

Exemplos

df = spark.createDataFrame(
    [(14, "Tom"), (23, "Alice"), (16, "Bob")], ["age", "name"])

df.pandas_api()
#    age   name
# 0   14    Tom
# 1   23  Alice
# 2   16    Bob

df.pandas_api(index_col="age")
#       name
# age
# 14     Tom
# 23   Alice
# 16     Bob