pandas dataframe 与 spark dataframe 互相转换(数据类型应该怎么转换呢?)

文章大纲


spark 2.x 版本

spark 2.4.8 版本:

  • https://spark.apache.org/docs/2.4.8/api/python/_modules/pyspark/sql/dataframe.html#DataFrame.toPandas

spark 3.2 版本及以上

pyspark 如下文档给出了答案:

spark 3.2 版本:

  • http://spark.apache.org/docs/latest/api/python/user_guide/pandas_on_spark/types.html?highlight=to_pandas

参考文献

上一篇:利用python进行数据分析——pandas层次化索引


下一篇:dataframe数据结构