pyspark对Mysql数据库进行读写的实现

时间：2022-01-16 16:58:32

pyspark是Spark对Python的api接口，可以在Python环境中通过调用pyspark模块来操作spark，完成大数据框架下的数据分析与挖掘。其中，数据的读写是基础操作，pyspark的子模块pyspark.sql 可以完成大部分类型的数据读写。文本介绍在pyspark中读写Mysql数据库。

1 软件版本

在Python中使用Spark，需要安装配置Spark，这里跳过配置的过程，给出运行环境和相关程序版本信息。

  • win10 64bit
  • java 13.0.1
  • spark 3.0
  • python 3.8
  • pyspark 3.0
  • pycharm 2019.3.4

2 环境配置

pyspark连接Mysql是通过java实现的，所以需要下载连接Mysql的jar包。

下载地址

pyspark对Mysql数据库进行读写的实现

选择下载Connector/J，然后选择操作系统为Platform Independent，下载压缩包到本地。

pyspark对Mysql数据库进行读写的实现

然后解压文件，将其中的jar包mysql-connector-java-8.0.19.jar放入spark的安装目录下，例如D:\spark\spark-3.0.0-preview2-bin-hadoop2.7\jars。

pyspark对Mysql数据库进行读写的实现

环境配置完成！

3 读取Mysql

脚本如下：

  1. from pyspark.sql import SQLContext, SparkSession
  2.  
  3. if __name__ == '__main__':
  4. # spark 初始化
  5. spark = SparkSession. \
  6. Builder(). \
  7. appName('sql'). \
  8. master('local'). \
  9. getOrCreate()
  10. # mysql 配置(需要修改)
  11. prop = {'user': 'xxx',
  12. 'password': 'xxx',
  13. 'driver': 'com.mysql.cj.jdbc.Driver'}
  14. # database 地址(需要修改)
  15. url = 'jdbc:mysql://host:port/database'
  16. # 读取表
  17. data = spark.read.jdbc(url=url, table='tb_newCity', properties=prop)
  18. # 打印data数据类型
  19. print(type(data))
  20. # 展示数据
  21. data.show()
  22. # 关闭spark会话
  23. spark.stop()
  • 注意点：
  • prop参数需要根据实际情况修改，文中用户名和密码用xxx代替了，driver参数也可以不需要；
  • url参数需要根据实际情况修改，格式为jdbc:mysql://主机:端口/数据库；
  • 通过调用方法read.jdbc进行读取，返回的数据类型为spark DataFrame；

运行脚本，输出如下：

pyspark对Mysql数据库进行读写的实现

4 写入Mysql

脚本如下：

  1. import pandas as pd
  2. from pyspark import SparkContext
  3. from pyspark.sql import SQLContext, Row
  4.  
  5. if __name__ == '__main__':
  6. # spark 初始化
  7. sc = SparkContext(master='local', appName='sql')
  8. spark = SQLContext(sc)
  9. # mysql 配置(需要修改)
  10. prop = {'user': 'xxx',
  11. 'password': 'xxx',
  12. 'driver': 'com.mysql.cj.jdbc.Driver'}
  13. # database 地址(需要修改)
  14. url = 'jdbc:mysql://host:port/database'
  15.  
  16. # 创建spark DataFrame
  17. # 方式1：list转spark DataFrame
  18. l = [(1, 12), (2, 22)]
  19. # 创建并指定列名
  20. list_df = spark.createDataFrame(l, schema=['id', 'value'])
  21.  
  22. # 方式2：rdd转spark DataFrame
  23. rdd = sc.parallelize(l) # rdd
  24. col_names = Row('id', 'value') # 列名
  25. tmp = rdd.map(lambda x: col_names(*x)) # 设置列名
  26. rdd_df = spark.createDataFrame(tmp)
  27.  
  28. # 方式3：pandas dataFrame 转spark DataFrame
  29. df = pd.DataFrame({'id': [1, 2], 'value': [12, 22]})
  30. pd_df = spark.createDataFrame(df)
  31.  
  32. # 写入数据库
  33. pd_df.write.jdbc(url=url, table='new', mode='append', properties=prop)
  34. # 关闭spark会话
  35. sc.stop()

注意点：

prop和url参数同样需要根据实际情况修改；

写入数据库要求的对象类型是spark DataFrame，提供了三种常见数据类型转spark DataFrame的方法；

通过调用write.jdbc方法进行写入，其中的model参数控制写入数据的行为。

 

model 参数解释
error 默认值，原表存在则报错
ignore 原表存在，不报错且不写入数据
append 新数据在原表行末追加
overwrite 覆盖原表

5 常见报错

Access denied for user …

pyspark对Mysql数据库进行读写的实现

原因：mysql配置参数出错
解决办法：检查user,password拼写，检查账号密码是否正确，用其他工具测试mysql是否能正常连接，做对比检查。

No suitable driver

pyspark对Mysql数据库进行读写的实现

原因：没有配置运行环境
解决办法：下载jar包进行配置，具体过程参考本文的2 环境配置。

到此这篇关于pyspark对Mysql数据库进行读写的实现的文章就介绍到这了,更多相关pyspark Mysql读写内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！

原文链接：https://blog.csdn.net/jhr112/article/details/105798381

标签：

相关文章