【2022.11最新】Python疫情数据采集 + 可视化展示

时间:2022-11-23 10:52:51

嗨害大家好鸭!我是小熊猫

最近我又又又在家里居家办公了

闲来无事,用python采集一下 再做个可视化

康康现在疫情如何

源码、资料素材电子书点击这里

【2022.11最新】Python疫情数据采集 + 可视化展示

知识点:

1. 爬虫基本流程
2. requests 发送请求
3. re 正则表达式
4. json 结构化数据解析
5. pyecharts 可视化

开发环境:

  • python 3.8: 解释器
  • pycharm: 代码编辑器

【2022.11最新】Python疫情数据采集 + 可视化展示

爬虫流程:

一. 明确需求 (爬虫 + 数据分析)

采集 确诊人数 新增人数 数据所在位置:
地址

【2022.11最新】Python疫情数据采集 + 可视化展示

二. 代码流程 爬虫四大步骤

  1. 发送请求 地址

  2. 获取数据 网页源代码

  3. 解析数据 筛选一些我想用的数据

  4. 保存数据 保存成表格

  5. 做数据可视化分析

代码编写

导入模块

import requests     # 额外安装: 第三方模块
import re           # 内置模块
import csv
with open('data.csv', mode='a', newline='') as f:
    csv_writer = csv.writer(f)
    csv_writer.writerow(['area', 'curConfirm', 'curConfirmRelative', 'confirmed', 'crued', 'died'])
url = 'https://voice.baidu.com/act/newpneumonia/newpneumonia/?from=osari_aladin_banner'

1. 发送请求

response = requests.get(url)
# <Response [200]>: 请求成功意思

2. 获取数据 网页源代码

html_data = response.text

3. 解析数据

json_str = re.findall('"component":\[(.*)\],', html_data)[0]     # 字符串
# 字典类型取值, 转类型
json_dict = eval(json_str)
caseList = json_dict['caseList']
for case in caseList:
    area = case['area']                                 # 城市
    curConfirm = case['curConfirm']                     # 当前确诊
    curConfirmRelative = case['curConfirmRelative']     # 新增人数
    confirmed = case['confirmed']                       # 累计确诊
    crued = case['crued']                               # 治愈人数
    died = case['died']                                 # 死亡人数
    print(area, curConfirm, curConfirmRelative, confirmed, crued, died)

4. 保存数据

    # 乱码 encoding="utf-8" / encoding="gbk"
    with open('data.csv', mode='a', newline='') as f:
        csv_writer = csv.writer(f)
        csv_writer.writerow([area, curConfirm, curConfirmRelative, confirmed, crued, died])

【2022.11最新】Python疫情数据采集 + 可视化展示


疫情数据可视化

源码、资料素材电子书点击这里

各地区确诊人数

china_map = (
    Map()
    .add("现有确诊", [list(i) for i in zip(df['area'].values.tolist(),df['curConfirm'].values.tolist())], "china")
    .set_global_opts(
        title_opts=opts.TitleOpts(title="各地区确诊人数"),
        visualmap_opts=opts.VisualMapOpts(max_=200, is_piecewise=True),
    )
)
china_map.render_notebook()

新型冠状病毒全国疫情地图

cofirm, currentCofirm, cured, dead = [], [], [], []

tab = Tab()

_map = (
    Map(init_opts=opts.InitOpts(theme='dark', width='1000px'))
    .add("累计确诊人数", [list(i) for i in zip(df['area'].values.tolist(),df['confirmed'].values.tolist())], "china", is_map_symbol_show=False,  is_roam=False)
    .set_series_opts(label_opts=opts.LabelOpts(is_show=True))
    .set_global_opts(
        title_opts=opts.TitleOpts(title="新型冠状病毒全国疫情地图",
                                  ),
        legend_opts=opts.LegendOpts(is_show=False),
        visualmap_opts=opts.VisualMapOpts(is_show=True, max_=1000,
                                          is_piecewise=False,
                                          range_color=['#FFFFE0', '#FFA07A', '#CD5C5C', '#8B0000'])
    )
)
tab.add(_map, '累计确诊')

_map = (
    Map(init_opts=opts.InitOpts(theme='dark', width='1000px'))
    .add("当前确诊人数", [list(i) for i in zip(df['area'].values.tolist(),df['curConfirm'].values.tolist())], "china", is_map_symbol_show=False,  is_roam=False)
    .set_series_opts(label_opts=opts.LabelOpts(is_show=True))
    .set_global_opts(
        title_opts=opts.TitleOpts(title="新型冠状病毒全国疫情地图",
                                  ),
        legend_opts=opts.LegendOpts(is_show=False),
        visualmap_opts=opts.VisualMapOpts(is_show=True, max_=100,
                                          is_piecewise=False,
                                          range_color=['#FFFFE0', '#FFA07A', '#CD5C5C', '#8B0000'])
    )
)
tab.add(_map, '当前确诊')

_map = (
    Map(init_opts=opts.InitOpts(theme='dark', width='1000px'))
    .add("治愈人数", [list(i) for i in zip(df['area'].values.tolist(),df['crued'].values.tolist())], "china", is_map_symbol_show=False,  is_roam=False)
    .set_series_opts(label_opts=opts.LabelOpts(is_show=True))
    .set_global_opts(
        title_opts=opts.TitleOpts(title="新型冠状病毒全国疫情地图",
                                  ),
        legend_opts=opts.LegendOpts(is_show=False),
        visualmap_opts=opts.VisualMapOpts(is_show=True, max_=1000,
                                          is_piecewise=False,
                                          range_color=['#FFFFE0', 'green'])
    )
)
tab.add(_map, '治愈')

_map = (
    Map(init_opts=opts.InitOpts(theme='dark', width='1000px'))
    .add("死亡人数", [list(i) for i in zip(df['area'].values.tolist(),df['died'].values.tolist())], "china", is_map_symbol_show=False,  is_roam=False)
    .set_series_opts(label_opts=opts.LabelOpts(is_show=True))
    .set_global_opts(
        title_opts=opts.TitleOpts(title="新型冠状病毒全国疫情地图",
                                  ),
        legend_opts=opts.LegendOpts(is_show=False),
        visualmap_opts=opts.VisualMapOpts(is_show=True, max_=50,
                                          is_piecewise=False,
                                          range_color=['#FFFFE0', '#FFA07A', '#CD5C5C', '#8B0000'])
    )
)
tab.add(_map, '死亡')

tab.render_notebook()

各地区确诊人数与死亡人数情况

bar = (
    Bar()
    .add_xaxis(list(df['area'].values)[:6])
    .add_yaxis("死亡", df['died'].values.tolist()[:6])
    .add_yaxis("治愈", df['crued'].values.tolist()[:6])
    .set_global_opts(
        title_opts=opts.TitleOpts(title="各地区确诊人数与死亡人数情况"),
        datazoom_opts=[opts.DataZoomOpts()],
        )
)
bar.render_notebook(

【2022.11最新】Python疫情数据采集 + 可视化展示

今天的文章就到这里啦!

我是小熊猫,咱下篇文章再见啦(✿◡‿◡)