Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

时间：2022-09-08 22:24:36

前言：
猫眼票房页面的字体加密是动态的，每次或者每天加载页面的字体文件都会有所变化，本篇内容针对这种加密方式进行分析
字体加密原理：简单来说就是程序员在设计网站的时候使用了自己设计的字体代码对关键字进行编码，在浏览器加载的时会根据这个字体文件对这些字体进行编码，从而显示出正确的字体。

已知的使用了字体加密的一些网站：
58同城，起点，猫眼，大众点评，启信宝，天眼查，实习僧，汽车之家
本篇内容不过多解释字体文件的映射关系，不了解的请自行查找其他资料。
如若还未入门爬虫，请往这走 简单粗暴入门法——Python爬虫入门篇

  1. import requests
  2. import urllib.request as down
  3. import json
  4. from fontTools.ttLib import TTFont
  5. import re
  6. #分析用
  7. import matplotlib.pyplot as plt #绘图
  8. import numpy as np # 科学计算库

安装：
pip install matplotlib
pip install requests
pip install numpy
pip install fonttools

首先我们对猫眼票房页面进行简单分析

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

可以看到票房数字在审查中显示的是乱码，类似与这种情况的就可能是使用了字体加密，因此我们需要找到字体文件（字体文件会以链接方式存放在页面中）

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

找到了字体文件，下载并对映射关系进行分析，可以得到我们需要的一组基础字形映射表；并且可以通过映射关系得到每个字形的所有坐标

  1. baseFont=TTFont('maoyan.woff')
  2. # 获取相应数字的namecode和形状坐标的关系，可用来获取坐标
  3. glyf=baseFont['glyf']
  4. #通过对一份字体样本分析得出的字体映射
  5. baseNumberMaps={
  6. 0:glyf['uniF632'],
  7. 1:glyf['uniF2F1'],
  8. 2:glyf['uniF0A4'],
  9. 3:glyf['uniF7B7'],
  10. 4:glyf['uniE82D'],
  11. 5:glyf['uniF653'],
  12. 6:glyf['uniE756'],
  13. 7:glyf['uniF41A'],
  14. 8:glyf['uniE79B'],
  15. 9:glyf['uniE81E']
  16. }
  17. for num,name in baseNumberMaps.items():
  18. print(name.coordinates)

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

我们将坐标绘图成图形，在进行不同组字形图形对比可以发现每套字形的坐标不同，大小比例不同，而字形是不变的，也就是相似

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

对比坐标发现每套字形坐标都会有所改变，但是整体图形还是同一个，所以我想到了斜率对比，我们计算每个字形部分线段的斜率，如果斜率之差小于一个数值，就说明这两个是相同的数字。

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

因此就得到了一个思路 获得基础字体映射关系表爬取页面下载所加载的字体获得需要对比的字体映射关系表计算每套字体每个字形的线段斜率，并进行差值计算循环匹配，从基础字形的0-9开始去匹配新字形的斜率，如果斜率之差小于0.5并且样本数>=9我们则认为两个图形为同一个数字，获得正确的字体映射关系对加密字体进行替换得到正确内容

程序实现

  1. import requests
  2. import urllib.request as down
  3. import json
  4. from fontTools.ttLib import TTFont
  5. import re
  6. import MyPyClass
  7.  
  8. # 得到字体斜率列表（部分）
  9. def font_Kdict(mapstype,maps=None):
  10. '''
  11. 得到字体斜率字典（部分）
  12. 参数：
  13. mapstype：str->maps类型，判断是是base/new
  14. maps：映射字典
  15.  
  16. return kdict
  17. kdict字典关系：
  18. num:Klist 数字对应每条线段的斜率列表
  19. '''
  20. kdict={}
  21. # 遍历maps字典，找到对应的num和namecode
  22. for num, namecode in maps.items():
  23. # 跳过无用数据
  24. if namecode == 'x': continue
  25. # 判断类型，并从.coordinates得到对应num的所有坐标
  26. if mapstype=='base':coordinates = namecode.coordinates
  27. elif mapstype=='new':coordinates=glyf[namecode].coordinates
  28. # 得到坐标 X列表和坐标 Y列表
  29. x = [i[0] for i in coordinates]
  30. y = [i[1] for i in coordinates]
  31. Klist = []
  32. # 遍历X列表并切片为前10个数据进行斜率计算，即代表绘图的前10条线段的斜率
  33. for index, absx in enumerate(x[:10]):
  34. # 当斜率为0/1时，认为斜率为1计算
  35. if x[index + 1] == x[index] or y[index + 1] == y[index]:
  36. absxy = 1
  37. else:
  38. absxy = (y[index + 1] - y[index]) / (x[index + 1] - x[index])
  39. # 将斜率加入到列表
  40. Klist.append(-absxy if absxy < 0 else absxy)
  41. kdict[num]=Klist
  42. #print('base:', code, Klist, name)
  43. return kdict
  44. # 对比斜率字典
  45. def contrast_K(kbase,knew):
  46. '''
  47. 对比斜率映射差距
  48. 参数：
  49. kbase:基础字体映射表的斜率字典
  50. knew:当前链接的字体映射表的斜率字典
  51.  
  52. return:dict
  53. fontMaps:根据对比得出正确的字体映射关系字典
  54.  
  55. '''
  56. fontMaps = {}
  57. # 遍历kbase字典
  58. for base in kbase.items():
  59. n = 0 # 成功匹配的斜率个数
  60. # 遍历knew字典
  61. for new in knew.items():
  62. # 遍历kbase>knew>下的两组斜率，进行大小匹配，
  63. # 如果斜率k的差值小于0.5，并且样本数>=9时，认为两个坐标图形相识只是大小比例不同
  64. # 即k<=0.5 n>=9
  65. for (k1,k2) in zip(base[1],new[1]):
  66. # k取正数
  67. k=k1-k2 if k1>k2 else k2-k1
  68. if k<=0.5:
  69. n+=1
  70. continue
  71. else:
  72. break
  73. if n>=9:
  74. # 匹配正确则添加进字典中 此时的字典关系是：code:num 代码对应数字的关系
  75. fontMaps[str(hex(new[0]).replace('0x','&#x'))]=str(base[0])
  76. break
  77. n=0
  78. #print(fontMaps)
  79. return fontMaps
  80.  
  81. # 建立基础字体对象
  82. baseFont=TTFont('maoyan.woff')
  83. # 获取相应数字的namecode和形状坐标的关系，可用来获取坐标
  84. glyf=baseFont['glyf']
  85. #通过对一份字体样本分析得出的字体映射
  86. baseNumberMaps={
  87. 0:glyf['uniF632'],
  88. 1:glyf['uniF2F1'],
  89. 2:glyf['uniF0A4'],
  90. 3:glyf['uniF7B7'],
  91. 4:glyf['uniE82D'],
  92. 5:glyf['uniF653'],
  93. 6:glyf['uniE756'],
  94. 7:glyf['uniF41A'],
  95. 8:glyf['uniE79B'],
  96. 9:glyf['uniE81E']
  97. }
  98. url='https://piaofang.maoyan.com/dashboard-ajax?orderType=0&uuid=1778ad877f8c8-0b23bf32a2bb26-c7d6957-1fa400-1778ad877f8c8&riskLevel=71&optimusCode=10'
  99. ua=MyPyClass.GetUserAgent()#获得ua
  100. # 爬取内容
  101. with requests.get(url,headers={'user-agent':ua}) as response:
  102. # 获取存放字典的json字段，并提取字体url
  103. fontStyle=json.loads(response.content)['fontStyle']
  104. fontStyle=re.findall('\"([\s\S]*?)\"',fontStyle[::-1])
  105. fonturl='http:'+fontStyle[0][::-1]# 字体url链接
  106. # 将加载的字体下载保存到本地，并对其进行分析
  107. down.urlretrieve(fonturl,'newfont.woff')
  108. # 爬取的电影数据内容
  109. content = json.loads(response.content)['movieList']['data']['list']
  110. # 信息字典
  111. movieNum={}#综合票房数字典
  112. movieDayOne= {}#上映首日数量
  113. movieRate={}#票房占比
  114. movieshowCount={}#排片场次
  115. movieViewerAvg={}#场均人数
  116. movieInfos={}
  117. # 页面内容
  118. for i in content:
  119. moviename=i['movieInfo']['movieName']
  120. movieNum[moviename]=i['boxSplitUnit']['num']
  121. movieDayOne[moviename]=i['sumBoxDesc']
  122. movieRate[moviename]=i['splitBoxRate']
  123. movieshowCount[moviename]=i['showCount']
  124. movieViewerAvg[moviename]=i['avgShowView']
  125.  
  126. # 新字体对象
  127. fontnew=TTFont('newfont.woff')
  128. # 得到当前字体的映射关系表
  129. newNumberMaps=fontnew.getBestCmap()
  130. # 获取字形
  131. glyf=fontnew['glyf']
  132. # 基础字体斜率字典
  133. k_base_dict=font_Kdict(maps=baseNumberMaps,mapstype='base')
  134. # 新字体斜率字典
  135. k_new_dict=font_Kdict(maps=fontnew.getBestCmap(),mapstype='new')
  136. # 得到字体映射字典
  137. fontcodes=contrast_K(k_base_dict,k_new_dict)
  138. # 对加密的字体遍历分组，并去除无用字符
  139. for name,numbercode in movieNum.items():
  140. movieNum[name]=re.findall('([\S]*?);', numbercode)
  141. # 根据得到的fontcodes映射对加密字体进行替换，得到正确数值
  142. for index,(name,numbercodelist) in enumerate(movieNum.items()):
  143. num=[]
  144. # 替换操作
  145. for code in numbercodelist:
  146. if '.' in code:
  147. code=code.replace('.','')
  148. num.append('.'+fontcodes[code])
  149. else:
  150. num.append(fontcodes[code])
  151. infos=['排行:'+str(index+1),
  152. '片名',name,
  153. '上映首日',movieDayOne[name],
  154. '票房',''.join(num)+'万',
  155. '票房占比',movieRate[name],
  156. '场均人数',movieViewerAvg[name]+'人',
  157. '排片场次',movieshowCount[name]]
  158. print(infos)

实现效果如下

Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)

到此这篇关于Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)的文章就介绍到这了,更多相关Python爬虫猫眼票房字体反爬内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！

原文链接：https://blog.csdn.net/xyl192960/article/details/113795224

标签：

相关文章