Ruby_Webscraping:使用Rails 5的Web抓取应用程序

时间:2024-06-13 01:49:04
【文件属性】:

文件名称:Ruby_Webscraping:使用Rails 5的Web抓取应用程序

文件大小:879KB

文件格式:ZIP

更新时间:2024-06-13 01:49:04

JavaScript

Ruby_Webscraping 使用Rails 5和Ruby 2.4.4的Webscraping应用程序 这是我本地跑步俱乐部的网络抓书应用程序,他们喜欢从当地俱乐部成员访问过的Parkruns中收集结果。 抓取分为两个阶段:1)有一个索引站点,其中保存有可用结果的站点列表,然后2)应用程序转到这些站点中的每个站点以获取信息。 我将'mechanize'用作我的抓取工具:我开始使用Nokogiri,但是我发现无法设置标头来击败使用此功能的反抓取措施,并发现机械化是有效的。 我开始使用Postgressql是因为Heroku不接受MySQL,但是由于Heroku的问题,我开始将其托管在云计算机上,然后继续使用Postgres。 最初,我尝试用Heroku来主持此活动。 但是该应用程序超时,因为在显示视图之前它要做很多事情-特别是很多http,这是昂贵且不可避免的。 我无法更改He


网友评论