用于模拟浏览器访问网页,抓取站点源文件。
有个第三方社区项目HttpClient(现在是HttpComponents)把问题搞复杂了。其实Java内置的HttpURLConnection很好的。HttpComponents不但复杂,而且有小问题。Java APIs没有内置HttpComponents应该是有考虑的。
* 基于HttpURLConnection
* version 3.0,支持上传文件。
* GET、POST方式无需设置(只要调用addPostData方法即为POST方式)。
* Cookie、Session自动处理。
【API简介】
该class没有公开字段。
该class的方法:
Http(String urlString, String charset);
request();
setHeader(String name, String value);
setTimeOut(int newTimeOut);
addPostData(String name, String value);
addUploadFile(String name, String path, String rename);
getInputStream();
getHeader(String key);
getHeaders();
javadoc文档
文档 这里下载。【示例】
举一个几乎用到所有功能的sample:
import wrapper.Http;
import java.util.*;
import java.io.*;
public class NewClass {
public static void main(String[] args) throws Exception {
String charset = "gbk";
/**
* 登录
*/
Http http1 = new Http("http://xxxxxxx/login.php", charset);
http1.addPostData("username", "username中文");
http1.addPostData("password", "password中文");
http1.request();
/**
* 另一个访问,cookie和session你都不用管了,会自动处理,会处理包括cookie的过期时间等等。这就像浏览器的两个标签页一样。
*/
Http http2 = new Http("http://xxxxxxx/xxxxxx.php", charset);
http2.addPostData("testfield", "testfieldvalue中文1");
http2.addPostData("mycheckbox[]", "testfieldvalue中文2");
http2.addPostData("mycheckbox[]", "testfieldvalue中文3");
http2.addUploadFile("fieldName", "F:/upfile.zip", "rename.zip");
http2.request();
/**
* 打印返回的结果出来
*/
//状况
System.out.println("-------response header-------");
Map<String, List<String>> headersMap = http2.getHeaders();
for (Map.Entry<String, List<String>> entry : headersMap.entrySet()) {
String string = entry.getKey();
List<String> list = entry.getValue();
System.out.println(string + ": " + list.get(0));
}
//内容
//压缩的
if (http2.getHeader("Content-Encoding") != null) {
System.out.println("压缩的,格式为" + http2.getHeader("Content-Encoding"));
//使用http2.getInputStream()得到二进制流,做其它处理,解压缩、保存到文件等等。
return;
}
//非压缩的
System.out.println("-------response content-------");
InputStreamReader isr = new InputStreamReader(http2.getInputStream(), charset);
StringBuilder stringBuilder = new StringBuilder();
int len;
char[] cbuf = new char[1024];
while ((len = isr.read(cbuf)) >= 0) {
stringBuilder.append(cbuf, 0, len);
}
System.out.println(stringBuilder.toString());
}
}
附注:
为什么没有直接返回页面文本而是通过 getInputStream()方法返回一个输入流呢?原因一,有些网站会不定次地发送压缩格式的body,例如百度。本类只负责抓取。压缩类型(gzip等)不确定,返回的文档也不一定是什么文档。本类不予解压缩,也不负责对文档进行解析。可根据getHeader("Content-Encoding")的值判断压缩情况。
原因二,在Java语言中都是对流进行操作,这是个标准的、默认的接口。过高封装会导致无法与其它API配合使用。
jar库包下载
jar包(含文档)到这里下载。