详解Java两种方式简单实现：爬取网页并且保存

对于网络，我一直处于好奇的态度。以前一直想着写个爬虫，但是一拖再拖，懒得实现，感觉这是一个很麻烦的事情，出现个小错误，就要调试很多时间，太浪费时间。

后来一想，既然早早给自己下了保证，就先实现它吧，从简单开始，慢慢增加功能，有时间就实现一个，并且随时优化代码。

下面是我简单实现爬取指定网页，并且保存的简单实现，其实有几种方式可以实现，这里慢慢添加该功能的几种实现方式。

UrlConnection爬取实现

package html;

import java.io.BufferedReader;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.io.OutputStreamWriter;
import java.net.MalformedURLException;
import java.net.URL;
import java.net.URLConnection;

public class Spider {

  public static void main(String[] args) {
    
    String filepath = "d:/124.html";
    
    String url_str = "http://www.hao123.com/";
    URL url = null;
    try {
      url = new URL(url_str);
    } catch (MalformedURLException e) {
      e.printStackTrace();
    }
    
    String charset = "utf-8";
    int sec_cont = 1000;
    try {
      URLConnection url_con = url.openConnection();
      url_con.setDoOutput(true);
      url_con.setReadTimeout(10 * sec_cont);
      url_con.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)");
      InputStream htm_in = url_con.getInputStream();
      
      String htm_str = InputStream2String(htm_in,charset);
      saveHtml(filepath,htm_str);
      
    } catch (IOException e) {
      e.printStackTrace();
    }
  }
  /**
   * Method: saveHtml 
   * Description: save String to file
   * @param filepath
   * file path which need to be saved
   * @param str
   * string saved
   */
  public static void saveHtml(String filepath, String str){
    
    try {
      /*@SuppressWarnings("resource")
      FileWriter fw = new FileWriter(filepath);
      fw.write(str);
      fw.flush();*/
      OutputStreamWriter outs = new OutputStreamWriter(new FileOutputStream(filepath, true), "utf-8");
      outs.write(str);
      System.out.print(str);
      outs.close();
    } catch (IOException e) {
      System.out.println("Error at save html...");
      e.printStackTrace();
    }
  }
  /**
   * Method: InputStream2String 
   * Description: make InputStream to String
   * @param in_st
   * inputstream which need to be converted
   * @param charset
   * encoder of value
   * @throws IOException
   * if an error occurred 
   */
  public static String InputStream2String(InputStream in_st,String charset) throws IOException{
    BufferedReader buff = new BufferedReader(new InputStreamReader(in_st, charset));
    StringBuffer res = new StringBuffer();
    String line = "";
    while((line = buff.readLine()) != null){
      res.append(line);
    }
    return res.toString();
  }

}

实现过程中，爬取的网页的中文乱码问题，是个比较麻烦的事情。

HttpClient爬取实现

HttpClient实现爬取网页时，遇到了很多问题。其一，就是存在两个版本的HttpClient，一个是sun内置的，另一个是apache开源的一个项目，似乎sun内置用的不太多，我也就没有实现，而是采用了apache开源项目（以后说的HttpClient都是指apache的开源版本）；其二，在使用HttpClient时，最新的版本已经不同于以前的版本，从HttpClient4.x版本后,导入的包就已经不一样了，从网上找的很多部分都是HttpClient3.x版本的，所以如果使用最新的版本，还是看帮助文件为好。

我用的是Eclipse，需要配置环境导入引用包。

首先，下载HttpClient，地址是：http://hc.apache.org/downloads.cgi，我是用的事HttpClient4.2版本。

然后，解压缩，找到了/lib文件夹下的commons-codec-1.6.jar，commons-logging-1.1.1.jar，httpclient-4.2.5.jar，httpcore-4.2.4.jar（版本号根据下载的版本有所不同，还有其他的jar文件，我这里暂时用不到，所以先导入必须的）；

最后，将上面的jar文件，加入classpath中，即右击工程文件 => Bulid Path => Configure Build Path => Add External Jar..,然后添加上面的包就可以了。

 还用一种方法就是讲上面的包，直接复制到工程文件夹下的lib文件夹中。

下面是实现代码：

package html;

import java.io.BufferedReader;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.io.OutputStreamWriter;

import org.apache.http.HttpEntity;
import org.apache.http.HttpResponse;
import org.apache.http.client.*;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.DefaultHttpClient;

public class SpiderHttpClient {

  public static void main(String[] args) throws Exception {
    // TODO Auto-generated method stub
    String url_str = "http://www.hao123.com";
    String charset = "utf-8";
    String filepath = "d:/125.html";
    
    HttpClient hc = new DefaultHttpClient();
    HttpGet hg = new HttpGet(url_str);
    HttpResponse response = hc.execute(hg);
    HttpEntity entity = response.getEntity();
    
    
    InputStream htm_in = null;
    
    if(entity != null){
      System.out.println(entity.getContentLength());
      htm_in = entity.getContent();
      String htm_str = InputStream2String(htm_in,charset);
      saveHtml(filepath,htm_str);
    }
  }
  /**
   * Method: saveHtml 
   * Description: save String to file
   * @param filepath
   * file path which need to be saved
   * @param str
   * string saved
   */
  public static void saveHtml(String filepath, String str){
    
    try {
      /*@SuppressWarnings("resource")
      FileWriter fw = new FileWriter(filepath);
      fw.write(str);
      fw.flush();*/
      OutputStreamWriter outs = new OutputStreamWriter(new FileOutputStream(filepath, true), "utf-8");
      outs.write(str);
      outs.close();
    } catch (IOException e) {
      System.out.println("Error at save html...");
      e.printStackTrace();
    }
  }
  /**
   * Method: InputStream2String 
   * Description: make InputStream to String
   * @param in_st
   * inputstream which need to be converted
   * @param charset
   * encoder of value
   * @throws IOException
   * if an error occurred 
   */
  public static String InputStream2String(InputStream in_st,String charset) throws IOException{
    BufferedReader buff = new BufferedReader(new InputStreamReader(in_st, charset));
    StringBuffer res = new StringBuffer();
    String line = "";
    while((line = buff.readLine()) != null){
      res.append(line);
    }
    return res.toString();
  }
}

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。

# java爬取网页数据  # java  # urlconnection  # httpclient  # 爬取数据  # Java中ResponseBodyEmitter的实现  # java爬取豆瓣电影示例解析  # java+selenium爬取图片签名的方法  # Java实现爬取往期所有双色球开奖结果功能示例  # java代理实现爬取代理IP的示例  # 教你如何用Java简单爬取WebMagic  # 开源  # 几种  # 的是  # 都是  # 我是  # 我也  # 是个  # 太多  # 是指  # 其他的  # 下了  # 我一直  # 这是一个  # 有所不同  # 就没  # 我用  # 给自己  # 采用了  # 可以实现  # 解压缩 

相关文章： 广州美橙建站如何快速搭建多端合一网站？  智能起名网站制作软件有哪些,制作logo的软件？  如何制作网站标识牌,动态网站如何制作（教程）？  免费制作小说封面的网站有哪些,怎么接网站批量的封面单？  如何在阿里云通过域名搭建网站？  c# 在ASP.NET Core中管理和取消后台任务  较简单的网站制作软件有哪些,手机版网页制作用什么软件？  详解一款开源免费的.NET文档操作组件DocX（.NET组件介绍之一）  html制作网站的步骤有哪些,iapp如何添加网页？  图册素材网站设计制作软件,图册的导出方式有几种？  网站制作费用多少钱,一个网站的运营，需要哪些费用？  如何选购建站域名与空间？自助平台全解析  极客网站有哪些,DoNews、36氪、爱范儿、虎嗅、雷锋网、极客公园这些互联网媒体网站有什么差异？  广东企业建站网站优化与SEO营销核心策略指南  c++怎么编写动态链接库dll_c++ __declspec(dllexport)导出与调用【方法】  大连企业网站制作公司,大连2025企业社保缴费网上缴费流程？  宁波自助建站系统如何快速打造专业企业网站？  如何正确下载安装西数主机建站助手？  如何快速搭建高效香港服务器网站？  建站之星2.7模板：企业网站建设与h5定制设计专题  制作网站建设的公司有哪些,网站建设比较好的公司都有哪些？  湖北网站制作公司有哪些,湖北清能集团官网？  香港代理服务器配置指南：高匿IP选择、跨境加速与SEO优化技巧  css网站制作参考文献有哪些,易聊怎么注册？  全景视频制作网站有哪些,全景图怎么做成网页？  建站之星24小时客服电话如何获取？  免费公司网站制作软件,如何申请免费主页空间做自己的网站？  高配服务器限时抢购：企业级配置与回收服务一站式优惠方案  建站ABC备案流程中有哪些关键注意事项？  如何在橙子建站中快速调整背景颜色？  如何挑选优质建站一级代理提升网站排名？  建站主机数据库如何配置才能提升网站性能？  网站制作免费,什么网站能看正片电影？  制作充值网站的软件,做人力招聘为什么要自己交端口钱？  学校免费自助建站系统：智能生成+拖拽设计+多端适配  在线ppt制作网站有哪些软件,如何把网页的内容做成ppt？  教学论文网站制作软件有哪些,写论文用什么软件 ？  如何在腾讯云服务器快速搭建个人网站？  教学网站制作软件,学习*后期制作的网站有哪些？  香港服务器网站生成指南：免费资源整合与高速稳定配置方案  网站设计制作书签怎么做,怎样将网页添加到书签/主页书签/桌面？  如何批量查询域名的建站时间记录？  大连网站制作公司哪家好一点,大连买房网站哪个好？  高防服务器如何保障网站安全无虞？  seo网站制作优化,网站SEO优化步骤有哪些？  C++中引用和指针有什么区别？（代码说明）  购物网站制作费用多少,开办网上购物网站，需要办理哪些手续？  如何获取免费开源的自助建站系统源码？  常州自助建站工具推荐：低成本搭建与模板选择技巧  建站中国必看指南：CMS建站系统+手机网站搭建核心技巧解析