JAVA网络爬虫简单实现

System.out.println("开始"); String[] contents = content.split("<a href=\""); for (int i = 1; i < contents.length; i++) {
int endHref = contents[i].indexOf("\"");
return matcher.matches(); }
/** * 创建对应文件 * * @param content * @param urlPath */ public static void createFile(String content, String urlPath) {
/* 分割 url */ String[] elems = divUrl(urlPath); StringBuffer path = new StringBuffer();
if (!file.exists()) {
file.mkdirs(); } String[] fileName = elems[i].split("\\."); file = new File("D:" + File.separator + path.toString()
+ File.separator + fileName[0] + ".txt"); try {
int sign = content.indexOf("<pre class=\""); String signContent = content.substring(sign);
int start = signContent.indexOf(">");
int end = signContent.indexOf("</pre>");
resultHref = "http://www.oschina.net" + href; } }
return resultHref; }
/** * 截取网页网页源文件的目标内容 * * @param content * @return */ public static String getGoalContent(String content) {
Βιβλιοθήκη Baidu} }
} }
/**
* 获取页面的超链接并将其转换为正式的 A 标签 * * @param href * @return */ public static String getHrefOfInOut(String href) {
/* 内外部链接最终转化为完整的链接格式 */ String resultHref = null;
下面介绍一下每个类的源代码： DownloadPage.java 此类要用到 HttpClient 组件。
package com.sreach.spider;
import java.io.IOException; import org.apache.http.HttpEntity; import org.apache.http.HttpResponse; import org.apache.http.client.ClientProtocolException; import org.apache.http.client.HttpClient; import org.apache.http.client.methods.HttpGet; import org.apache.http.impl.client.DefaultHttpClient; import org.apache.http.util.EntityUtils;
FunctionUtils.createFile(FunctionUtils .getGoalContent(content), url);
} }
} catch (ClientProtocolException e) {
e.printStackTrace(); } catch (IOException e) {
file.createNewFile(); writer = new BufferedWriter(new OutputStreamWriter(
new FileOutputStream(file))); writer.write(content); writer.flush(); writer.close(); System.out.println("创建文件成功"); } catch (IOException e) { e.printStackTrace(); }
String aHref = FunctionUtils.getHrefOfInOut(contents[i].substring( 0, endHref));
if (aHref != null) {
String href = FunctionUtils.getHrefOfInOut(aHref);
public class DownloadPage {
/** * 根据 URL 抓取网页内容 * * @param url * @return */
public static String getContentFormUrl(String url) {
/* 实例化一个 HttpClient 客户端 */ HttpClient client = new DefaultHttpClient(); HttpGet getHttp = new HttpGet(url);
private static BufferedWriter writer = null;
/** * 爬虫搜索深度 */ public static int depth = 0;
/** * 以"/"来分割 URL,获得超链接的元素 * * @param url * @return */
public static String[] divUrl(String url) {
首先介绍每个类的功能： DownloadPage.java 的功能是下载此超链接的页面源代码. FunctionUtils.java 的功能是提供不同的静态方法，包括：页面链接正则表达式匹配,获取 URL 链接的元素,判断是否创建文件,获取页面的 Url 并将其转换为规范的 Url,截取网页网页 源文件的目标内容。 HrefOfPage.java 的功能是获取页面源代码的超链接。 UrlDataHanding.java 的功能是整合各个给类，实现 url 到获取数据到数据处理类。 UrlQueue.java 的未访问 Url 队列。 VisitedUrlQueue.java 已访问过的 URL 队列。
if (!UrlQueue.isContains(href) && href.indexOf("/code/explore") != -1 && !VisitedUrlQueue.isContains(href))
{ UrlQueue.addElem(href);
} } }
System.out.println(UrlQueue.size() + "--抓取到的连接数"); System.out.println(VisitedUrlQueue.size() + "--已处理的页面数");
return signContent.substring(start + 1, end); }
/** * 检查网页源文件中是否有目标文件 * * @param content * @return */ public static int isHasGoalContent(String content) {
}
if (i == elems.length - 1) {
Pattern pattern = Pattern.compile("\\w+\\.[a-zA-Z]+"); Matcher matcher = pattern.matcher(elems[i]); if ((matcher.matches())) {
}
} 复制代码
UrlDataHanding.java 此类主要是从未访问队列中获取 url,下载页面，分析 url，保存已访问 url 等操作，实现 Runnable 接口
public class FunctionUtils {
/** * 匹配超链接的正则表达式 */ private static String pat = "http://www\\.oschina\\.net/code/explore/.*/\\w+\\.[a-zA-Z]+"; private static Pattern pattern = Pattern.compile(pat);
e.printStackTrace(); } finally {
client.getConnectionManager().shutdown(); }
return content;
}
} 复制代码
FunctionUtils.java 此类的方法均为 static 方法
package com.sreach.spider;
return content.indexOf("<pre class=\""); }
} 复制代码
HrefOfPage.java 此类为获取页面的超链接
package com.sreach.spider;
public class HrefOfPage {
/** * 获得页面源代码中超链接 */ public static void getHrefOfContent(String content) {
String content = null;
HttpResponse response; try {
/*获得信息载体*/ response = client.execute(getHttp); HttpEntity entity = response.getEntity();
VisitedUrlQueue.addElem(url);
/* 判断是否为外部链接 */ if (href.startsWith("http://")) {
resultHref = href; } else {
/* 如果是内部链接,则补充完整的链接地址,其他的格式忽略不处理,如：a href="#" */ if (href.startsWith("/")) {
import java.io.BufferedWriter; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; import java.io.OutputStreamWriter; import java.util.regex.Matcher; import java.util.regex.Pattern;
File file = null; for (int i = 1; i < elems.length; i++) {
if (i != elems.length - 1) {
path.append(elems[i]); path.append(File.separator);
file = new File("D:" + File.separator + path.toString());
return url.split("/"); }
/** * 判断是否创建文件 * * @param url * @return */ public static boolean isCreateFile(String url) {
Matcher matcher = pattern.matcher(url);
if (entity != null) {
/* 转化为文本信息 */ content = EntityUtils.toString(entity);
/* 判断是否符合下载网页源代码到本地的条件 */ if (FunctionUtils.isCreateFile(url)
&& FunctionUtils.isHasGoalContent(content) != -1) {