行业动态
行业动态基于Heritrix的网络爬虫实现
发布：2021-01-02 12:32:23 浏览：1582
基于Heritrix的网络爬虫实现。
网络爬虫, 是一种可以根据网页之间的链接关系, 在Internet中自动抓取网页的程序, 它可以有条理的, 自动的遍历万维网信息空间。它通过HTTP协议来访问网页, 同时, 通过跟踪链接来遍历整个Web空间。本系统的网络爬虫, 基于Heritrix实现。Heritrix是一个由Java开发的、开源的Web网络爬虫框架。
本系统的网络爬虫为要包括:网页分类器 (根据主题策略将网页分为主题相关和主题不相关两类) 、信息提取器 (以主题相关网页作为提取对象, 提取文本信息和链接信息) 和网页抓取器 (抓取“筛选”过的网页) 。
>>> 查看《行业动态基于Heritrix的网络爬虫实现》更多相关资讯 <<<
本文地址：http://demo.hantang.us/news/html/22843.html
上一个：行业动态检索器的实现
下一个：行业动态相机
