[[SEO技术]] 网络爬虫的分类和策略分别是什么-什么是搜索引擎

[复制链接]
查看: 225|回复: 0
发表于 2023-6-25 00:40:23 | 显示全部楼层 | 阅读模式
易博V9下载

网络爬虫的分类和策略分别是什么-什么是搜索引擎

网络爬虫是SEO人员应该学习的基础知识之一,认识和理解网络爬虫有助于更好地优化网站。今天,深圳seo徐三博客带来的是《网络爬虫的分类和策略分别是什么-什么是搜索引擎》。希望对大家有所帮助。

一、网络爬虫是什么?

网络爬虫,是指按照一定的规则、自动抓取互联网上信息的程序组件或脚本程序。在搜索引擎中,网络爬虫就是搜索引擎发现和抓取文档的自动化程序。

二、网络爬虫产生的背景

互联网信息大爆炸,人们不满足于仅仅依靠开放目录等传统方式在网络上寻找一些东西,为了满足不同的人的不同需求,于是出现了网络爬虫。

三、网络爬虫面临的问题

在上一篇文章《搜索引擎的基本架构》中提到的,搜索引擎架构的两个目标是效果和效率,这同样也是对网络爬虫提出的要求。面对亿级网页数量,重复内容很高,在SEO行业重复率可能在50?上,网络爬虫面临的问题是为了提高效率

和效果,就需要在一定的时间内获得更多有高质量页面,摒弃那些原创度低、复制内容、拼接内容等页面。

PS:当然,在大网站发布出来的文章,尤其大站效应,尽管不是首发,但依然排名很好,甚至比首发站排名还好。

四、网络爬虫的分类和策略

网络爬虫有很多种类,错误君简单介绍以下几种:

1)通用网络爬虫

通用网络爬虫,又称为“全网爬虫”,从一些种子网站开始爬行,逐步扩展到整个互联网。

通用网络爬虫策略:深度优先策略和广度优先策略。

2)聚焦网络爬虫

聚焦网络爬虫,又称为“主题网络爬虫”,预先选择一个(或几个)相关主题,仅爬行并抓取这一类的相关页面。

聚焦网络爬虫策略:聚焦网络爬虫增加了链接和内容评价模块,所以其爬行策略的关键是评价页面的链接和内容后再进行爬行。

3)增量式网络爬虫

增量式网络爬虫,是指对已经收录的页面进行更新、爬行新页面和发生变化的页面。

增量式网络爬虫策略:广度优先策略和PageRank优先策略等。

4)Deep Web爬虫

搜索引擎蜘蛛可以爬行并抓取的页面称之为“表层网页”,某些不能通过静态链接获得的页面称之为“深层网页”,Deep Web爬虫就是抓取深层网页的爬虫体系。

小结:一般来讲,网络爬虫抓取策略分为三种:

a、广度优先

搜索完当前页面所有链接,才开始进入下一层。

b、最佳优先

根据一定的网页分析算法,比如链接算法和页面加权算法等,优先抓取更具有价值的页面。

c、深度优先

顺着一个链接一直爬行,直到某一页面再也没有链接,再开始爬行另外一条。但是一般都是从种子网站开始抓取,如果采用这种形式可能会造成抓取的页面质量越来越低,所以这种策略使用较少。

易博软件介绍
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

1、请认真发帖,禁止回复纯表情,纯数字等无意义的内容!帖子内容不要太简单!
2、提倡文明上网,净化网络环境!抵制低俗不良违法有害信息。
3、如果你对主帖作者的帖子不屑一顾的话,请勿回帖。谢谢合作!
3、问答求助区发帖求助后,如有其他用户热心帮您解决问题后,请自觉点击设为最佳答案按钮。

 
 
QQ在线客服
QQ技术支持
工作时间:
8:00-18:00
软著登字:
1361266号
官方微信扫一扫
weixin

QQ|小黑屋|Archiver|慈众营销 ( 粤ICP备15049986号 )|网站地图

自动发帖软件 | 自动发帖器 | 营销推广软件 | 网络营销工具 | 网络营销软件 | 网站推广工具 | 网络推广软件 | 网络推广工具 | 网页推广软件 | 信息发布软件 | 网站推广工具 | 网页推广软件

Powered by Discuz! X3.4   © 2012-2020 Comsenz Inc.  慈众科技 - Collect from 深圳吉宝泰佛文化有限公司 公司地址:罗湖区黄贝街道深南东路集浩大厦A1403

返回顶部 返回列表