请选择 进入手机版 | 继续访问电脑版

网站优化

 找回密码
 立即注册
搜索引擎的蜘蛛是如何爬的?
查看: 5518|回复: 27

搜索引擎的蜘蛛是如何爬的?

网站优化公司 发表于 2019-11-25 14:41:28 | 显示全部楼层 |阅读模式


搜索引擎的蜘蛛是如何爬的,如何吸引蜘蛛来抓取页面,搜索引擎的工作过程大体可以分成三个阶段:


(1)爬行和抓取:搜索引擎蜘蛛通过跟踪链接发现和访问页面,读取页面 HTML 代码,存到数据库。



(2)预处理:索引程序对抓取来的页面数据进行文字提取、中文分词、索引、倒排索引等处理,以备排名程序调用。


(3)排名:用户输入查询词(关键词)后,排名程序调用索引数据,计算相关性,然后按一定格式生成搜索结果页面。


搜索引擎的工作原理,爬行和抓取是搜索引擎工作的第一步,完成数据收集的任务。搜索引擎用来抓取页面的程序被称为蜘蛛(spider),一个合格的 SEOer,要想让自己的更多页面被收录,就要想法设法吸引蜘蛛来抓取。


影响抓取因素:

(1)网站和页面的权重,质量高、时间长的网站一般被认为权重比较高,爬行深度也会比较高,被收录的页面也会更多。


(2)页面的更新频率,蜘蛛每次爬行都会把页面数据储存起来,如果第二次,第三次的抓取和第一次的一样,说明没有更新,久而久之,蜘蛛也就没有必要经常抓取你的页面啦。如果内容经常更新,蜘蛛就会频繁访问页面,来抓取新的页面。


(3)导入链接,不管是内部链接还是外部链接,要想被蜘蛛抓取,就必须有导入链接进入页面,否则蜘蛛就不会知道页面的存在。


(4)与首页的点击距离,一般网站上权重最高的是首页,大部分外部链接都会指向首页,那么蜘蛛访问最频繁的页面就是首页,离首页点击距离越近,页面权重越高,被爬行的机会越大。


吸引百度蜘蛛

如何吸引蜘蛛来抓取我们的页面?坚持有频率的更新网站内容,最好是高质量的原创内容。主动向搜索引擎提供我们的新页面,让蜘蛛更快的发现,如百度的链接提交、抓取诊断等。搭建外部链接,可以和相关的网站做友情链接交换,可以去别的平台发布高质量的文章指向自己的页面,内容要相关。制作网站地图,每个网站都应该有一个 sitemap,网站所有的页面都在 sitemap 中,方便蜘蛛抓取。


回复

使用道具 举报

杨幂 发表于 2021-2-22 19:07:22 | 显示全部楼层
凉山网站seo优化公司
回复 支持 反对

使用道具 举报

正太 发表于 2021-2-27 09:49:56 | 显示全部楼层
合山网站的优化和推广公司
回复 支持 反对

使用道具 举报

你懂的 发表于 2021-3-6 01:14:44 | 显示全部楼层
汕尾公司网站优化价格
回复 支持 反对

使用道具 举报

车震 发表于 2021-3-16 07:23:52 | 显示全部楼层
什邡网站优化公司
回复 支持 反对

使用道具 举报

明日边缘 发表于 2021-3-16 08:25:38 | 显示全部楼层
陕西专业的西安网站优化公司
回复 支持 反对

使用道具 举报

小苹果 发表于 2021-3-17 12:42:04 | 显示全部楼层
汝州网站优化公司
回复 支持 反对

使用道具 举报

腹黑 发表于 2021-4-1 20:05:31 | 显示全部楼层
山西太原网站优化推广公司
回复 支持 反对

使用道具 举报

沈阳取消限购 发表于 2021-4-4 06:30:50 | 显示全部楼层
佛山网站排名优化公司        www.mxseo.org
回复 支持 反对

使用道具 举报

正能量 发表于 2021-4-7 08:27:42 | 显示全部楼层
乐平网站排名优化公司        www.deoo.cn
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|

GMT+8, 2024-3-29 00:39网络网站优化公司

网站优化公司© 2006-2024 wangzhanyouhua.net Search Engine Optimization By 网站搜索引擎优化公司

快速回复 返回顶部 返回列表