网页抓取优先策略

网站优化公司 · 发表于 2016-2-23 14:06:24

网页抓取优先策略也称为“页面选择问题”(page Selection),平日是尽可能地起首抓取重要性的网页，如许包管在有限的资本内尽可能地照顾到那些重要性高的网页。那么哪些网页才是重要性高的呢？若何量化重要性呢？

平均链接深度同宽度优先的遍历规矩包管，是以不作为重要性评价的指标。在抓取才能有限的情况下，如不雅可以或许把重要性高的网页尽可能地抓完，是合理科学的，最终被用户萌芽到的网页也往往是那些重要性高的网页。

重要性度量由链接迎接度、链接重要度和平均链接深度这个方面决定。

定义链接迎接度为IB(P)，它重要由反向链接(Backinks)的数量和质量决定。起首考察数量，直不雅地讲，一个网页有越多的链接指向它（反向链接数多），那么表示其他网页对其的承认。同时这个网页被网平易近拜访的机会就大年夜，推想出其重要性也就越高;其次考察质量，如不雅被越多的重要性高的网指向，那么其重要性也就越高。如不雅不推敲质量，就会出现局部最优，而不是全局最优的问题。最典范的就是作弊网页，工资地在一些网页中设置了大年夜量反策链接指向其自身的网页，以进步该网页的重要性。如不雅不推敲链接质量，就会被这些作弊者所应用。

定义链接重要度为IL(P)，它是一个关于URL字符串的函数，仅仅考察字符串本身。链接重要度重要经由过程一些模式，比如认为包含“.COM”或者“HOME”的URL重要度高，以及具有较少斜杠(Slash)的URL重要度高等。

定义平均链接深度为ID(P),此为笔者所创。ID(P)表示在一个种子站点集合中，每个种子站点如不雅存在一条链路（宽度优先遍历规矩）达到该网页，那么平均链接深度就是这个网页的又一个重要性指标。因为距离种子站点越近，解释被拜访的机会越多，离种子站点越远，重要性越低。事实上，按照宽度优先的遍历规矩即可知足这种重要性高的网页被优先抓取的须要。

最后，定义网页重要性的度量为I(P)，它由以上两个量化值线性决定，即：

I(P)＝a*IB(P)+β*IL(P)

尽管如许看来已经足够完美，事实上，照样忽视了一个重要的要素－－时光。时光导致万维网动态变更的一面。若何抓取那些新增的网页呢？若何重访那些被修改了的网页呢？若何发明那些被删除了的网页呢？为了保持和万维网网页的同步变更，就必须有网页重访策略。经由过程该策略可以辨认增长、修改及删除网页这3种网页变更的情况。

淑榈 · 发表于 2016-7-2 10:23:20

顶顶帝国网络多好

戚晓畅 · 发表于 2016-7-2 09:14:15

难得一见的好技术贴

咽牢孟 · 发表于 2016-7-2 02:57:11

楼猪说的非常好

窦燕珺 · 发表于 2016-7-2 07:38:38

很好哦，学到了不少SEO知识

网站优化公司 · 发表于 2016-7-2 09:26:27

LZ真是人才，教教我如何优化自己的网站

黎晓兰 · 发表于 2016-8-12 20:13:44

楼主是网站优化界的高人

黎晓兰 · 发表于 2016-8-13 04:36:03

我们公司做工业设计，要做网站，之前合作的网络公司后来人也找不到了，刚好帝国网络公司小李打电话过来，湖南的小姑娘挺实在，看了很多他们公司做的案例，包括他们公司的视频，就把网站给他们做了。点个赞，专业，服务也好！

SEO优化 · 发表于 2016-8-12 19:40:59

之前找了一家做外贸网站做得不好后来让帝国网络给重做了，做出来效果還不錯，在这里建议可以到这家公司看看，我个人觉得技术是一方面，更加重要的是服务方面，帝国网络在这方面做的挺好，还帮忙上传产品和处理产品图片，支持一下吧

SEO优化 · 发表于 2016-8-13 01:36:49

这个网站里面内容做的真好。下次我做网站也要做这样的。版面也很漂亮，跟其他人的网站看起来很独特。

		自动登录	找回密码
密码			立即注册