当前位置:首页 > SEO网站 > 正文内容

搜索引擎蜘蛛的抓取和访问的区别

admin3年前 (2023-02-19)SEO网站275

我们习惯把搜索引擎的蜘蛛抓取和访问视为一个意思,但是如果从严谨的定义去看的话,两者是有区别的,但是作用系数又是相互形成的协同结果。

1、抓取指的是蜘蛛获取页面的信息、参数和属性,包括内容和代码的结构情况。

2、访问指的是蜘蛛以用户的身份角度对网站进行正常访问,包括浏览体验度和阅读流畅性。

以百度搜索举例,大多数都会同时有2个IP蜘蛛同时进入网站,目前常见是116和220开头的IP,有些人当作是权重蜘蛛和抓取蜘蛛,这样理解也是可以的。

但是其他搜索引擎大多数只有一个IP的蜘蛛,所以就很难分辨是抓取还是访问,也是因为这点原因,很多人是不认可搜索引擎的蜘蛛是分有抓取和访问的。

如果从技术逻辑层面去思考的话,蜘蛛应该是有访问和抓取的区别。

我们看不到的、不表达没有,尤其是技术层面的东西就更是无法认定有还是没有,如果从技术逻辑的层面去细心的思考这个问题,那很大的可能性是分有访问和抓取的工作区别。

国内大部分搜索引擎普遍存在蜘蛛过来了,但是网站内容页面不收录,这是算什么呢,很大可能性只是来访问,发现了网站内容页面,为什么不抓取呢,因为收录是肯定先要抓取的。

还有一种普遍的情况就是网站内容页面被蜘蛛访问了,但是过段时间就会被收录,但是这中间时段并没有蜘蛛过来了,那这如何解释访问和抓取的区别,目前能解释的是先前蜘蛛就是抓取,然后执行的是内部的模拟访问+页面分析+内容判断+预存评估。

其实只要是搜索引擎的蜘蛛过来就行,不用太在意是抓取还是访问。

不同的搜索引擎技术的蜘蛛工作方式是有区别的,不是说谁的差谁的强,只是从已经公开知道的事实就是搜索引擎会模拟用户进行正常的浏览访问,可以理解为页面检测诊断,否则搜索引擎如何知道已经收录的页面是否存在某些问题呢,用最节省资源的蜘蛛行为进行不定时的复访。

但是SEO黑帽技术中有一项就是针对搜索引擎的蜘蛛访问的手段,用户访问的是真实的广告落地页(A),而蜘蛛访问的是伪造的干净落地页(B),简称“蜘蛛访问页”,他的难度在于要收集没有蜘蛛标识的IP地址进行识别区分访问AB页。

结尾段:我们不要去纠结蜘蛛是抓取还是访问的区别,这是个长篇大论的事情,本文只是简单介绍最基础的对蜘蛛的看法,仅供额外的研究参考。

搜索引擎对网站内容页面的收录和释放(索引)问题

扫描二维码推送至手机访问。

版权声明:本文由老苏SEO转载并发布,如侵权可联系删除。

本文链接:https://www.laosuseo.com/?id=6445

分享给朋友:

“搜索引擎蜘蛛的抓取和访问的区别” 的相关文章

建设一个有吸引力的网站需要注意哪些实用的技巧

建设一个有吸引力的网站需要注意哪些实用的技巧

对于一个网站来说,提高网站吸引力是很多站长朋友必需要重视的地方。 因为提高网站吸引力的最终目的是能够有大量的用户访问,并且能够持久的不断访问网站,最终通过网站获得良好的效益。 今天就跟大家分享一下建设一个有吸引力的网站需要注意哪些实用的技巧?...

网站的日常维护需要做哪些工作

网站的日常维护需要做哪些工作

要想做网站推广就需要做好网站日常的维护工作,如何安排好自己每天的工作任务和计划是关键,那么哪些工作才是日常网站维护工作当中最为关键的呢?今天笔者就跟大家分享一下网站的日常维护需要做哪些工作,希望对大家有所帮助。第一:做好网站内容的更新工作内容更新这项工作永远都会是网站维护者工作的重点所在,无论是什么...

关于百度SEO优化的部分常见问题解答

关于百度SEO优化的部分常见问题解答

这篇文章主要是收集了一些关于百度SEO优化的部分常见问题解答。问:百度会不会惩罚所有网页TITLE都一样的站点?解答:不会主动去惩罚,但这种方式对搜索引擎非常不友好。新手有很大可能进入考核期,延长排名周期。问:nofollow算是一个外链吗?解答:nofollow用于指示搜索引擎不要追踪该链接。外链...

如何正确使用网站TAG标签,让SEO优化效果倍增?

如何正确使用网站TAG标签,让SEO优化效果倍增?

TAG简单来说就是一种关键词标记,也是一种日志分类方式,当你为每篇日志添加这种标签时,就会很方便用户查看,与用户增加更好的交流机会。这种方法对于SEO优化老手来说是一种经常用的技巧。作为当下的网站优化,提高用户的体验度和增强用户之间的交互性同样是提升网站排名的一种优化方式,而tag标签的使用会更好的...

上海网络推广分享网站SEO中内页标签的优化方xoooo

上海网络推广分享网站SEO中内页标签的优化方xoooo

网站内页标签的优化在整个SEO中也很重要,因为内页需要添加的东西不必首页的少,并且想要内页的内容留住用户也是有一定的难度和挑战性的,所以今天上海网络推广就跟大家分享一下有关内页优化中的标签的优化方法。1、标题新颖搜索引擎每天都会见识到很多样化的网站,这个时候如果想让搜索引擎收录你,那么就要拥有一个独...

智慧云网平台的SEO优化方案

智慧云网平台的SEO优化方案

0. 引言智慧云网平台云业务网关是中国移动国际公司企业业务平台的重要组成部分,其功能旨在,对上承接国际公司企业业务门户,实现运往业务的订购、变更、退订等业务受理,并对订单进行拆分、编排、配置、下发,对下纳管各关键业务网关,实现资源的一站式编排。目前该项目平台主要拥有五大场景,分别是:企业用...