当前位置:首页 > SEO网站 > 正文内容

网站上线初期设置robots禁止抓取是否对收录有影响?

admin3年前 (2023-03-01)SEO网站262

一些站长在上线新网站之后,由于一些特殊原因设置了robots禁止抓取,之后取消设置后,对收录是否有什么影响呢?今天我们就来聊聊这个话题。

一、设置robots的意义

我们要回答这个问题,首先要了解为什么要设置robots的意义,我们一般设置robots是为了提高蜘蛛爬取效率,降低垃圾蜘蛛的骚扰,如果站点内容多,蜘蛛抓取数量提高之后,对服务器也是有一定影响,再加上网站初期由于内容没有完善,并不想让用户看到搜索结果,所以我们可以适当屏蔽蜘蛛抓取,一般我们会设置成这样:

User-agent: *Disallow: /

这个命令是屏蔽所有蜘蛛抓取,这样的话,所有蜘蛛不会爬取网站数据。

二、完善后对网站收录影响

如果我们网站内容完善后,我们可以尝试取消,允许部分或全部蜘蛛抓取,我们在更新robots.txt文件后,我们需要在百度资源平台后台进行更新robots文件,然后我们再用抓取诊断工具测试下,一般都没有什么问题,取消后也不会对收录产生影响,只是robots文件生效需要一定周期,我们耐心等待即可。

扫描二维码推送至手机访问。

版权声明:本文由老苏SEO转载并发布,如侵权可联系删除。

本文链接:https://www.laosuseo.com/?id=14877

分享给朋友:

“网站上线初期设置robots禁止抓取是否对收录有影响?” 的相关文章

网站SEO优化中常见标签有哪些?

网站SEO优化中常见标签有哪些?

每个SEO从业者都需要掌握一定的WEB前端代码,为之后的网页设计、UI合作等打好基础。下面是SEO常用标签●TDK标签TDK对每个seoer来说都是熟悉的不能再熟悉的html标签了.TDK分别表示Title、Keywords和Description三大最常见的优化标签。Title页面标题,keywo...

企业网站seo优化到底该怎么做?

企业网站seo优化到底该怎么做?

企业网站seo优化到底该怎么做?今天为大家分享这个问题,推广做得好不好,全看你知不知道这些神技巧。话不多说,一起来看看吧!企业网站seo优化到底该怎么做?首先我们先思考SEO到底从哪几个方面入手。其实在做网站的时候,已经做过最基础的SEO工作,比如META标签的编辑,这是一项最基础也是非常重要的SE...

如何做好企业网站内容的日常维护?

如何做好企业网站内容的日常维护?

对于一个企业来说,企业网站就是工单脸面。为了能够提升企业的营业额,现如今很多的企业网站运营者想法设法的通过各种推广渠道宣传企业信息,那么如何让企业网站在激烈的竞争中脱颖而出呢?这就需要我们做好企业网站内容的日常维护工作,只有这样更新的网站文章被搜索引擎行抓取与收录,从而获得不错的网站流量,最终达到网...

如何有效保护自己更新的原创网站内容?

如何有效保护自己更新的原创网站内容?

我们在做网站运营时都知道,网站内容是一个网站血液灵魂,网站内容的重要性自不多言,每个从事网站建设和网络推广营销的人都非常明白。很多时候我们为了使网站获得更好的排名,坚持不懈的用心原创,但是自己辛苦做的原创文章,被其他网站抄袭,抄袭后,排名还在自己网站的前面。面对这种情况作为站长朋友应该如何面对呢?今...

SEO站内优化应该怎么做?你需要理解性地去做站内优化

SEO站内优化应该怎么做?你需要理解性地去做站内优化

今天这是第38篇原创文章,是有关SEO站内优化的内容,希望对大家有一点点帮助。上一次主要给大家分享了SEO站内优化主要分为哪几个方面,现在主要给大家讲一下SEO站内优化具体应该怎么做。一、关于域名和服务器1、如果是网站上线之前,选择域名越简短的越好。如果已经有了自己的网站了,这一点就不用考虑了。2、...

SEO优化:网站头部Title标签的优化技巧

SEO优化:网站头部Title标签的优化技巧

一个网站的头部优化是否到位,关系到网站后期的排名能否持续向前跨进。那么,既然网站头部优化这么重要,我们应该怎么优化网站头部标签呢?一、什么是网站头部title标签优化所谓网站头部title标签优化是指对网站的网页标题标签进行优化,网站的title标签优化尤为重要。搜索引擎会重点考虑网页标题标签的关键...