当前位置:首页 > SEO知识 > 正文内容

百度蜘蛛没有抓取记录,教你如何轻松解决百度蜘蛛封禁

admin3年前 (2023-03-14)SEO知识430

近期内有网友反应,网站内容非常优质,但是却没有百度搜索蜘蛛的抓取记录,内容在百度搜索中也没有任何收录和展现,问这是什么原因,下面教大家如何解决下这个问题。

三步轻松解决网站,无百度蜘蛛抓取记录和百度蜘蛛封禁问题

网站内容优质却没有搜索蜘蛛的抓取记录,出现这种问题一般可能是由于站长误操作封禁了百度蜘蛛,导致百度蜘蛛无法正常抓取网站页面,所以网站页面在百度搜索里就没有任何收录和展现,常见的百度搜索蜘蛛误封禁的行为包括robots文件封禁、百度UA封禁、百度IP封禁等。

如何查找自己网站有无误封禁百度蜘蛛的情况?大家可以通过以下三种方法自查。

1、自查robots.txt文件

站长们,先看看自己网站的robots.txt文件,检查下是否百度蜘蛛封禁行为,这个文件一般是在网站根目录下。

处理方法:如果网站有robots封禁行为,建议站长们尽快修改或删除robots.txt文件。

不知道网站如何设置robots.txt文件,可参考《Robots.txt文件要如何正确设置》这篇文章。

2、自查是否封禁百度UA

站长们如果自查网站的robots.txt文件没有问题,那么进一步就排查下网站是否封禁了百度UA呢?那么如何排查网站是否误封禁了百度UA?

(1)执行代码自查

执下如下代码就可以自查网站是否误封禁百度UA:

curl–head–user-agent’Mozilla/5.0 (compatible;Baiduspider/2.0;+http://www.baidu.com/search/spider.html)’–request GET ‘xxxxxxx’            xxxxxxx为网站域名,如:https://www.******.com

如果执行这条代码返回的是200代码,则说明网站没有误封禁百度UA,反之,如果返回的是其它异常代码,则说明网站误封禁了百度UA。

(2)更换浏览器进行UA验证

检查下网站在其它浏览器中是否能正常抓取或收录,以此来判断网站是否存在封禁百度UA的问题;

处理方法:利用网站反抓虫策略,进行策略调整,解决百度UA封禁问题,或者将百度UA添加到浏览器的白名单中。

3、自查是否存在IP封禁

站长们,如果自查以上问题均无异常,那么站长们还可以去排查网站是否有IP封禁的问题;

IP误封禁一般都是防火墙误操作导致,打开防火墙设置后台,检查下防火墙是否将网站IP误封禁了。

处理方法:利用网站反抓虫策略,进行策略调整,解决百度IP封禁问题。

总结:如果你的网站也出现了以上问题,建议按照以上三个步骤方法去排查,这样才能快速解决网站内容优质,却无百度蜘蛛来抓取的问题。

扫描二维码推送至手机访问。

版权声明:本文由老苏SEO转载并发布,如侵权可联系删除。

本文链接:https://www.laosuseo.com/?id=23417

标签: 百度蜘蛛
分享给朋友:

“百度蜘蛛没有抓取记录,教你如何轻松解决百度蜘蛛封禁” 的相关文章

如何利用自媒体做SEO,新手如何学SEO,快速应用SEO

如何利用自媒体做SEO,新手如何学SEO,快速应用SEO

昨天晚上直播,来了挺多人,好几个喜欢SEO的朋友都主动连麦,提了各种问题。其中很多人都对SEO非常感兴趣,我记得有一位朋友直播后还私信我,表示也想学会SEO,因为他认为掌握这个技能会对他现有的业务会带来巨大的提升。为此我特意在直播中,给大家重点强调了现在学SEO和以前有哪些区别,生怕大家被很多公开的...

如何从0到1自学谷歌SEO?

如何从0到1自学谷歌SEO?

从06年开始,Google就常年霸占世界上访问量最大网站的头把交椅,并且以绝对优势碾压其它网站。图片来源:Most Popular Websites 1996-2019https://www.youtube.com/watch?v=2Uj1A9AguFs凡是与海外运营相关的业务,肯定不能放弃Goog...

常见的黑帽SEO技术有哪些

常见的黑帽SEO技术有哪些

所有使用作弊或可疑手段的,都可称为黑帽SEO。其中步骤和过程比较复杂但是例如垃圾链接、隐藏网页、桥页、关键词堆砌等这些都不属于黑帽手段,只属于新手入门阶段。典型的黑帽搜索引擎优化,是用程序从其他分类目录或搜索引擎抓取大量搜索结果做成网页。seo技术一般分白帽seo、灰帽seo和黑帽seo。对于白帽s...

SEO具体怎么优化

SEO具体怎么优化

标题: SEO具体怎么优化摘要: 1:seo 优化的重要性网站的内容是为了让用户更好的找到它而生的,那么 seo 优化就是让网站在搜索引擎中更加容易被发现。也就是说,通过 seo 优化可以让网站更好的利用搜索引擎来宣传自己。SEO 优化主要通过以下几个方面来实现:(1) 关键词优化。这是最基本的一个...

SEO网站优化的常规策略你知道几个

SEO网站优化的常规策略你知道几个

在对站点执行SEO优化之初,拟定一个详细完整、科学合理的优化策略,是一种不可或缺的工作。在执行操作过程中,优化策略可以当做开展工作的参考和根据。如此一来,可以为实现引擎搜索优化工作奠定较好的根本。归纳网站seo的对策,首要有以下几个方面。1.关键词策略让引擎搜索可以爬取的网站域名、标题标签、meta...

搜索关键词技巧分析

搜索关键词技巧分析

SEO技术、技巧有许多可以让我们学习、借鉴的地方,我们要学会去学习、去观察,成就更优秀的自己。seo方面的技术是可以随时使用的,今天,济南网站SEO就讲讲搜索引擎分词手法。早在2年前,我曾经阅读过关于Mrzhao文章中一片关于搜索引擎索引页面,处理页面关键词的文章,而后又知道搜索引擎是会对用户发起的...