当前位置:首页 > SEO知识 > 正文内容

百度蜘蛛没有抓取记录,教你如何轻松解决百度蜘蛛封禁

admin3年前 (2023-03-14)SEO知识639

近期内有网友反应,网站内容非常优质,但是却没有百度搜索蜘蛛的抓取记录,内容在百度搜索中也没有任何收录和展现,问这是什么原因,下面教大家如何解决下这个问题。

三步轻松解决网站,无百度蜘蛛抓取记录和百度蜘蛛封禁问题

网站内容优质却没有搜索蜘蛛的抓取记录,出现这种问题一般可能是由于站长误操作封禁了百度蜘蛛,导致百度蜘蛛无法正常抓取网站页面,所以网站页面在百度搜索里就没有任何收录和展现,常见的百度搜索蜘蛛误封禁的行为包括robots文件封禁、百度UA封禁、百度IP封禁等。

如何查找自己网站有无误封禁百度蜘蛛的情况?大家可以通过以下三种方法自查。

1、自查robots.txt文件

站长们,先看看自己网站的robots.txt文件,检查下是否百度蜘蛛封禁行为,这个文件一般是在网站根目录下。

处理方法:如果网站有robots封禁行为,建议站长们尽快修改或删除robots.txt文件。

不知道网站如何设置robots.txt文件,可参考《Robots.txt文件要如何正确设置》这篇文章。

2、自查是否封禁百度UA

站长们如果自查网站的robots.txt文件没有问题,那么进一步就排查下网站是否封禁了百度UA呢?那么如何排查网站是否误封禁了百度UA?

(1)执行代码自查

执下如下代码就可以自查网站是否误封禁百度UA:

curl–head–user-agent’Mozilla/5.0 (compatible;Baiduspider/2.0;+http://www.baidu.com/search/spider.html)’–request GET ‘xxxxxxx’            xxxxxxx为网站域名,如:https://www.******.com

如果执行这条代码返回的是200代码,则说明网站没有误封禁百度UA,反之,如果返回的是其它异常代码,则说明网站误封禁了百度UA。

(2)更换浏览器进行UA验证

检查下网站在其它浏览器中是否能正常抓取或收录,以此来判断网站是否存在封禁百度UA的问题;

处理方法:利用网站反抓虫策略,进行策略调整,解决百度UA封禁问题,或者将百度UA添加到浏览器的白名单中。

3、自查是否存在IP封禁

站长们,如果自查以上问题均无异常,那么站长们还可以去排查网站是否有IP封禁的问题;

IP误封禁一般都是防火墙误操作导致,打开防火墙设置后台,检查下防火墙是否将网站IP误封禁了。

处理方法:利用网站反抓虫策略,进行策略调整,解决百度IP封禁问题。

总结:如果你的网站也出现了以上问题,建议按照以上三个步骤方法去排查,这样才能快速解决网站内容优质,却无百度蜘蛛来抓取的问题。

扫描二维码推送至手机访问。

版权声明:本文由老苏SEO转载并发布,如侵权可联系删除。

本文链接:https://www.laosuseo.com/?id=23417

标签: 百度蜘蛛
分享给朋友:

“百度蜘蛛没有抓取记录,教你如何轻松解决百度蜘蛛封禁” 的相关文章

SEO优化与百度竞价孰优孰劣?

SEO优化与百度竞价孰优孰劣?

最近有不少SEO新手同学问我关于SEO优化与百度竞价的区别等问题,自然是乐此不疲的解答一番。不过一个问题一直有人问,难免招架不住,身子吃不消啊!(别想歪了...)所以,鉴于大家对此问题的关注程度较高,决定写一篇文章来给大家说明SEO优化与百度竞价的区别。SEO术语之SEO优化与百度竞价的区别首先,先...

初学者如何学习GoogleSEO知识

初学者如何学习GoogleSEO知识

其实学习最基础最全最系统Google SEO知识的方法就是在Google的搜索中心,这里的SEO基础知识,有适合新手的初级SEO,也有适合一定经验的高级SEO。实际上我们看到的很多SEO博客和书上的策略都是从这里出去,只是他们在实践的时候有了一些细节的操作和建议。图片来源:google 搜索中心当我...

SEO如何入门?SEO是什么?SEO网站推广怎么做?

SEO如何入门?SEO是什么?SEO网站推广怎么做?

从网站推广到APP推广,再到微信推广运营,网站运营。事情涉猎的多了,觉得好多是相通的,比如网站的SEO,APP的ASO。今天我们来梳理下SEO那些事儿。什么是seo?SEO由英文Search Engine Optimization缩写而来, 中文意译为搜索引擎优化。它是指从自然搜索结果获得网站流量的...

如何培养SEO赚钱思维,揭秘SEO赚钱的几种境界

如何培养SEO赚钱思维,揭秘SEO赚钱的几种境界

一个从06年开始做SEO的人,SEO实战派,喜欢研究流量变现及被动收入。当大家知道我曾是一名资深的SEO的时候,最近很多人加我来咨询关于SEO的事情,有的人表示自己想学习SEO,有的人呢只是想学习通过SEO如何赚钱。事实上目前的SEO和以往PC时代已今非昔比,现在的SEO技术和知识已经渗透到互联网的...

回溯历史看未来,详细揭密SEO赚钱的机会

回溯历史看未来,详细揭密SEO赚钱的机会

本文目录一、SEO行业历史及现状二、SEO+及未来SEO赚钱的机会三、SEO赚钱案例四、总结大家好,我是生财王子,一个从06年开始做SEO的人,SEO实战派,喜欢研究流量变现及被动收入。《通过找神词,打造被动收入系统,躺赚10万+》本篇为实操帖,通过本文不仅可以学会找神词,也可以学会找蓝海市场。注明...

网站Seo优化推广(新手怎么做网络推广)

网站Seo优化推广(新手怎么做网络推广)

网站Seo优化推广(新手怎么做网络推广)还有一个就是对接项目,现在很多短视频都在这么做,不仅可以获取流量,同时,还能够使得流量变现,这是一个十分不错的方法,现在很多人都在采用这一方式方法来解决问题,但是,并不是说说有的项目都适合,话费充值就是一个不错的选择,能够让问题得到很好的解决。汇智互娱专业营销...