为什么重来没有 百度蜘蛛来过 ?从以上的问题可以看出,这位站长遇到这样的问题一定非常的蛋疼。自己精心做的站点,没想到蜘蛛压根就没来爬过。那么是什么原因导致蜘蛛不来爬呢。来分析下。
遇到这样的问题,情况只有俩种:一、屏蔽蜘蛛的爬行了二、被蜘蛛屏蔽了
一、屏蔽蜘蛛了
屏蔽了蜘蛛,蜘蛛当然不可能来抓取我网站拉。
1.首先我要检测自己的网站robots.txt文件,看看文件的书写是否正确,否有大小写混乱的情况呈现,否建站初期的时候有屏蔽所有蜘蛛的爬行的指令忘记修改了正常情况下robots.txt检测的事情就直接交给站长工具检查就可以了
2.服务器商是否屏蔽了蜘蛛的爬行。别认为这事不可能,当初主机屋,就误把百度蜘蛛当成黑客攻击给屏蔽了不懂导致多少人被K站。如果是主机商屏蔽了蜘蛛的爬行尽早换主机吧,时间等不起。
二、被蜘蛛屏蔽了
1.检查自己的域名以前的主人,看看域名以前是否做了违法的站点。如果是话那么蜘蛛不爬是完全有道理的就好比Maa以前论坛那个域名以前是做liuhecai站的至今搜狗和谷歌蜘蛛压根没来过。
2.检查下自己同服务器的站点,否有非常严重违规的作弊行为,若有的话,搜索引擎很有可能屏蔽整条IP站点,为了自己的网站发展健康还是选择独立IP服务器吧。
如果发现自己网站的爬行日志压根没呈现蜘蛛来访,那么我就应该考虑自己的站点是否出现以上的情况,应该及时的清理。然后向相关的搜索引擎提交,或者利用高质量的外链引导蜘蛛爬行。