我们都了希望自己的网站能够被搜索引擎蜘蛛抓取,但很多时间搜索引擎蜘蛛抓取的并不多,反而是一些“垃圾蛛蛛”抓取的特别频繁,很多人对于这些“垃圾蜘蛛”都比较陌生,不知道它们对网站有什么用,也不知道是否需要屏蔽。
所以本期开始悦然企业网站建设给大家介绍一些垃圾蜘蛛。
今天我们讲的蜘蛛是——BLEXBot,这是一家美国的反向链接查询网站(WebMeUp)的蜘蛛程序,它会大量的抓取我们的网站链接,最终把这个链接提交给他们自己的系统。一般情况下我们刚开始发现BLEXBot蜘蛛时,它是抓取量都比较大,可能与百度不相上下。
从理论上来讲,BLEXBot蜘蛛并没有什么坏处,如果你的服务器资源足够,不管它也没关系。BLEXBot蜘蛛可能有那么一点点作用吧,对与国内网站来说没什么意义。
其中上面已经回答了,只要你的服务器资源足够,BLEXBot蜘蛛也没有对你的网站速度造成负面影响,那么你可以选择不管它,至少它每天抓取的数量看起来还是比较美好的。
如果你的服务器配置比较差,BLEXBot蜘蛛可能就会对你的网站速度造成一些负面影响,那你就需要屏蔽BLEXBot蜘蛛。
BLEXBot蜘蛛屏蔽方法如下:
在你的网站robot.txt文件中添加如下内容
User-agent: BLEXBot
Disallow: /
© Copyright 2024. 悦然网络工作室/悦然wordpress建站 专注中小企业wordpress建站 All Rights Reserved.网站地图
本站图片来源为Pexels、Pixabay、Freepik、Unsplash等图片库的免费许可,CC0协议;还有部分为自己手绘,版权碰瓷请自重!法律服务:law@yueranseo.com 蜀ICP备20016391号-1 川公网安备 51011502000367号
微信联系