
利用rewrite屏蔽蜘蛛抓取某个网站
我们都知道可以通过robots.txt来引导蜘蛛抓取内容,多个域名的时候可以301重定向转移权重,但有时候我们可能要特定某个域名不允许抓取,这个时候就需要rewrite来控制。 如果要直接屏蔽蜘蛛抓取,可以参考我的另外一篇文章https:/...
我们都知道可以通过robots.txt来引导蜘蛛抓取内容,多个域名的时候可以301重定向转移权重,但有时候我们可能要特定某个域名不允许抓取,这个时候就需要rewrite来控制。 如果要直接屏蔽蜘蛛抓取,可以参考我的另外一篇文章https:/...