欢迎来到百宝集!
免费实用的在线工具大全

360Spider

360Spider,它是一个很“勤奋抓爬”的蜘蛛。

不想让360搜索抓取,可以选择robots.txt协议禁止。

User-agent: 360Spider

Disallow: /

如果还是禁止不了,可以选择nginx规则禁止访问,如下:

if ($http_user_agent ~* "360Spider") {

 return 403;

}

补充纠错
上一蜘蛛: Baiduspider
下一蜘蛛: sogou spider