78模板网分享cms建站教程,提供网站模板、网站插件、办公模板等模板教程免费学习,找模板教程就上78模板网!

宝塔面板禁止爬虫抓取以及屏蔽不良ip的方法

1.进入到nginx安装目录下的conf目录,宝塔面板目录为include /www/server/panel/vhost/nginx/,

禁止指定UA及UA为空的访问

禁止某些User Agent抓取网站

创建文件: agent_deny.conf

agent_deny.conf内容如下:

  #forbidden Scrapy
  if ($http_user_agent ~* (Scrapy|Curl|HttpClient)) {
    return 403;
  }

  #forbidden UA
  if ($http_user_agent ~ "Bytespider|FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|python-requests|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|Ezooms|^$" ) {

    return 403;
  }
  #forbidden not GET|HEAD|POST method access
  if ($request_method !~ ^(GET|HEAD|POST)$) {
    return 403;
  }

根据 IP 访问封禁 IP

创建文件: ip_deny.conf

 ip_deny.conf内容如下:

deny 123.7.84.160; #屏蔽123.7.84.160
deny 123.7.84.0/24; #屏蔽123.7.84.1 ~ 123.7.84.255整个网段IP
deny 121.36.11.131;
deny 192.241.198.231; 
deny 68.183.61.185;
deny 5.188.210.227;
deny 192.241.208.195;
deny 192.241.200.61;
deny 192.241.198.206; 
deny 192.241.198.19; 
deny 192.0.0.0/8; #屏蔽192.0.0.1 ~ 192.255.255.254整个网段IP
deny 192.241.0.0/16; #屏蔽192.241.0.1 ~ 192.241.255.254整个网段IP
deny 192.241.198.0/24; #屏蔽192.241.198.1 ~ 192.241.198.255整个网段IP
deny 89.248.165.52;

deny 1.2.3.4;            //屏蔽单个ip

deny 123.0.0.0/8;        // 封 123.0.0.1~123.255.255.254 这个段的ip

deny 123.1.0.0/16;       // 封 123.1.0.1~123.1.255.254 这个段的ip

deny 123.1.1.0/24;       // 封 123.1.1.1~123.1.1.254 这个段的ip

nginx.conf配置文件,将下面的代码放到server里。

server
    {
    #禁止爬虫工具和不相关搜索引擎的抓取agent_deny.conf
include /www/server/panel/vhost/nginx/agent_deny.conf;
    #禁止ip访问目录  ip_deny.conf
include /www/server/panel/vhost/nginx/ip_deny.conf;
    }

nginx 防盗链配置

背景:防止第三方引用链接访问我们的图片,消耗服务器资源和网络流量,我们可以在服务器上做防盗链限制。

实现防盗链的方式有两种:refer方式和签名方式。

refer方式实现防盗链

工作模块:ngx_http_referer_module。

作用变量:$invalid_referer,全局变量。

配置域:server, location

配置例子:

server {

  listen 80;

  server_name www.aiyiliu.com ;

  root /usr/share/nginx/html;

  location ~*.(gif|jpg|jpeg|png|bmp|swf)$ {

    valid_referers none blocked www.aiyiliu.com;

    if ($invalid_referer) {

      return 403;

      }

   }

  }

 valid_referers: 指定资源访问是通过以下几种方式为合法,即白名单。 vaild_referers 有效的引用连接,如下,否则就进入$invaild_refere,返回403 forbiden。

 none:允许缺失的头部访问。

 blocked:允许referer没有对应值的请求。

 server_names:若referer站点域名与server_name中本机配的域名一样允许访问。

本站防盗链配置

      #SECURITY-START 防盗链配置
    location ~ .*.(jpg|jpeg|gif|png|js|css)$
    {
        expires      30d;
        access_log /dev/null;
        valid_referers none blocked www.aiyiliu.com aiyiliu.com bbs.aiyiliu.com www.78yuanma.com 78yuanma.com;
        if ($invalid_referer){
           return 404;
        }
    }
    #SECURITY-END

本文链接:http://78moban.cn/post/11395.html

版权声明:站内所有文章皆来自网络转载,只供模板演示使用,并无任何其它意义!

联系技术
文章删除 友链合作 技术交流群
1050177837
公众号
公众号
公众号
返回顶部