- 问题引出
假设某电商平台商品详情页需要实现 700 QPS(假设宽带是千兆宽带)
千M局域网宽带网卡速率按照1000进位,所以1Gbps=1,000,000,000bps=125,000,000Bps≈119.21MB/s
当达到500QPS 的时候很难继续压测上去。
假设每个页面主体渲染所需要的图片的占用150KB,那么500QPS,500 x 150 / 1000 = 75M/s,再加上各种网络请求和网络传输,几乎达到宽带的性能瓶颈,所以必须减少内网通信。
- 解决方案
缓存
缓存就是数据交换的缓冲区(称作:Cache),当用户要获取数据的时候,会先从缓存中去查询获取数据,如果缓存中有就会直接返回给用户,如果缓存中没有,则会发请求从服务器重新查询数据,将数据返回给用户的同时将数据放入缓存,下次用户就会直接从缓存中获取数据。
Nginx的web缓存服务
Nginx是从0.7.48版开始提供缓存功能。Nginx是基于Proxy Store来实现的,其原理是把URL及相关组合当做Key,在使用MD5算法对Key进行哈希,得到硬盘上对应的哈希目录路径,从而将缓存内容保存在该目录中。它可以支持任意URL连接,同时也支持404/301/302这样的非200状态码。Nginx即可以支持对指定URL或者状态码设置过期时间,也可以使用purge命令来手动清除指定URL的缓存。
Nginx缓存设置的相关指令
Nginx的web缓存服务主要是使用ngx_http_proxy_module
模块相关指令集来完成。
proxy_cache_path
该指定用于设置缓存文件的存放路径
语法 | proxy_cache_path path [levels=number] keys_zone =_name_ :_size_ [inactive=time][max_size=size]; |
---|---|
默认值 | — |
位置 | http |
- path:缓存路径地址,如:
/home/nginx/proxy_cache
-
levels: 指定该缓存空间对应的目录,最多可以设置3层,每层取值为1|2
如 : levels=1:2 缓存空间有两层目录,第一层是1个字母,第二层是2个字母
举例说明:
song通过MD5加密以后的值为 683eb609607a439b0561dcbb4c8329e8
levels=1:2 最终的存储路径为/usr/local/proxy_cache/8/9e
levels=2:1:2 最终的存储路径为/usr/local/proxy_cache/e8/9/32
levels=2:2:2 最终的存储路径为??/usr/local/proxy_cache/e8/29/83
- keys_zone:用来为这个缓存区设置名称和指定大小,如:
keys_zone=song:200m 缓存区的名称是song,大小为200M,1M大概能存储8000个keys
inactive:指定缓存的数据多次时间未被访问就将被删除,如:
inactive=1d 缓存数据在1天内没有被访问就会被删除
max_size:设置最大缓存空间,如果缓存空间存满,默认会覆盖缓存时间最长的资源,如:
max_size=20g
- 案例
proxy_cache_path /home/nginx/proxy_cache levels=2:2:2 keys_zone=song:200m inactive=20m max_size=1k;
proxy_cache
用来开启或关闭代理缓存,如果是开启则自定使用哪个缓存区来进行缓存。
语法 | proxy_cache zone_name|off; |
---|---|
默认值 | proxy_cache off; |
位置 | http、server、location |
zone_name:指定使用缓存区的名称
proxy_cache_key
用来设置web缓存的key值,Nginx会根据key值MD5哈希存缓存。
语法 | proxy_cache_key key; |
---|---|
默认值 | proxy_cache_key s c h e m e scheme schemeproxy_host$request_uri; |
位置 | http、server、location |
proxy_cache_valid
用来对不同返回状态码的URL设置不同的缓存时间
语法 | proxy_cache_valid [code …] time; |
---|---|
默认值 | — |
位置 | http、server、location |
如:proxy_cache_valid 200 302 10m;
proxy_cache_valid 404 1m;
为200和302的响应URL设置10分钟缓存,为404的响应URL设置1分钟缓存
proxy_cache_valid any 1m;
对所有响应状态码的URL都设置1分钟缓存
proxy_cache_min_uses
用来设置资源被访问多少次后被缓存
语法 | proxy_cache_min_uses number; |
---|---|
默认值 | proxy_cache_min_uses 1; |
位置 | http、server、location |
proxy_cache_methods
用来设置缓存哪些HTTP方法
语法 | proxy_cache_methods GET|HEAD|POST; |
---|---|
默认值 | proxy_cache_methods GET HEAD; |
位置 | http、server、location |
默认缓存HTTP的GET和HEAD方法,不缓存POST方法。
配置案例
Nginx代理tomcat访问静态资源,访问到的资源缓存到指定目录
http{ proxy_cache_path /home/nginx/proxy_cache levels=2:2:2 keys_zone=song:200m inactive=20m max_size=1k; server { listen 8079; server_name localhost; # 缓存配置 proxy_cache song; proxy_cache_key song; proxy_cache_min_uses 1; proxy_cache_methods HEAD GET POST; proxy_cache_valid 200 1d; # 加一个头,方便在header中观察是否命中缓存 add_header Nginx-Cache "$upstream_cache_status"; # 反向代理配置 upstream tomcat{ server 192.168.28.177:8080; } location /proxy { proxy_pass http://tomcat/js; } }}
访问http://192.168.28.177:8079/proxy/user.js
观察/home/nginx/proxy_cache
目录结构
- 命中缓存
缓存清除
删除对应的缓存目录
rm -rf /home/nginx/proxy_cache/...
使用第三方扩展模块
使用ngx_cache_purge删除Nginx缓存.
安装ngx_cache_purge模块
- 下载
wget
http://labs.frickle.com/files/ngx_cache_purge-2.3.tar.gz
- 解压
tar -xvf ngx_cache_purge-2.3.tar.gz
- 安装
参考《Nginx基本概念》热部署
- 删除
Nginx设置资源不缓存
- 问题引出
不是所有的数据都适合进行缓存。对于一些经常发生变化的数据。如果进行缓存的话,就很容易出现访问到的数据不是服务器真实的数据。所以对于这些资源在缓存的过程中就需要进行过滤,不进行缓存。
proxy_no_cache
用来定义数据不缓存的条件。
语法 | proxy_no_cache string …; |
---|---|
默认值 | — |
位置 | http、server、location |
- 配置实例
proxy_no_cache $cookie_nocache $arg_nocache $arg_comment;
proxy_cache_bypass
用来设置不从缓存中获取数据的条件。
语法 | proxy_cache_bypass string …; |
---|---|
默认值 | — |
位置 | http、server、location |
- 配置实例
proxy_cache_bypass $cookie_nocache $arg_nocache $arg_comment;
上述两个指令都有一个指定的条件,这个条件可以是多个,并且多个条件中至少有一个不为空且不等于"0",则条件满足成立(或关系)。里面使用到了三个变量,分别是 c o o k i en o c a c h e 、 cookie_nocache、 cookienocache、arg_nocache、$arg_comment
这三个参数分别代表的含义是
$cookie_nocache
当前请求的**cookie中键的名称**为nocache对应的值
a r gn o c a c h e 和 arg_nocache和 argnocache和arg_comment
当前请求的参数中**属性名****为nocache和comment对应的属性值**
- 案例
log_format params $cookie_nocache | $arg_nocache | $arg_comment;server{ listen 8081; server_name localhost; location /{ access_log logs/access_params.log params; # 设置cookie的nocache属性 add_header Set-Cookie 'nocache=999'; root html; index index.html; }}
- 访问
http://192.168.28.177:8069/?nocache=111&comment=222
日志打印:999|111|222
- 访问
http://192.168.28.177:8069/?nocache=111
日志打印:999|111|-
- 访问
http://192.168.28.177:8069/
日志打印:999|-|-
案例实现
设置访问的文件是js,不缓存资源
server{ listen 8080; server_name localhost; location / { if ($request_uri ~ /.*\.js$){ # 如果访问的文件是js,设置一个变量nocache set $nocache 1; } proxy_no_cache $nocache $cookie_nocache $arg_nocache $arg_comment; proxy_cache_bypass $nocache $cookie_nocache $arg_nocache $arg_comment; }}
来源地址:https://blog.csdn.net/u010859650/article/details/127899230