高并发级别简述

术语说明：

QPS = req/sec = 请求数/秒

QPS: 每秒钟处理完请求的次数；注意这里是处理完。具体是指发出请求到服务器处理完成功返回结果。可以理解在server中有个counter，每处理一个请求加1，1秒后counter=QPS。

【QPS计算PV和机器的方式】

QPS统计方式 [一般使用 http_load 进行统计]QPS = 总请求数 / ( 进程总数 * 请求时间 )QPS: 单个进程每秒请求服务器的成功次数

单台服务器每天PV计算公式1：每天总PV = QPS * 3600 * 6公式2：每天总PV = QPS * 3600 * 8

服务器计算服务器数量 = ceil( 每天总PV / 单台服务器每天总PV )

【峰值QPS和机器计算公式】

原理：每天80%的访问集中在20%的时间里，这20%时间叫做峰值时间公式：( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)机器：峰值时间每秒QPS / 单台机器的QPS = 需要的机器

问：每天300w PV 的在单台机器上，这台机器需要多少QPS？答：( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

问：如果一台机器的QPS是58，需要几台机器来支持？答：139 / 58 = 3

TPS：每秒钟处理完的事务次数，一般TPS是对整个系统来讲的。一个应用系统1s能完成多少事务处理，一个事务在分布式处理中，可能会对应多个请求，对于衡量单个接口服务的处理能力，用QPS比较多。

并发量级说明：

评价一个网站的“大小”，处于视角的不同，有很多种衡量的方法，类似文章数，页面数之类的数据非常明显，也没有什么可以争议的。但对于并发来说，争议非常之多，这里就从一个技术的角度开始，谈谈几个Web网站的数量级。

相信很多人谈论一个网站的热度，总免不了会询问日均PV，同时在线人数、注册用户数等运营数据，说实话从技术角度来说，这几个数值没有一个可以放在一起比较的——一个静态网站的PV跟一个SNS类/Web Game网站的PV根本就不是一回事。由于互联网有一个传说中的“3秒定律”，可能当下更多的网站技术指标要求1.5秒以内加载整页，或者至少可以达到阅读的标准。如果要较真什么“同时在线”，毫不客气的说，对于HTTP这类短链接的网络协议来说，在WebSocket还不普及的时代，能统计在线纯属扯淡，唯一能做的只是取个时间段，计算下访问用户而已。这些依然可以换算成QPS（Quest Per Second每秒请求数）。就并发而言，我唯一推崇的只有理论最大QPS和悲观QPS。

这里就大致根据理论最大QPS，给网站做几个分类

50QPS以下——小网站

没什么好说的，简单的小网站而已，你可以用最简单的方法快速搭建，短期没有太多的技术瓶颈，只要服务器不要太烂就好。

50～100QPS——DB极限型

大部分的关系型数据库的每次请求大多都能控制在0.01秒左右，即便你的网站每页面只有一次DB请求，那么页面请求无法保证在1秒钟内完成100个请求，这个阶段要考虑做Cache或者多DB负载。无论那种方案，网站重构是不可避免的。

300～800QPS——带宽极限型

目前服务器大多用了IDC提供的“百兆带宽”，这意味着网站出口的实际带宽是8M Byte左右。假定每个页面只有10K Byte，在这个并发条件下，百兆带宽已经吃完。首要考虑是CDN加速／异地缓存，多机负载等技术。

500～1000QPS——内网带宽极限＋Memcache极限型

由于Key/value的特性，每个页面对memcache的请求远大于直接对DB的请求，Memcache的悲观并发数在2w左右，看似很高，但事实上大多数情况下，首先是有可能在次之前内网的带宽就已经吃光，接着是在8K QPS左右的情况下，Memcache已经表现出了不稳定，如果代码上没有足够的优化，可能直接将压力转嫁到了DB层上，这就最终导致整个系统在达到某个阀值之上，性能迅速下滑。

1000～2000QPS——FORK/SELECT，锁模式极限型

好吧，一句话：线程模型决定吞吐量。不管你系统中最常见的锁是什么锁，这个级别下，文件系统访问锁都成为了灾难。这就要求系统中不能存在中央节点，所有的数据都必须分布存储，数据需要分布处理。总之，关键词：分布

2000QPS以上——C10K极限

尽管现在很多应用已经实现了C25K，但短板理论告诉我们，决定网站整体并发的永远是最低效的那个环节。我承认我生涯中从未遇到过2000QPS以上，甚至1.5K以上的网站，希望有此经验的朋友可以一起交流下。

猜你喜欢

AI推送时光机

高并发级别简述

后端开发2023-06-02

java高并发的并发级别详解

后端开发2024-04-02

高级Web应用开发前沿技术简述

后端开发Web2024-12-01

java高并发中并发级别的示例分析

后端开发2023-06-25

简述MySql四种事务隔离级别

后端开发2022-05-29

SQL级别并发控制策略

后端开发2024-08-04

SQL级别并发冲突解决

后端开发2024-08-12

SQL级别并发控制优化

后端开发2024-08-12

java高并发ScheduledThreadPoolExecutor与Timer区别

后端开发2022-11-13

正确理解Go高级并发模式

后端开发Go并发2024-11-30

弱隔离级别 & 事务并发问题

后端开发数据库隔离2024-12-01

发烧级显卡和高性能级显卡区别

后端开发2023-07-10

并发事务问题与事务隔离级别

后端开发2014-10-20

MySQL隔离级别解析：数据一致性与高并发之间的平衡术！

后端开发MySQL隔离2024-11-30

听开发者讲述如何轻松简化Docker：借助Easypanel成为高效开发者​

后端开发开发云服务2024-11-30

Python高级编程和异步IO并发编程

后端开发2023-01-31

并发编程技巧：Go WaitGroup的高级用法

后端开发2023-10-08

《MySQL高级篇》十四、多版本并发控制

后端开发2023-08-17

事务、隔离级别和并发一致性问题

后端开发数据库Mysql2024-12-01

初级、中级和高级开发人员之间有什么区别？

后端开发开发职业规划2024-12-02