← 返回高并发系统

计算机系统常用流量术语

一张图看懂 QPS、TPS、并发数、RT、吞吐量及其区别

01

QPS

Queries Per Second · 每秒查询数
表示系统每秒能够处理的请求次数。一个请求可以是 HTTP 接口调用、数据库查询、缓存读取等。QPS 常用于衡量查询接口、搜索、缓存等"读多写少"场景的处理能力。
常见单位:次/秒 偏接口/查询能力
关注点:单位时间内来了多少请求、系统能接住多少。
服务器 客户端 请求(多次/秒)
02

TPS

Transactions Per Second · 每秒事务数
表示系统每秒完成的事务数量。一个事务通常包含一次完整的业务操作,例如下单、扣款、写库并返回结果。TPS 更强调业务层面的"原子成功",一次事务可能内部调用多个接口。
常见单位:事务/秒 偏业务事务能力
关注点:真正完成多少笔业务,而不是收到多少次网络请求。
客户端 服务 数据库
03

并发数

Concurrency · 同一时刻处理的请求量
表示同一时刻系统正在处理的请求数量,反映某个瞬间系统承载了多少"进行中"的任务。并发数高,意味着系统同时要维持大量连接、线程或协程。
常见单位:个 / 连接数 强调并行处理
关注点:系统"同时"扛住多少活儿,不等于每秒处理完多少。
客户端1 客户端2 客户端3 服务器 同一时刻多条请求
04

RT

Response Time · 响应时间
表示从客户端发出请求,到系统完成处理并返回结果所花费的时间。RT 越低,用户体验通常越好。评估时不仅看平均值,更要看 P95/P99 等分位数。
常见单位:ms(毫秒) 关注延迟与稳定性
关注点:处理一个请求平均/最坏要花多长时间。
客户端 服务器 发起请求 返回结果 响应时间(RT)
05

吞吐量

Throughput · 单位时间内完成的工作量
表示单位时间内系统完成的数据传输量或业务处理量。它既可以是请求数(req/s),也可以是字节数(MB/s)、订单数(条/秒)、消息数(条/秒)等。吞吐量是"结果量",强调系统最终交付了多少有用工作。
单位:req/s、MB/s、条/秒 关注最终产出 常与 QPS/TPS 混用但有区别
关注点:单位时间内系统真正"干成"了多少事,口径可按业务定义。
请求数 req/s 数据量 MB/s 订单数 条/秒 消息数 条/秒 吞吐量可以有多种口径,核心都是"单位时间完成多少工作量"

🔁 它们之间的关系

请求到达
QPS
→
同时处理
并发数
→
处理耗时
RT
→
事务完成
TPS / 吞吐量
QPS ≈ 并发数 ÷ 平均响应时间(秒)
即:每秒能处理多少请求 ≈ 同时有多少请求在跑 ÷ 每个请求平均耗时多少秒
💡 实际工程中这个公式是粗略估算,因为并发数、RT 都不是固定值,且受 CPU、IO、网络、队列、依赖服务等多因素影响。但它能快速帮你判断:在 RT 不变时,要提高 QPS 就必须提高并发数(更多线程/协程/实例);在并发数受限时,降低 RT 也能提高 QPS。

📊 五者对比一览

术语 含义 关注重点 常见单位 典型场景
QPS 每秒查询/请求数 接口能接多少请求 次/秒 搜索、查询接口、缓存读
TPS 每秒事务数 业务完整操作完成多少 事务/秒 下单、支付、转账
并发数 同一时刻处理中的请求数 系统瞬时承载能力 个 秒杀、抢购、长连接
RT 响应时间 处理快慢与稳定性 ms 用户体验、SLA 指标
吞吐量 单位时间完成的工作量 最终产出效率 req/s、MB/s、条/秒 文件传输、批处理、MQ

🧮 关系计算器

500
估算 QPS
500
估算 TPS(单请求=单事务)
500
估算吞吐量(req/s)

说明:假设每个请求对应一个事务,且系统资源充足、无排队。拖动滑块即可实时观察 QPS、TPS、吞吐量的联动变化。

🌰 真实场景例子

场景一:电商大促

活动开始瞬间,100 万人同时点"立即购买",这就是高并发。服务器每秒收到 10 万次查询库存请求,这是 QPS = 10万。但真正扣库存、生成订单成功的每秒只有 5000 笔,这是 TPS = 5000。用户从点击到看到结果平均要等 300ms,这是 RT = 300ms。整个系统每秒交付 5000 个订单,这是吞吐量 = 5000 单/秒。

场景二:文件下载服务

一个 CDN 节点同时有 200 个用户在下载视频,这是并发数 = 200。每个用户每秒下载 2MB,节点总吞吐量 = 400 MB/s。这里用 MB/s 比 req/s 更合适,说明吞吐量的口径是灵活的。

场景三:缓存 vs 数据库

某接口走缓存时 RT = 5ms,并发数 50 时估算 QPS ≈ 50 / 0.005 = 10000。同一接口若穿透到数据库,RT 变成 100ms,同样并发数 50 时 QPS 只剩 500。RT 增加 20 倍,QPS 下降 20 倍——这就是为什么要加缓存。

⚠️ 常见误区

误区正解
QPS 高 = 系统快不一定。高 QPS 可能靠堆机器或高并发换来,RT 可能很慢,用户体验仍差。
TPS = QPS只有"一个请求就是一个完整事务"时才相等。多数业务一个事务会触发多次请求/查询。
并发数 = QPS并发数是"同时处理中",QPS 是"每秒完成"。两者通过 RT 关联:QPS ≈ 并发数 / RT。
吞吐量就是 QPS吞吐量是更宽泛的概念,QPS 是吞吐量按"请求数"计量的一种形式。
只看平均 RT平均 RT 容易被长尾请求拉平,必须结合 P95/P99 才能反映真实用户体验。