向量检索耗时：不同数量级下差多少

用计算模型 + 对照表讲清 1万→1亿行下暴力与 ANN 的耗时、QPS、召回率差异，以及维度与内存两个隐藏瓶颈。

耗时从哪来：一次查询算几次

向量检索的单次查询耗时，核心来自"要和多少个候选向量做距离计算"：

单查耗时 ≈ 候选数 × 向量维度 × 每次距离的计算量

假设维度 d=768，单次内积约 768 次乘加。下面给出不同数量级下的实测量级估计（CPU 单线程粗略、用于建立直觉，非精确 benchmark）。

数据量 N	FLAT 暴力扫描	FLAT QPS(估)	HNSW(ANN)	HNSW QPS(估)	HNSW 召回@10
1 万	~1–3 ms	~400	~0.3 ms	~3000	99%+
10 万	~10–25 ms	~60	~0.4 ms	~2500	99%+
100 万	~80–200 ms	~8	~0.6–1.5 ms	~800–1500	95–99%
1000 万	~0.8–2 s	~1	~1–3 ms	~400–800	95–98%
1 亿	~8–20 s ❌	<1	~3–8 ms*	~150–400*	90–97%*

* 1 亿级单机能扛的 HNSW 往往内存放不下，需 IVF-PQ / DiskANN / 分布式分片；标 * 为分片或压缩后的典型值。

图 1：暴力扫描耗时随数据量线性(指数感)飙升；ANN 几乎不随 N 增长。纵轴为对数示意。

耗时与维度 d 成正比。从 384 → 768 → 1536，单次距离计算量翻倍再翻倍：

维度 d	相对计算量	对 FLAT	对 ANN
384	1×	快一半	略快
768	2×	基准	基准
1536	4×	慢约 4 倍	访问节点数略增，整体约 2–3×

高维还会带来"维度灾难"：距离分布趋同，暴力意义下降，ANN 索引也更难建。能用 768 就别盲目上 1536，除非精度确实不够。

耗时之外，内存往往先爆。float32 每维 4 字节：

内存 = N × d × 4 字节（未压缩，HNSW 还要额外存图边）

HNSW 因为是图结构，还要额外存邻居边（约 N×M×4 字节，M 通常 16~64），实际内存比裸向量还大。所以亿级数据几乎必须用 IVF-PQ / 磁盘索引（DiskANN）/ 分布式。

Faiss HNSW，100 万 × 768d：单查 ~1–2 ms，单线程可达数千 QPS；efSearch=64~128 时召回@10 约 95–99%。
内存够时：HNSW 是"又快又准"的默认选择，直到内存放不下。
千万~亿级：IVF-PQ（nprobe 调召回）或 Milvus/Weaviate 的分布式分片；单分片控制在千万级以内。
批量检索（batch）：一次查 100 个 query 比单个查 100 次快数倍（向量化 + 更好利用缓存）。