私有知识库的最小可用配置
发布时间:2026-03-03 16:18       
更新时间:2026-03-04 06:41
把公司文档做成可检索的知识库,硬件上的账比想象中好算,关键是分清哪一步吃内存、哪一步吃 CPU。
整个流程分两段
知识库的核心链路是两段:把文档切片、计算向量、存进向量库,这是离线的嵌入任务;用户提问时把问题也算成向量,去库里找最近的片段,再交给模型组织答案,这是在线的检索任务。两段的资源曲线完全不同,配置要分开算。
向量库吃内存
向量库的内存开销可以直接估算:一条向量按 1024 维、4 字节算约 4 KB,一万条文档片段大约 40 MB,十万条 400 MB。加上索引结构和常驻开销,中小规模知识库给向量库预留 2G 内存基本够用。文档量到百万级片段时,内存需求按比例上探到 8G 以上,索引类型也要换更省内存的方案。
嵌入任务吃 CPU
文档导入是一次性或低频操作,几百页文档的嵌入计算用 4 核 CPU 半小时内能跑完,没必要为它长期付高配的钱。把嵌入任务做成脚本,导入时手动触发或挂到定时任务里跑,平时机器只承担检索,负载曲线很平。
小规格起步的建议
检索服务本身负载很轻,问答并发几十路以内,2 核 4G 加一块普通系统盘就能支撑早期验证;真正吃资源的是后面接的大模型推理,那部分可以独立部署或调用外部接口,不和检索服务抢机器。顺云的高防云服务器 S4 作为起步机型足够,文档规模过十万片段后再升 8G 内存档位,一次升级就能覆盖下一阶段。
先算清楚自己的文档量和提问频率,再决定花钱的方向。多数人高估了起步需求,低估了备份的重要性,环境搭好后记得给数据库做每日备份。