SC117 本地推理生产线系列 - 标签 -

SC117 本地推理生产线系列

2026

12G 本地推理生产线 ⑧ 四问知识库方法论：让 AI 系统不再重复踩坑 10-21

12G 本地推理生产线 ⑦ 接入 Hermes 的零成本推理架构：本地主力 + 云端兜底 10-21

12G 本地推理生产线 ⑥ 本地模型长文写作 SOP：回声退化、毒上下文与四条对策 10-21

12G 本地推理生产线 ⑤ 量化位怎么选：IQ2_XS vs IQ3_S 四方台账与主线决策 10-21

12G 本地推理生产线 ④ 32K 墙是怎么死的：死旋案 + KV 流式 + 128K 窗口决策 10-21

12G 本地推理生产线 ③ 显存调优深水区：expert cache auto 怎么算的（146 experts 事故） 10-21

12G 本地推理生产线 ② 三维 OOM 账本：host RAM、VRAM、磁盘三道账怎么列 10-21

12G 本地推理生产线 ① 总览：怎么在 12G 显卡上跑出 128K 与 40 t/s 10-21