运维
本地部署 llama.cpp,3.9G 盒子只能开 5.8 万
掘金0 次浏览
官方标 12.8 万 token,3.9GB 零 swap 盒子实测只能开 5.8 万,差 818 MiB。KV 实测 12,339.5 字节/token,与 config 手算差 0.4%。
原文:https://juejin.cn/post/7708219159427219519上一篇让本机 Agent 指挥浏览器里的多个网页 AI:一套 127.0.0.1 控制协议的设计取舍下一篇从 $6.22 到 $113.96:拆解 AI 用纯 Python 在 Blender 5.2 中“手搓”百万面 3D 场景的工程真相

