Turing Post发布DeepSeek开源AI栈使用指南

Turing Post 发布指南，梳理 DeepSeek 从模型权重、DeepInfer 推理引擎到 Agent 工具链的开源栈，并分析哪些部分可自行拼装、哪些仍依赖其托管服务或私有基础设施。 据该指南，公开版本目前仅支持离线推理；共享 KV 缓存存储、视觉与 prefill/decode 分离服务、负载均衡仍需开发者自行搭建。其推荐的最小高效服务配置为 64 块 GPU 做 prefill、另 64 块做 decoding。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。