硅心科技开源4B上下文压缩模型aiXcompact-4B

硅心科技（aiXcoder）开源上下文压缩专用模型 aiXcompact-4B，参数量为 4B，支持在单张 A100-40GB 显卡上私有化部署。硅心科技孵化自北京大学软件工程研究所，是一家 AI 编程公司。 据智东西报道，该模型可将推理成本降低 78%。这一降幅是报道中的说法，报道未说明其测算条件与适用范围。

AI 根据报道生成 · 28 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。