基于 Strands Agents 的自适应智能体框架 AAIF:用本地 SLM 分流请求降低云端成本
AWS 博客介绍用 Strands Agents 构建的自适应智能体智能框架 AAIF,以 llama3.2:1b 作为编排层对请求分类,常规任务交给 Ollama 本地 SLM 处理,复杂分析经 boto3 路由到 Amazon Bedrock。框架分智能编排、本地处理、云端处理三层,可在 8 GB 内存的 Raspberry Pi 等边缘设备、纯云或混合部署中运行。
AWS 博客介绍用 Strands Agents 构建的自适应智能体智能框架 AAIF,以 llama3.2:1b 作为编排层对请求分类,常规任务交给 Ollama 本地 SLM 处理,复杂分析经 boto3 路由到 Amazon Bedrock。框架分智能编排、本地处理、云端处理三层,可在 8 GB 内存的 Raspberry Pi 等边缘设备、纯云或混合部署中运行。
智谱发布并开源 GLM-OCR 多模态 OCR 模型,基于 GLM-V 编码器-解码器架构,采用多 Token 预测(MTP)损失和全任务强化学习,在 OmniDocBench V1.5 上得分 94.62,排名第一。
推荐理由:官方给出 0.9B 参数、OmniDocBench V1.5 得分与多框架部署方式,可据此判断轻量 OCR 的落地成本。
面壁智能发布 MiniCPM-V 4.7 的 1B 版本,并上线 GGUF 量化权重,支持单图、多图与视频理解。官方称该版本在 Instruct 模式下整体得分和推理效率均明显优于 Qwen3.5 0.8B,并采用 intra-ViT 早期视觉 token 压缩与 4x/16x 混合压缩。