跳到正文
  1. 钛媒体72

    DeepSeek推理框架对等支持华为、英伟达芯片,意味着什么?

    钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。

    推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。

  1. DeepSeek (X)72

    DeepSeek 开源推理框架 DeepInfer

    DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟,DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。

    推荐理由:DeepSeek 公开了支撑自家模型规模化服务的推理框架,读者可据此了解其生产栈的吞吐与延迟取舍。

  2. AI at Meta (X)70

    Meta 发布 Muse Glimmer 技术报告:30B 开源权重模型面向消费级硬件智能体任务

    Meta 发布 Muse Glimmer 技术报告,这是一个 30B 开源权重模型,面向消费级硬件上的智能体任务。该模型在单张消费级 GPU 的 Mac 或 PC 上以 4-bit 精度运行可达实用速度,并在工具调用和多步规划上领先同规模开源模型。报告涵盖模型架构、蒸馏配方和量化等内容。

    推荐理由:技术报告公开了 30B 开源权重模型的架构、蒸馏配方与量化方案,可供关注端侧智能体的读者参考。

  1. Hugging Face (X)78

    Reflection 开源 Beam 模型权重并直播讲解构建过程

    Reflection 宣布 Beam 已在多平台上线,以 Apache 2.0 协议开放权重,并与 40 多家生态伙伴合作。此次发布包含权重、tokenizer 和参考实现,BF16、FP8、NVFP4 权重及 DFlash2 drafter,以及训练 Beam 所用的开源工具 Mirror CLI。Hugging Face 转发该消息并预告 Reflection 团队直播讲解 Beam 的构建过程。

    推荐理由:Reflection 公开 Beam 的权重、量化版本与训练工具 Mirror CLI,可据此了解其开放程度与复现路径。

  1. Qwen (X)70

    Qwen 发布 Qwen-Image-2.1-Turbo,8 步去噪生成与编辑图像并开放权重

    Qwen 发布 Qwen-Image-2.1-Turbo,在同样的 7B 视觉生成架构上做加速,仅需 8 步去噪即可生成和编辑图像,权重已在 ModelScope 和 Hugging Face 开放。

    推荐理由:官方给出 Turbo 加速版在 8 步去噪下仍能生成 2K 图像,并同步开放权重与 API,便于判断落地成本。

  1. Google DeepMind72

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数嵌入模型,可将文本、代码、图像、音频和视频映射到统一嵌入空间。

    推荐理由:原文给出参数量、内存占用和基准提升,可据此判断端侧多模态检索的落地条件。

  1. Qwen (X)75

    阿里 Qwen 发布开源图像模型 Qwen-Image-2.1

    阿里 Qwen 发布 Qwen-Image-2.1 并开放权重,这是 Qwen-Image 系列中兼顾效果与成本的图像生成模型,统一支持生成与编辑。该模型采用 7B 轻量架构,官方称其性能超过多数闭源模型,并大幅加速多图输入推理。它可原生生成和编辑 RGBA 透明图层,支持最多 10 张参考图与局部精确控制,覆盖全景图、信息图和虚拟试穿等场景。

    推荐理由:官方给出 7B 轻量架构、原生 RGBA 透明图层与最多 10 张参考图编辑等能力,可据此判断开源图像模型的实际可用边界。

  1. Mira Murati (X)78

    Thinking Machines 发布首个模型 Inkling,开放权重并支持在 Tinker 微调

    Thinking Machines 发布首个模型 Inkling,从零训练,权重开放,即日起可在 Tinker 上微调。据其介绍,Inkling 能跨文本、图像和音频模态进行高效推理,完整权重已公开,并可在 Inkling Playground 中试用。

    推荐理由:Thinking Machines 首款模型从零训练并开放权重,读者可据此了解其多模态推理定位与微调入口。

  1. DeepSeek (X)88

    DeepSeek 发布并开源 DeepSeek-V4 Preview,支持 1M 上下文

    DeepSeek 正式发布并开源 DeepSeek-V4 Preview,主打低成本 1M 上下文长度。其中 DeepSeek-V4-Pro 为 1.6T 总参数、49B 激活参数,官方称性能可对标顶级闭源模型;DeepSeek-V4-Flash 为 284B 总参数、13B 激活参数,定位快速经济。

    推荐理由:DeepSeek 官方公布 V4 两个版本的参数规模与 1M 上下文,可据此判断开源模型在长上下文上的成本位置。

  1. Andrej Karpathy (X)72

    npm 上的 axios 遭供应链攻击,Karpathy 排查本机依赖

    Karpathy 转发安全警报称,npm 上最流行的 HTTP 客户端库 axios 遭遇新的供应链攻击,最新版本 axios@1.14.1 引入了一个当天才出现的包 plain-crypto-js@4.2.1。

    推荐理由:作者以自身系统排查为例,说明未锁定版本的依赖如何让一次投毒扩散到普通用户。

已经到底了