跳到正文

技术方向

多模态 最新动态

文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。

15 条精选近 30 天 8 条共收录 48 条

更新

多模态的精选

今天10月21日周三第 1–15 条
  1. The Decoder72

    可灵 AI 发布 4.0 版本,新增立体声与多语言口型同步并推出 Flash 轻量版

    可灵 AI 发布 4.0 版本,单次可生成最长 30 秒视频,支持最多 10 张关键帧图像输入,提示词理解扩展到 8,000 tokens。新版本加入双声道立体声和覆盖德语、英语、日语、韩语、西班牙语等十余种语言的改进口型同步,Omni Reference 单次最多接受 15 个参考素材。

    推荐理由:可灵 4.0 的升级集中在参考素材、音频与多语言口型,同时给出与 Wan 3.0、Seedance 2.5 的对比观察。

10月20日周二
10月16日周五
  1. AI at Meta (X)80

    Meta 发布开源权重模型 Muse Spark Open,816B 总参数、1M token 上下文

    Meta 发布开源权重模型 Muse Spark Open,称其为目前美国最强的开源权重模型。该模型面向编码与智能体任务,主打长程任务、复杂软件工程和多步推理,规格为 816B 总参数、42B 激活参数、1M token 上下文窗口,原生支持文本、图像、视频和音频多模态。

    推荐理由:Meta 公布开源权重模型的具体参数与多模态规格,可据此判断其长程编码与智能体任务的定位。

10月15日周四
  1. NVIDIA (X)73

    NVIDIA 发布 Nemotron 3.5 Super VL 开源多模态模型

    NVIDIA 发布 Nemotron 3.5 Super VL,扩充其 Nemotron 开源模型系列,将视觉理解、推理与工具调用结合,用于帮助 AI 智能体在更短时间内完成更多工作。该模型支持文本、图像、文档和视频理解,总参数 120B、激活参数 12B。NVIDIA 表示开源模型让用户能按自己的方式定制、部署和构建。

    推荐理由:官方给出新开源多模态模型的总参数与激活参数,读者可据此判断其本地部署与定制空间。

10月14日周三
  1. Google DeepMind90

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布 Gemini 4 Argon,通过 Gemini API、AI Studio、Antigravity 及 Gemini 应用向开发者、企业和订阅用户开放,定价为每百万输入 token 2 美元、输出 token 10 美元。

    推荐理由:官方披露了 Argon 在编码、科研与安全对齐上的具体案例和基准表现,可据此判断前沿模型在长程任务中的实际边界。

10月7日周三
9月29日周二
  1. Microsoft Research62

    微软研究院推出面向生物学复杂性的 AI 研究系统 Quine

    微软研究院推出 Quine,一个由跨模态生物学世界模型和连接模型、科学工具、文献与研究者的交互框架组成的 AI 研究系统。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,从数千个化合物中筛选并优先排序候选分子,湿实验显示排名最高的化合物产生了最大的经典态到基底态细胞状态转变,整个筛选到候选验证过程仅用一个周末。

    推荐理由:微软研究院公开 Quine 的生物学世界模型与实验编排框架,并给出胰腺癌化合物筛选的湿实验验证结果。

9月19日周六
  1. Qwen (X)67

    阿里千问发布实时同传模型 Qwen3.8-LiveTranslate

    阿里千问发布新一代实时同声传译模型 Qwen3.8-LiveTranslate,基于 Interleave 架构,在 60 种语言上把平均延迟(LAAL)从 2.8s 降至 2.3s,并提升忠实度、流畅度和简洁度。新能力包括实时说话人分离与更稳定的声音克隆、原文与译文同步双语显示,以及利用对话历史消歧人名和术语的长上下文能力。模型已在 QwenCloud 上线,博客同步发布。

    推荐理由:官方给出延迟从 2.8s 降到 2.3s 和三项新能力,可据此判断实时同传的可用边界。

9月18日周五
9月16日周三
  1. Google AI (X)78

    Google 发布 Gemini 3.8 Live 与 3.8 Live Extended Thinking 音频模型

    Google 发布两款 Gemini 音频模型 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking。Gemini 3.8 Live 侧重规模、速度和成本效率,支持句中打断、在 97 种语言间即时切换并理解视觉上下文;3.8 Live Extended Thinking 则边推理边说话,可处理规划活动等多步骤任务。

    推荐理由:两款音频模型分别面向低延迟对话与复杂任务推理,读者可据此判断语音交互的适用边界。

9月10日周四
  1. DeepSeek (X)72

    DeepSeek 发布 V4.1-Flash 模型

    DeepSeek 发布 DeepSeek-V4.1-Flash,称其为新架构家族中参数规模最小的模型,并原生支持视觉理解。官方表示该模型面向更强能力、更快推理和更高吞吐设计,并可扩展至更大模型。

    推荐理由:DeepSeek 新架构家族的最小模型,原生支持视觉理解,并强调推理速度与吞吐。

8月21日周五
7月31日周五
  1. Mira Murati (X)78

    Thinking Machines 发布 Inkling-Small 模型并开放权重

    Thinking Machines 发布 Inkling-Small,官方称其在四分之一体量下达到与 Inkling 相当的性能。该模型总参数 276B、激活参数 12B,完整权重已开放,可在 Tinker 上微调,并在 Tinker Playground 中体验文本、图像和音频交互。Mira Murati 转发了这一发布消息。

    推荐理由:Inkling-Small 以四分之一体量达到与 Inkling 相当的性能,并开放完整权重,读者可据此判断小模型的部署与微调空间。

7月16日周四
  1. Mira Murati (X)78

    Thinking Machines 发布首个模型 Inkling,开放权重并支持在 Tinker 微调

    Thinking Machines 发布首个模型 Inkling,从零训练,权重开放,即日起可在 Tinker 上微调。据其介绍,Inkling 能跨文本、图像和音频模态进行高效推理,完整权重已公开,并可在 Inkling Playground 中试用。

    推荐理由:Thinking Machines 首款模型从零训练并开放权重,读者可据此了解其多模态推理定位与微调入口。