跳到正文
只看产品
找到 2 条 · 更新于 12:09
今天10月23日周五
  1. MiniMax (official)58

    MiniMax 回应 SGLang 项目发布的 SGLang-TorchTPU，称 H3 已被带到 TPU 上，并期待更多面向高效视频推理的开源工作。据 SGLang 项目介绍，SGLang-TorchTPU 是与 Google TPU 团队和 Meta PyTorch 团队共同构建的 SGLang TPU 插件，支持 Muse Spark Open、GLM-5.3 Flash、Kimi K3、Ling 3.1 Flash、MiniMax H3 等开源模型，并提供面向大规模智能体负载的生产特性；其定制 MegaKernel 让 Muse Spark Open 在 InferenceX 8K/1K、bs=1 下达到 770 tok/s 解码速度，该插件已在 GitHub 开放。

    引用SGLang@sgl_project

    Today we launch SGLang-TorchTPU, built with @Google TPU team and Meta @PyTorch team. We’re excited to see it powering production inference at Meta! SGLang-TorchTPU is a TPU plugin for SGLang that brings: - Top open models on TPU: Muse Spark Open, GLM-5.3 Flash, Kimi K3, Ling 3.1 Flash, MiniMax H3 - SGLang’s production features for large agentic workloads - Custom MegaKernel: Muse Spark Open hits 770 tok/s decode at bs=1 on InferenceX 8K/1K SGLang-TorchTPU is available now: http://github.com/sgl-project/sglang-torchtpu

2025年12月13日周六
  1. Mira Murati58

    Thinking Machines 宣布 Tinker 正式开放（generally available），并加入新模型和新功能。引用内容显示，此次新增对高级视觉输入模型和 Kimi K2 Thinking 的支持，同时提供更简单的模型采样方式。

    引用Thinking Machines@thinkymachines

    Tinker is now generally available. We also added support for advanced vision input models, Kimi K2 Thinking, and a simpler way to sample from models. https://thinkingmachines.ai/blog/tinker-general-availability/