跳到正文

内容类型

产品更新 最新动态

AI 产品与应用的功能上新、改版与商业化——谁家的产品变强了、变贵了、能用了。

172 条精选近 30 天 135 条共收录 1,334 条

更新

精选归档 · 第 8 页

10月21日周三第 141–160 条
  1. 智东西80

    谷歌与Meta PyTorch团队开源TorchTPU,可将PyTorch模型迁移至TPU

    谷歌宣布开源与Meta PyTorch团队共同开发的原生TPU软件栈TorchTPU,开发者用较少代码改动即可把现有PyTorch模型部署到TPU上。该方案已接入vLLM、SGLang、llm-d、TorchTitan、VeRL、Ray、Hugging Face和LiteRT等工具,覆盖训练、推理、强化学习、集群调度和端侧部署。

    推荐理由:谷歌开源原生TPU软件栈并给出8000颗Ironwood TPU的训练验证数据,可观察PyTorch生态向非英伟达硬件迁移的路径。

  2. Latent Space88

    DeepSeek 开源推理框架 DeepInfer,披露单集群日处理 155 万亿 token

    DeepSeek 开源生产推理框架 DeepInfer,并披露其支撑 V4.1 Flash 的单集群日处理 155 万亿 token、96% 输入缓存命中、单卡每小时 38 美元收入(非高峰价)。

    推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此判断缓存命中与成本结构对推理经济性的影响。

  3. 钛媒体72

    DeepSeek推理框架对等支持华为、英伟达芯片,意味着什么?

    钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。

    推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。

10月20日周二
  1. Orange AI78

    DeepSeek 宣布将自研推理框架 DeepInfer 全部开源,该框架支撑 DeepSeek-V4.1-Flash 的大规模高吞吐、低延迟运行。官方称分享生产栈意在帮助社区降低算力成本与能耗,代码已发布在 GitHub。Orange AI 转发时评价,这可能推动所有模型降价。

    引用DeepSeek@deepseek_ai

    🚀 Introducing DeepInfer, our in-house inference framework, now fully open source! Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable. 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

    推荐理由:DeepSeek 把支撑 DeepSeek-V4.1-Flash 的生产推理栈开源,读者可据此了解其低成本推理的实现路径。

  2. Dongxi 东锡 NLP75

    DeepSeek 以 Apache-2.0 协议开源了高性能大规模推理框架 DeepInfer,代码已发布在 GitHub。该框架支持优化后的 kernel、模型与采样器运行时,Attention DP 与均衡 CP、MoE EP 加 EPLB 等并行策略,以及 DSpark 与置信度调度验证、SWA 有界重放、零开销批调度器、批不变推理、确定性采样和结构化输出。

    引用Tianyi Cui@tianyi

    DeepSeek just open sourced its high-performance, large-scale inference framework DeepInfer in Apache-2.0 license. https://github.com/deepseek-ai/DeepInfer Supported features: - Optimized kernels, model and sampler runtime - Parallelism: Attention DP / balanced CP, MoE EP + EPLB - DSpark and confidence-scheduled verification - SWA bounded replay - Asynchronous scheduling (zero-overhead batch scheduler) - Batch-invariant inference - Deterministic sampling - Structured output

    推荐理由:DeepInfer 以 Apache-2.0 开源,功能清单覆盖并行策略、异步调度与确定性采样,可据此判断其工程取向。

10月17日周六
10月16日周五
10月15日周四
10月13日周二
10月9日周五
10月8日周四
  1. Sam Altman78

    Sam Altman 转发 OpenAI 消息称,GPT-6 与 Intelligent UI 正在向所有 ChatGPT 用户推送,ChatGPT 现在可以为用户生成定制界面。OpenAI 表示,Intelligent UI 提供快速、可交互的回答,让日常问题更直观、复杂话题更易理解,并可在当前任务中直接调用交互工具。

    引用OpenAI@OpenAI

    GPT-6 and Intelligent UI, now rolling out in ChatGPT for everyone. Intelligent UI in ChatGPT delivers fast, interactive answers that make everyday questions more visual, complex topics easier to grasp, and interactive tools for your task available on the spot.

    推荐理由:ChatGPT 新增按需生成交互界面的能力,读者可了解回答形态从文字转向可视化交互的变化。

  2. Microsoft Research66

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。

    推荐理由:微软研究院开源约 3500 行的 Agent RL 框架,用真实 harness 参与训练,并给出 6000 样本提升 14.6 个点的完整流程。

9月25日周五
9月23日周三
9月21日周一
  1. Qwen67

    Qwen 宣布 Qwen-Image-2.1 在 Hugging Face Spaces 上线可直接试用的在线 demo,无需任何环境配置即可在浏览器中体验。该模型用单个 checkpoint 同时支持图像生成与编辑;据 Hugging Apps 介绍,它是 7B 参数的原生图像生成与编辑模型,最多支持 10 张参考图,并自带提示词增强 LLM,已集成 diffusers 与 ComfyUI。

    引用Hugging Apps@HuggingApps

    Qwen Image 2.1 is here! 🖼️ A 7B params native image generation and editing model, with up to 10 image references The model comes with it's own prompt enhancement LLMs, integrated with diffusers 🧨 and ComfyUI ▶️ on Spaces https://huggingface.co/spaces/hugging-apps/qwen-image-2-1

    推荐理由:Qwen-Image-2.1 在 Hugging Face Spaces 上线可直接试用的在线 demo,读者无需配置环境即可体验生成与编辑共用一个 checkpoint 的效果。