Tim Cook 探访蓝盒子:Mac 如何支撑 300 人家居企业的本地 AI 与设备管理
Tim Cook 上周四走访上海床垫家居品牌蓝盒子,了解其以 Mac 和 iPad 支撑设计、内容制作与线下试睡服务的用法。蓝盒子用一台 64GB 内存 Mac mini 本地部署 35B 参数千问模型,员工以自然语言转 SQL 查询销售、库存等数据,已投用约一个月,部分查询从一两天缩短到几分钟。新员工开机联网即可零接触部署,从拆封到开工约 12 分钟。
Tim Cook 上周四走访上海床垫家居品牌蓝盒子,了解其以 Mac 和 iPad 支撑设计、内容制作与线下试睡服务的用法。蓝盒子用一台 64GB 内存 Mac mini 本地部署 35B 参数千问模型,员工以自然语言转 SQL 查询销售、库存等数据,已投用约一个月,部分查询从一两天缩短到几分钟。新员工开机联网即可零接触部署,从拆封到开工约 12 分钟。
AWS 在 vLLM 中实现双向 KV 传输,让 decode 节点在后续轮次把已计算的 KV 块回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 实例的 1P1D 部署上,该功能使 Qwen3-32B 的 TTFT 最多降低 1.6 倍、zai-org/GLM-5-FP8 最多降低 3.3 倍。
vLLM 新增 push 模式的 NIXL connector,把 prefill 后的传输协调与建立过程移出首 token 关键路径。在 AWS EC2 P5en 1P1D 部署、EFA 互联的测试中,Qwen3-32B 的 TTFT 最高改善 3 倍,TPOT 最高改善 30%。该功能先在 AWS Trainium 集群验证,再作为与加速器无关的特性贡献给 vLLM。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转写等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,按评估时实例价格计算,每美元处理的音频量比原有算力方案高 11%–70%。
TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 上线,可将长视频转为带时间戳的结构化 JSON 元数据。相比 Pegasus 1.2,单次请求可分析视频时长从 1 小时提升至 2 小时,并新增视频分段、参考图多模态提示和免预索引的即时处理。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型,覆盖 30 家提供商。阿里 Qwen 贡献 29 个模型,NVIDIA 17 个,Mistral 7 个,Google 6 个 Gemma 4 变体,IBM 和 Cohere 各 4 个。新增模型重点覆盖多模态、量化与紧凑模型以及图像视频生成能力。
AWS 宣布新客户可通过 Google、GitHub、Apple、Amazon 账号或邮箱注册,2–3 步即可进入已配置好的 SageMaker Studio 环境,无需填写高级账户信息、验证手机号或提供信用卡(多数客户)。
AWS 博客演示用 AtScale 作为语义层、配合 Amazon Bedrock AgentCore 托管 Strands 智能体,构建 Customer 360 分析模式。
该教程演示如何用 Strategy Mosaic 作为语义层,在 Amazon Redshift 与 Amazon Aurora 上以两个链接模型建模 C360 域,无需 ETL。
本文演示如何用 Denodo Platform 作为语义层,通过 Denodo MCP Server 向托管在 Amazon Bedrock AgentCore 上的智能体暴露受治理视图,并联合查询 Amazon Aurora、Amazon Redshift 与本地 PostgreSQL 构建 Customer 360 视图。
Eon 基于 Amazon Bedrock AgentCore 的 MCP Gateway 搭建了统一的多云调查入口,用单一认证网关替代逐工具凭证和本地 MCP 进程,让开发者和自主智能体统一访问 AWS、GCP、Azure 三朵云上的调查工具。
苹果在Apple Intelligence产品页标注部分依赖服务器端模型的AI功能将有每日使用限制,未来可通过付费获得额外额度,库克透露国行苹果AI将在10月底启动测试。
SpaceX 在 Q3 2026 财报电话会上披露,向 Anthropic、Google 等客户出租算力的 Super Intelligence 业务收入 76 亿美元,接近上季度 25.6 亿美元的 3 倍,超过 Starlink 的 52 亿美元成为最大收入来源,其中 6.08 亿美元来自新收购的 Cursor。
推荐理由:SpaceX 财报电话会显示 AI 算力业务已成其最大收入来源,读者可据此了解算力租赁的规模与资本开支节奏。
亚马逊副总裁兼 CTO Werner Vogels 在 2026 年亚马逊云科技软件企业峰会创业加速营巅峰路演与极客公园创始人张鹏对谈,分享二十余年技术实践并给初创企业提建议。
众星微发布三款互连芯片,其中一款将PCIe Switch直接集成进网卡,整板少一颗芯片并降低时延。中国信通院数据显示,大规模分布式训练中网络通信耗时占比达30%到50%,国内Token实际流通效率仅60%。800G网卡正从旗舰配置变为AI集群标配,但需跨越SerDes、功耗和PCIe Gen6三道关。
海康威视在2026中国工博会展出百余款场景数字化产品,覆盖半导体封装3D AXI检测、3200℃高温计、听诊光纤与扫描成像雷达。其底气来自可见光、红外、X光、毫米波、声波等多维感知体系与海康观澜大模型,X-ray检测样本需求从数千张降至几十张。SOP方案已落地数百个项目,智能工厂超1500台移动机器人协同作业。
奇瑞在 2026 全球创新大会上公布「瑶光 2035」战略,目标从传统汽车制造商进化为以 AI 驱动的全球智能科技公司。会上发布面向物理 AI 的垂类基础大模型 CheryMind,已连接超 400 个企业系统、覆盖 200 多个业务场景,并公布规划支持千亿参数级模型、双芯片 NPU 算力 2400 TOPS 的紫微 C100 芯片,计划 2027 年推出。
Rohan Paul 解读 EAGLE-4 投机解码为何能提升推理速度,指出它已成为在选定模型上提高每秒 token 数的可靠手段。EAGLE-4 保留草稿加校验的循环,把改进放在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head;小模型先猜若干 token,目标模型一次前向全部校验,保留匹配项并替换首个不匹配项。
i14 与 AWS 团队用 TorchNeuron Native 原生 PyTorch 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留 GLA 架构与 Muon 优化器。
Google 将 Gemini 的 Personal Intelligence 功能推向 Android Auto 和 Google built-in 车机,该功能今日起在 Android Auto 开始推送,未来几个月登陆内置 Google 软件的车型。这一可选功能让 Gemini 调用 Gmail、Calendar 等应用中的数据来生成回答,无需用户额外提供上下文。
OXR 把解析失败纳入训练流程,在后训练阶段由 VLM 评估自身输出,用 rollout 分歧标记不确定样本,再由独立聚类模型归因,指导下一轮定向数据生成。该 1.3B 开源模型在 olmOCR-Bench、OmniDocBench 和 DocParsingBench 上排名第一,在单张 RTX PRO 6000 上的吞吐为 GLM-OCR 的 3.05 倍,是速度对比中最快的开源结果。
SF Compute 正把 GPU 算力做成可交易市场,并自建云运营能力实现"物理交割",让买家拿到可用算力而非现金结算。CEO Evan Conrad 称 NVIDIA 因缺乏中立性无法自建这类交易所,而 SF Compute 通过匹配不同约束条件的订单在技术快速迭代期维持交易。他还提到可动态切分 InfiniBand 网络等让基础设施可编程的工程细节。
Google 开源 TorchTPU,用来替换 PyTorch/XLA,让开发者可以逐步调试 TPU 模型。作者称 TorchTPU 在训练 Qwen 3 8B 时用到了最高 52% 的 TPU 峰值算力。
HeyGen 的 Professional Voice Clone 用 30 分钟到 2 小时的录音音频训练,保留呼吸、停顿、笑声、口音和元音发音等细节。HeyGen 称其生成的语音与本人无法区分,关键在于长音频包含数百处犹豫、停顿和语速变化,短参考片段无法体现这些特征。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
Google 周二宣布开源 TorchTPU,这是其 PyTorch 版本,可让 AI 应用运行在 Google 的 TPU 上,开发者只需修改配置、无需重写代码即可把现有 PyTorch 应用迁移到 TPU 和 Google Cloud。
Smartsheet 已在 AWS 推出正式可用的 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖探索、创建与管理 sheet、行、列和自动化等 40 多个工具。
现在你可以在 API 中选择 12 小时提示词缓存。 持久化智能体(比如 dots)会在一天中反复复用上下文。 你可以让共享的指令、工具和上下文缓存更久,并享受更低的缓存输入价格,即使两次请求相隔数小时。
AWS 展示用 Amazon Quick 作为交互界面、Amazon Bedrock AgentCore 作为智能层,通过 MCP 服务器把 ERP、监控、采购等系统串成可组合工具层,让供应链管理者用自然语言跨系统提问。
在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做多语言推理微调,基座模型在 50 例测试中仅 22% 用目标语言推理(法语、西班牙语、意大利语均为 0%)。
Shadeform 推出 Flex VMs 和 Shadeform Spot,可把任意裸金属 GPU 服务器变成可租用的云容量,并在数小时内上架。作者 Rohan Paul 认为关键在于无需构建 API,只需一个 IP 和 SSH key,而此前正是这部分集成工作让闲置算力难以触达买家。
Octave 在 Amazon Bedrock 上为质量管理平台 Reliance 构建了多租户 AI 基础平台,用 Cohere Embed v4 完成 20 亿份文档的嵌入,并将单用例部署时间缩短 50%。该平台以每租户独立向量存储、AgentCore Gateway 隔离执行和 Guardrails 双向过滤三层架构,确保客户数据不跨租户边界。首个落地应用为投诉摘要与分诊助手。
Mistral AI 发布 Voxtral 3,一套面向实时语音智能体的模型家族,包含语音转写模型 Voxtral Small Transcribe 3、文本转语音模型 Voxtral Mini TTS 3,以及基于 LiveKit 的语音智能体 SDK。
快速推理对智能体正变得越来越重要。 随着主动式、常驻智能体的兴起,以及复杂任务对多智能体系统需求的增长,异构计算变得至关重要。@general_compute 正在解决这一关键问题,而与 @positron_ai 的合作非常合理。
Amazon Bedrock 的跨区域推理(CRIS)现支持从加拿大(中部)和加拿大西部(卡尔加里)区域调用 OpenAI GPT-6.1 Sol、GPT-6(Astra、Sol、Luna)和 GPT-5.6(Sol、Terra、Luna)。
在拥有自己的智能技术栈比以往任何时候都更重要之际,可靠地获取 AI 基础设施和智能体算力是实现这一愿景的关键。 我希望看到更多这样的算力能够轻松提供给正在做实验和后训练的开发者和构建者。这正是 @shadeformai 的 Flex VMs 公告让我感兴趣的地方。 恭喜 @edsgoode 和团队!
AWS 介绍 Agent Registry 的运行时工具发现方案,让编排器不再把工具硬编码进智能体,而是按请求检索已批准的 MCP 服务器和 A2A 智能体记录。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份。
HPE 提出企业 AI 的成本衡量应从 token 或 GPU 小时价格转向"每个有用成果的有效成本",即完成可用工作所需的平台、模型、运维与算力总成本。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,其中 HPE Private Cloud AI 通过调度、模型选择、GPU 分区和 KV-cache 管理提升利用率,并附 90 天前驻工程师服务。
针对近期几篇实验设置不佳、只聚焦已刷满的 SWE benchmark 的论文所引发的“harness 工程已死”说法,作者明确反驳,认为这与“prompt engineering 已死”“RAG 已死”同属博眼球的误导性论断。