跳到正文
MarkTechPost· Michal Sutter·· 1 小时前同事件AI 评分74

Google 发布 Gemini Decisions API 与 Gemini Decision 1,定价 $0.10/百万 tokens

Google Launches Gemini Decisions API With Gemini Decision 1 at $0.10/M Tokens

AI 导读

Google 发布 Gemini Decisions API,由新模型 Gemini Decision 1 驱动,不生成文本,而是针对同一份共享输入对最多 1000 个问题打分并返回校准概率,面向智能体中的路由、策略检查、工具选择和评分等分支调用。

同一件事,精选收录的是《Google 发布 Gemini Decision 1 与 Gemini Decisions API》

正文 · AI 翻译

Google 推出了 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动。Gemini Decisions API 不生成文本。它针对一个共享输入对最多 1,000 个带类型的问题进行评分,并返回校准后的概率。对开发者而言,这针对的是智能体内部的小型分支调用:路由、策略检查、工具选择和评分。Google 的定价为每 100 万输入 token 0.10 美元,输出 token 不计费。

TL;DR

  • 规模:上下文为 262,144 个 token(256K),涵盖共享输入和所有问题。
  • 运行于:仅限 Google 托管的 API(Gemini Developer API,v1beta)。无开放权重或自托管。
  • 性能:在 Google 的表格中,9 项准确率基准中领先 7 项,且校准误差最低。
  • 最佳:JevBench(公开划分)上为 92.2%。
  • 最差:Amazon ESCI 上 Macro-F1 为 58.7%,为其最低分。在 When2Call 上也落后于 Jev 1.14(79.9% 对 82.0%)。
  • 结论:最佳:150-250 毫秒内完成多模态、校准后的决策。最差:并非最便宜;在共享套件上 Jev 1.14 成本为 0.68 美元,而其为 0.88 美元。

什么是 Gemini Decisions API?

Gemini Decision 1 是 Google 推出的专用多模态模型,专为闭集决策构建。它在一次预填充过程中读取文本、图像、视频、音频和 PDF。输出 token 用量始终为 0。你的代码直接根据返回的数值进行分支。

每个请求包含 3 个部分:模型 ID、一个共享的 input,以及一个问题映射。文档定义了 3 种问题类型:

  • noul(是/否):返回“是”的概率,限定在 0.01 到 0.99 之间。
  • choice:从 2 到 255 个选项中选出 1 个,并返回每个选项的归一化概率。
  • score:按 2 到 255 个有序评分标准等级对输入进行评分,并返回概率加权分数。

每个答案都带有 0 到 1 的置信度值。Google 建议将低置信度案例路由到回退方案或人工审核员。问题并行评分,彼此不可见。

Gemini Decision 1 如何工作?

标准模型逐 token 解码答案,然后由你的代码解析。Gemini Decision 1 则改为在一次前向传递中对候选选项进行评分。Google 报告模型计算中位数为 50-100 毫秒,端到端为 150-250 毫秒。这适用于最多 16K token 的输入,并且从 1 到 100 个问题几乎保持平稳。

计费遵循同样的设计。无论你问多少个问题,共享输入每个请求只计费一次。每个问题仅增加其自身的指令和标准 token。没有思考 token、转录或 OCR 费用。

Gemini Decision 1 基准测试

Google 将 Gemini Decision 1 与 3 个对手进行了测试。它们是 TypeSafe Jev 1.14、OpenAI Decisions 上的 GPT-6 Luna 和 Gemini 3.5 Flash-Lite。以下所有数据均由 Google 自行报告。拒绝和安全拦截计为错误。

基准Gemini Decision 1TypeSafe Jev 1.14GPT-6 Luna(OpenAI Decisions)Gemini 3.5 Flash-Lite
JevBench(公开划分)92.2%90.0%90.9%86.6%
Amazon ESCI(Macro-F1)58.7%56.7%54.7%47.2%
New Yorker Caption(纯文本)79.7%72.0%68.4%73.7%
Mind2Web Multimodal86.2%86.8%81.8%78.0%
PubMedQA79.8%78.2%74.4%77.6%
Global-MMLU-Lite(非英语)86.0%85.0%79.6%78.8%
When2Call79.9%82.0%70.4%60.9%
MMAU(音频)71.8%未报告未报告67.7%
Video-MME(无字幕)69.1%未报告未报告63.3%
Top-1 ECE(越低越好)0.02500.04940.07210.2104
7 项共享评估的总价格$0.88$0.68$0.93$4.14

来源:Google 博客基准表。

校准结果是最明显的差距。Gemini Decision 1 的误差为 0.0250,约为 Jev 1.14 的 0.0494 的一半。当你为自动化设置置信度阈值时,这一点很重要。在成本方面,Google 表示在共享测试套件上,它比 Flash-Lite 便宜近 5 倍($0.88 对 $4.14)。

Gemini Decisions API 与 OpenAI Decisions 与 TypeSafe Jev 对比

功能Gemini Decision 1GPT-6 Luna,OpenAI DecisionsTypeSafe Jev 1.14
参数未披露未披露未披露
上下文262,144 tokens1,050,000(模型页面)每请求 64K,启用 opt-in header 后 262K
每请求问题数1 至 1,0001 至 400无固定上限,受上下文限制
输入模态文本、图像、音频、视频、PDF文本、图像、JSON文本(文档)
每 1M tokens 输入价格$0.10$0.10 未缓存$0.042
输出价格$0$0$0
提示缓存不支持支持,按 Luna 费率计费未披露
延迟声明端到端 150-250 ms比 Responses API 快约 10 倍未披露

如何部署 Gemini Decisions API

该端点已在 Gemini Developer API(v1beta)上线,需要 google-genai SDK 3.2 或更高版本。可在 Google AI Studio 中使用免费层级进行原型开发。Python、JavaScript 和 REST 指南见文档。

生态支持正在陆续覆盖 OpenRouter、LangChain、Vercel AI SDK、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode。Google Cloud 上的 Gemini 支持被列为即将推出。

Google 已在内部使用它。Gemini Notebook 用它把查询路由到不同模型层级,使日常查询的延迟最多降低 40%。Google Labs 的 CC 从 200 多个选项中挑选表情回应。Stitch 的快速画布用它来在几秒内构建可玩的线框图。

关键要点

  • Gemini Decision 1 每次调用最多可评分 1,000 个问题,且输出 tokens 为零。
  • 它可在一次处理中原生读取文本、图像、音频、视频和 PDF。
  • 0.0250 的校准误差是 TypeSafe Jev 1.14 的一半。
  • 按 $0.10/M 输入 tokens 计算,它仍比 Jev 的 $0.042/M 更贵。
  • 目前尚无缓存或 Batch API,因此重复上下文会按全额计费。

查看技术细节、文档 和模型页面。另外,欢迎在Twitter上关注我们,别忘了加入我们的150k+ ML SubReddit并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等?联系我们

文章 Google Launches Gemini Decisions API With Gemini Decision 1 at $0.10/M Tokens 首次发表于 MarkTechPost。

来源:MarkTechPost · marktechpost.com