Google 发布 Gemini Decisions API 与 Gemini Decision 1,定价 $0.10/百万 tokens
Google Launches Gemini Decisions API With Gemini Decision 1 at $0.10/M Tokens
Google 发布 Gemini Decisions API,由新模型 Gemini Decision 1 驱动,不生成文本,而是针对同一份共享输入对最多 1000 个问题打分并返回校准概率,面向智能体中的路由、策略检查、工具选择和评分等分支调用。
同一件事,精选收录的是《Google 发布 Gemini Decision 1 与 Gemini Decisions API》
Google 推出了 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动。Gemini Decisions API 不生成文本。它针对一个共享输入对最多 1,000 个带类型的问题进行评分,并返回校准后的概率。对开发者而言,这针对的是智能体内部的小型分支调用:路由、策略检查、工具选择和评分。Google 的定价为每 100 万输入 token 0.10 美元,输出 token 不计费。
TL;DR
- 规模:上下文为 262,144 个 token(256K),涵盖共享输入和所有问题。
- 运行于:仅限 Google 托管的 API(Gemini Developer API,v1beta)。无开放权重或自托管。
- 性能:在 Google 的表格中,9 项准确率基准中领先 7 项,且校准误差最低。
- 最佳:JevBench(公开划分)上为 92.2%。
- 最差:Amazon ESCI 上 Macro-F1 为 58.7%,为其最低分。在 When2Call 上也落后于 Jev 1.14(79.9% 对 82.0%)。
- 结论:最佳:150-250 毫秒内完成多模态、校准后的决策。最差:并非最便宜;在共享套件上 Jev 1.14 成本为 0.68 美元,而其为 0.88 美元。
什么是 Gemini Decisions API?
Gemini Decision 1 是 Google 推出的专用多模态模型,专为闭集决策构建。它在一次预填充过程中读取文本、图像、视频、音频和 PDF。输出 token 用量始终为 0。你的代码直接根据返回的数值进行分支。
每个请求包含 3 个部分:模型 ID、一个共享的 input,以及一个问题映射。文档定义了 3 种问题类型:
noul(是/否):返回“是”的概率,限定在 0.01 到 0.99 之间。choice:从 2 到 255 个选项中选出 1 个,并返回每个选项的归一化概率。score:按 2 到 255 个有序评分标准等级对输入进行评分,并返回概率加权分数。
每个答案都带有 0 到 1 的置信度值。Google 建议将低置信度案例路由到回退方案或人工审核员。问题并行评分,彼此不可见。
Gemini Decision 1 如何工作?
标准模型逐 token 解码答案,然后由你的代码解析。Gemini Decision 1 则改为在一次前向传递中对候选选项进行评分。Google 报告模型计算中位数为 50-100 毫秒,端到端为 150-250 毫秒。这适用于最多 16K token 的输入,并且从 1 到 100 个问题几乎保持平稳。
计费遵循同样的设计。无论你问多少个问题,共享输入每个请求只计费一次。每个问题仅增加其自身的指令和标准 token。没有思考 token、转录或 OCR 费用。
Gemini Decision 1 基准测试
Google 将 Gemini Decision 1 与 3 个对手进行了测试。它们是 TypeSafe Jev 1.14、OpenAI Decisions 上的 GPT-6 Luna 和 Gemini 3.5 Flash-Lite。以下所有数据均由 Google 自行报告。拒绝和安全拦截计为错误。
| 基准 | Gemini Decision 1 | TypeSafe Jev 1.14 | GPT-6 Luna(OpenAI Decisions) | Gemini 3.5 Flash-Lite |
|---|---|---|---|---|
| JevBench(公开划分) | 92.2% | 90.0% | 90.9% | 86.6% |
| Amazon ESCI(Macro-F1) | 58.7% | 56.7% | 54.7% | 47.2% |
| New Yorker Caption(纯文本) | 79.7% | 72.0% | 68.4% | 73.7% |
| Mind2Web Multimodal | 86.2% | 86.8% | 81.8% | 78.0% |
| PubMedQA | 79.8% | 78.2% | 74.4% | 77.6% |
| Global-MMLU-Lite(非英语) | 86.0% | 85.0% | 79.6% | 78.8% |
| When2Call | 79.9% | 82.0% | 70.4% | 60.9% |
| MMAU(音频) | 71.8% | 未报告 | 未报告 | 67.7% |
| Video-MME(无字幕) | 69.1% | 未报告 | 未报告 | 63.3% |
| Top-1 ECE(越低越好) | 0.0250 | 0.0494 | 0.0721 | 0.2104 |
| 7 项共享评估的总价格 | $0.88 | $0.68 | $0.93 | $4.14 |
来源:Google 博客基准表。
校准结果是最明显的差距。Gemini Decision 1 的误差为 0.0250,约为 Jev 1.14 的 0.0494 的一半。当你为自动化设置置信度阈值时,这一点很重要。在成本方面,Google 表示在共享测试套件上,它比 Flash-Lite 便宜近 5 倍($0.88 对 $4.14)。
Gemini Decisions API 与 OpenAI Decisions 与 TypeSafe Jev 对比
| 功能 | Gemini Decision 1 | GPT-6 Luna,OpenAI Decisions | TypeSafe Jev 1.14 |
|---|---|---|---|
| 参数 | 未披露 | 未披露 | 未披露 |
| 上下文 | 262,144 tokens | 1,050,000(模型页面) | 每请求 64K,启用 opt-in header 后 262K |
| 每请求问题数 | 1 至 1,000 | 1 至 400 | 无固定上限,受上下文限制 |
| 输入模态 | 文本、图像、音频、视频、PDF | 文本、图像、JSON | 文本(文档) |
| 每 1M tokens 输入价格 | $0.10 | $0.10 未缓存 | $0.042 |
| 输出价格 | $0 | $0 | $0 |
| 提示缓存 | 不支持 | 支持,按 Luna 费率计费 | 未披露 |
| 延迟声明 | 端到端 150-250 ms | 比 Responses API 快约 10 倍 | 未披露 |
如何部署 Gemini Decisions API
该端点已在 Gemini Developer API(v1beta)上线,需要 google-genai SDK 3.2 或更高版本。可在 Google AI Studio 中使用免费层级进行原型开发。Python、JavaScript 和 REST 指南见文档。
生态支持正在陆续覆盖 OpenRouter、LangChain、Vercel AI SDK、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode。Google Cloud 上的 Gemini 支持被列为即将推出。
Google 已在内部使用它。Gemini Notebook 用它把查询路由到不同模型层级,使日常查询的延迟最多降低 40%。Google Labs 的 CC 从 200 多个选项中挑选表情回应。Stitch 的快速画布用它来在几秒内构建可玩的线框图。
关键要点
- Gemini Decision 1 每次调用最多可评分 1,000 个问题,且输出 tokens 为零。
- 它可在一次处理中原生读取文本、图像、音频、视频和 PDF。
- 0.0250 的校准误差是 TypeSafe Jev 1.14 的一半。
- 按 $0.10/M 输入 tokens 计算,它仍比 Jev 的 $0.042/M 更贵。
- 目前尚无缓存或 Batch API,因此重复上下文会按全额计费。
查看技术细节、文档 和模型页面。另外,欢迎在Twitter上关注我们,别忘了加入我们的150k+ ML SubReddit并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等?联系我们
文章 Google Launches Gemini Decisions API With Gemini Decision 1 at $0.10/M Tokens 首次发表于 MarkTechPost。
来源:MarkTechPost · marktechpost.com