mt logoMyToken
ETH Gas
EN

谷歌 Gemini Decision 1 发布:不做逐字生成,一次请求判 1000 个问题

Favoritecollect
Shareshare

作者| 冬梅 (AI前线)

当整个 AI 行业还在比拼谁能生成更多 Token、谁的推理能力更强时,谷歌却推出了一款不靠逐字生成答案的新模型。

刚刚,谷歌正式发布 Gemini Decision 1,同时推出由该模型驱动的 Gemini Decisions API。与传统生成式大模型不同,这款模型专门用于快速决策,不需要逐个 Token 生成文字,而是通过单次前向传播,对预先设定的候选答案进行评分。

谷歌 CEO Sundar Pichai 也在 X 平台发文介绍了 Gemini Decision 1 的主要能力。他写道:

今天,我们在 Google AI Studio 中正式推出 Gemini Decisions API,由全新的 Gemini Decision 1 模型提供支持。

与传统模型逐个 Token 生成文本不同,这款模型专门为封闭选项集中的决策任务而设计。它可以在单次处理过程中,对文本、图像、音频、视频以及 PDF 中的最多 1000 个问题进行评分。

以下是几个值得关注的细节:

· 支持三种决策类型:是 / 否判断、多项选择(最多 255 个选项),以及基于评分标准的打分;

· 每百万输入 Token 的价格仅为 0.10 美元,输出 Token 费用为零,成本约为 Flash-Lite 的五分之一;

· 在多项基准评测中处于领先位置,同时具有最低的校准误差。

谷歌内部团队已经开始使用这项技术。

过去,当开发者希望 AI 判断一封邮件是否属于垃圾邮件,或者决定某项任务应该交给哪个 Agent 时,往往需要调用生成式大模型,再从模型生成的文本中提取结果。Gemini Decision 1 则省去了逐字解码的环节。

开发者只需要提供输入内容、待判断的问题以及候选选项,模型就可以直接返回对应的判断结果、概率和置信度。

这意味着,对于本来只需要一个分类、评分或选择结果的任务,AI 不必再完成一整套文本生成流程。

按照谷歌公布的数据,Gemini Decision 1 可以在一次请求中处理最多 1000 个独立问题,支持文本、图像、音频、视频和 PDF 等多模态输入,端到端延迟仅为 150~250 毫秒。

价格也比较激进:每百万输入 Token 仅需 0.10 美元,输出 Token 不收费。在谷歌公布的同一组基准测试中,其调用成本较 Gemini 3.5 Flash-Lite 低近 5 倍。

谷歌 Gemini Decision 1 发布:不做逐字生成,一次请求判 1000 个问题

更值得注意的是,这并不只是一款用于回答选择题的模型。谷歌已经将其用于 AI 模型路由、Agent 工具选择、产品设计以及安全检测等场景,试图让它成为 AI 系统中专门负责判断与决策的底层组件。

根据 Google 发布的技术介绍,Gemini Decision 1 提供三类核心决策能力。

第一类是 Yes/No(二元判断)。例如,判断图片中是否存在安全隐患,或者一段文本是否违反既定规则。模型会给出相应条件成立的概率。

第二类是 Multiple Choice(多项选择)。开发者可以预设 2~255 个候选选项,模型不仅会选出最符合条件的答案,还会返回每个候选项经过归一化处理的概率。

第三类是 Ordered Rubric(有序标准评分)。开发者可以自行定义不同等级的评分标准,让模型对输入内容进行评价,并返回连续加权分数及各等级的概率。

三种任务还可以在一次请求中混合执行。

谷歌提供了一个简单的示例:给模型上传一张办公室茶水间台面的照片,并附上一段文字说明,要求它同时判断桌面是否存在液体洒漏、应该采取何种清理措施,以及现场的严重程度。

谷歌 Gemini Decision 1 发布:不做逐字生成,一次请求判 1000 个问题

传统方式可能需要设计多个分类器,或者通过生成式大模型执行不同的提示词任务。Gemini Decision 1 则可以在一次请求中完成这些判断。

此外,模型支持最高 256K Token 的多模态输入上下文。对于企业场景,这意味着开发者可以将通话录音与客户资料放在一起分析,或者结合保险索赔文件与现场照片作出判断。

每项决策都会提供 0~1 的置信度,方便系统将不确定的结果交给其他模型或者人工审核。

Gemini Decision 1 的另一个竞争力,是速度与成本。

根据谷歌官方介绍,在涵盖 Agent 路由、推理、排序和多模态理解的基准评测中,Gemini Decision 1 表现领先,并取得了最低的校准误差。

在不超过 16K Token 的测试上下文中,其模型计算阶段的中位延迟保持在 50~100 毫秒,端到端延迟约为 150~250 毫秒。即使单次请求包含的问题数量从 1 个增加到 100 个,延迟也基本保持平稳。

在官方使用的共同基准测试集上,Gemini Decisions API 的成本较通过 Interactions API 调用 Gemini 3.5 Flash-Lite 低近 5 倍。

谷歌此次发布 Gemini Decision 1,还公布了一份颇具看点的模型对比成绩单。

与通常将通用大模型放在一起比较不同,谷歌此次选择了三款竞争产品:OpenAI 的 GPT-6 Luna、专门面向分类决策的 TypeSafe Jev 1.14,以及自家的 Gemini 3.5 Flash-Lite。

从结果来看,Gemini Decision 1 在 9 项基准测试中拿下 7 项第一,在概率校准方面同样领先,但在另外两项测试以及总调用成本上,仍然存在竞争对手表现更好的情况。

谷歌 Gemini Decision 1 发布:不做逐字生成,一次请求判 1000 个问题

在 JevBench 测试中,Gemini Decision 1 取得 92.2% 的准确率,超过 GPT-6 Luna 的 90.9%、TypeSafe Jev 1.14 的 90.0%,以及 Gemini 3.5 Flash-Lite 的 86.6%。

在 Amazon ESCI 商品搜索相关性测试中,Gemini Decision 1 取得 58.7% 的 Macro-F1 分数,比 GPT-6 Luna 高出 4 个百分点,比 Flash-Lite 高出 11.5 个百分点。

而在 New Yorker Caption 测试中,差距进一步拉大。Gemini Decision 1 取得 79.7% 的成绩,GPT-6 Luna 为 68.4%,两者相差 11.3 个百分点。该测试涉及对漫画配文的理解和选择,考验模型的语境理解与候选内容判断能力。

在医学问答测试 PubMedQA 中,Gemini Decision 1 同样排名第一,得分为 79.8%,高于 GPT-6 Luna 的 74.4%。

多语言测试 Global-MMLU-Lite 的结果也类似。Gemini Decision 1 取得 86.0%,GPT-6 Luna 为 79.6%,两者相差 6.4 个百分点。

不过,谷歌并未实现全面领先。

在 Mind2Web Multimodal 测试中,TypeSafe Jev 1.14 以 86.8% 的成绩排名第一,Gemini Decision 1 为 86.2%,落后 0.6 个百分点。

在考验工具调用判断能力的 When2Call 测试中,TypeSafe Jev 1.14 的优势更加明显,得分为 82.0%,Gemini Decision 1 为 79.9%。

这项结果尤其值得关注。工具选择和调用时机判断是 Gemini Decision 1 重点面向的 Agent 应用场景之一,但在这项测试中,专用决策模型 TypeSafe Jev 依然保持领先。

另外,在音频理解测试 MMAU 和视频理解测试 Video-MME 中,Gemini Decision 1 分别取得 71.8% 和 69.1%,均高于 Flash-Lite。

比准确率更值得关注的,是谷歌此次特别强调的概率校准能力。

在 Top-1 ECE(Expected Calibration Error,预期校准误差)测试中,Gemini Decision 1 的校准误差仅为 0.0250,而 GPT-6 Luna 为 0.0721,TypeSafe Jev 1.14 为 0.0494,Flash-Lite 则达到 0.2104。

换句话说,在这组评测中,Gemini Decision 1 的校准误差比 GPT-6 Luna 低约 65%,比 Flash-Lite 低约 88%。

这项指标对 Agent 系统尤其重要。

例如,当一个 Agent 需要判断某段代码是否存在安全漏洞时,模型给出的不仅是“存在”或“不存在”的结果,还可能包含一个概率值。系统可以根据概率与实际正确率之间的关系,决定是否自动采取行动,或者交给人工进一步核查。

与一些仅展示基准成绩的新模型不同,谷歌此次还披露了 Gemini Decisions API 在内部产品中的应用案例。

其中最值得关注的是 Gemini Notebook。

谷歌正在利用 Decisions API 充当实时模型路由器,根据用户请求的复杂程度,选择合适的模型档位和思考强度。面对日常简单问题,系统可以优先调用成本较低、响应更快的模型;遇到复杂推理任务,再将请求交给能力更强的模型。

谷歌称,借助这种动态路由方式,日常查询的延迟最多可以降低 40%。

这种设计与当前 Agent 系统的发展趋势密切相关。一个 Agent 完成任务时,往往需要不断判断下一步动作,例如选择哪个工具、调用哪个模型,或者决定是否需要人工介入。

如果每一个简单决策都要交给大型生成式模型处理,系统就需要承担额外的延迟和成本。专门的决策模型则提供了另一种选择:将相对简单、选项明确的判断交给低延迟模型处理,把复杂任务留给通用大模型。

除了 Gemini Notebook,谷歌还披露了另外三个应用方向。

在 Google Stitch 中,新推出的 Rapid Canvas 实验功能利用 Decisions API,在几秒钟内形成可交互的产品流程线框图,并快速响应用户通过语音或点击发出的修改指令。用户确认设计方向后,可以将页面转入完整的 Stitch 工作流进一步完善。

在 Google Labs 的 CC 产品中,Decisions API 被用于从超过 200 个 Emoji 选项中快速选择合适的表情反应。在 Google Search 内部,谷歌还利用这一 API 构建 MCP 工具的安全检测层,识别潜在的对抗性行为及内容。

参考链接: Gemini Decisions API 官方博客

Disclaimer: This article is copyrighted by the original author and does not represent MyToken’s views and positions. If you have any questions regarding content or copyright, please contact us.(www.mytokencap.com)contact
More exciting content is available on
X(https://x.com/MyTokencap)
or join the community to learn more:MyToken-English Telegram Group
(https://t.me/mytokenGroup)