智东西(公众号:zhidxcom)
编译 | 黄菲
编辑 | 江宇

智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问题一次性作出判断。该模型支持文本、图像、音频、视频和PDF等多模态输入,且不收取输出Token费用。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

性能方面,谷歌称,在最多16K Token的多模态输入场景下,Gemini Decision 1的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。

价格方面,Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费,其成本约为Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。

API上线后,网友对此的评价不一。一名用户认为:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

另一名用户则提出了一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

还有用户则提到,这项API的价值取决于实际速度表现:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

同日,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)使用免费API密钥进行了实测。其中,模型在54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题仅耗时0.41秒,但莱西亚发现模型会将超出预设范围的输入强行归入已有类别。

目前,Gemini Decisions API已用于Gemini Notebook等谷歌内部产品,谷歌搜索也将其用于模型上下文协议(MCP)工具的安全防护。开发者可以通过谷歌AI Studio获取API密钥,并使用免费API额度进行原型开发。

谷歌AI Studio地址:https://aistudio.google.com/

一、支持三类判断方式混用,单次请求最多处理1000个问题

Gemini Decisions API通过三类判断方式处理开发者预先定义的问题,分别是是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric),而这三种方式可以在同一次请求中混合使用。

是非判断用于估算某个条件成立的概率,开发者还可以分别设置条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型会选出最符合要求的选项,并返回每个候选项对应的归一化概率。分级评分则按照从0开始的有序标准对输入内容进行评估,返回加权后的连续分数,以及各个评分等级对应的概率。

三种判断方式均会附带0至1之间的置信度分数。开发者可以根据置信度设置处理规则,例如将模型无法确定的结果交给备用模型处理,或者转交人工审核。

在多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,可以在一次模型计算中直接处理文本、图像、音频、视频和PDF文件。不同类型的内容可以组合在同一份输入中,例如将通话录音与账户信息放在一起分析,或者将PDF保险理赔文件与现场受损照片结合起来判断。

开发者还可以调整图像和视频的分辨率,以控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token的输入内容,并可针对同一份输入设置最多1000个独立问题。

谷歌还给出了一个实际应用示例。开发者可以上传一张休息室台面的照片,并附上一段文字说明,让模型同时判断台面上是否存在未清理的液体、应该采取哪种清洁措施,以及现场脏乱程度。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

其中,模型需要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中作出选择,并按照清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级进行评分。三项任务可以通过一次请求完成。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,将其作为低延迟的决策控制层。开发者只需预先定义判断选项,就可以让模型完成任务分配,不必额外训练专用分类器,也无需等待生成式模型输出完整答案。

此外,谷歌搜索也将Decisions API用于模型上下文协议(Model Context Protocol,MCP)工具的安全防护层,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提高检测效果。

二、响应延迟最低50毫秒,成本不到生成式模型的五分之一

在运行机制上,Gemini Decision 1与传统生成式模型有所不同。

传统生成式模型通常需要逐个生成Token,再组合成完整答案。Gemini Decision 1则直接对开发者预先设定的候选选项进行评分,通过一次模型向前计算返回概率和置信度,不需要逐个生成答案Token。

谷歌称,在包含智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

在最多16K Token的多模态输入场景下,该模型的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。当单次请求的问题数量从1个增加到100个时,响应延迟基本保持稳定。

成本方面,由于同一请求中的共享输入只计费一次,因此增加判断问题时,用户只需额外支付各问题对应的指令和评估标准所消耗的Token费用。

在双方共同参与的基准测试中,与通过Interactions API调用的Gemini 3.5 Flash-Lite相比,Gemini Decision 1搭配Decisions API的成本接近降低80%,约为Gemini 3.5 Flash-Lite的五分之一。

Gemini 3.5 Flash-Lite每百万输入Token收费0.3美元(约合人民币2.01元),每百万输出Token收费2.5美元(约合人民币16.75元)

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),不收取输出Token费用、额外的思考Token费用,以及单独的音频转写和OCR文字识别费用。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

在调用额度方面,Gemini Decisions API分为免费和付费两档。

免费版每分钟最多发起200次请求,每分钟最多处理5万个Token,每天最多发起1万次请求。

付费版每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费。在Tier 1等级下,每分钟最多发起1500次请求,每分钟最多处理100万个Token,每天最多发起5万次请求。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

三、开发者实测54次调用,100个问题耗时增加70%

个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)于11月11日发布了Gemini Decision 1的API实测结果。该开发者使用免费API密钥进行了54次调用,测试了模型的分类准确率、多语言处理能力、批量判断效率和结果稳定性。

在实际测试中,该开发者提交了30条客服工单,要求模型将工单分配至对应团队,30条工单全部正确分类。在多语言测试中,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,也全部给出了正确结果。

批量处理方面,该开发者分别测试了单次请求包含1个、10个和100个判断问题的情况。结果显示,处理1个问题和10个问题时,中位响应时间均为0.24秒;问题数量增加至100个后,响应时间上升至0.41秒,增加约70%。

对应的Token消耗也随问题数量增加而上升。单次处理1个问题消耗135个Token,10个问题消耗613个Token,100个问题消耗5473个Token。此外,相同请求重复提交5次,模型返回的结果和概率完全一致。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

这项测试还暴露出模型在处理异常输入时的一个问题。当输入内容不符合预设分类条件时,模型可能仍会强行选择已有选项。

例如,开发者向模型输入澳大利亚的首都、无意义的随机字符,以及一段要求创作秋天主题诗歌的文字,要求模型判断这些内容是否属于客服请求。

当开发者在候选选项中加入“其他”后,模型对三项输入均选择了“其他”,对应置信度分别为0.99、0.69和0.98。

但在没有设置“其他”选项时,模型将三项内容均错误归入技术支持类别,置信度分别达到0.71、0.64和0.84。对于是否属于客服请求这一是非判断,模型给出的概率也只有0.01、0.07和0.01。

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

可以看到,Gemini Decision 1虽然能够快速处理预设范围内的判断任务,但其结果仍然受到候选选项设计的影响。若开发者没有为异常输入设置兜底选项,模型可能将不符合分类条件的内容强行归入已有类别。

结语:谷歌将模型能力延伸至快速决策场景

从Gemini Decisions API的定位来看,谷歌正尝试在有一定竞争力的同时兼顾处理速度与调用成本。

对于需要频繁进行分类和工具选择的Agent应用来说,这类API提供了一种新的调用方式。随着Gemini Notebook、Stitch等谷歌内部产品陆续接入,其应用场景也在逐步拓宽。

未来,Gemini Decision 1能否在实际工作流中持续保持稳定的判断质量和处理效率,将影响这类API能否形成长期竞争优势。

来源:谷歌