谷歌推出Gemini决策API以实现快速决策

11月11日，Google推出了基于Gemini Decision 1模型的Gemini Decisions API。与典型的生成系统不同，该服务不生成响应，而是评估预定义的操作选项并返回其概率。开发者可以使用它在AI模型之间分配请求、检查规则以及在代理操作中选择工具。

Gemini Decision 1的工作原理

在一次调用中，API接受一个通用数据集和最多1,000个独立问题。该模型在262,144个token的上下文中分析文本、图像、音频、视频和PDF。它支持三种类型的决策：是/否回答、多项选择和给定尺度的评估。每个结果都附有置信度评分，使有争议的案例可以被引导进行进一步审查。

新API的速度和成本

Google设定的价格为每百万输入token $0.10，不对输出token收费，因为模型在操作期间不生成它们。通用输入数据只计算一次，但每个问题的指令会增加token的使用。根据公司的自测数据，在最多16,000个token的上下文中，处理从请求到响应耗时150–250毫秒，并且当问题数量从1增加到100时，延迟几乎保持不变。这些数据不保证任何数据量的相同速度。

测试结果和服务可用性

在JevBench试验中，根据Google的数据，该模型得分为92.2%，概率校准误差为0.0250。然而，在When2Call测试中，它落后于TypeSafe Jev 1.14，因此不能说在所有任务中都表现出色。在Google内部，新API已用于Gemini Notebook中的请求路由，公司报告日常请求延迟减少了40%。开发者可以通过Gemini API和Google AI Studio访问预览版，包括用于测试的免费计划。