Google Presenta la API de Decisiones Gemini para la Toma de Decisiones Rápida

El 11 de noviembre, Google presentó la API Gemini Decisions basada en el modelo Gemini Decision 1. A diferencia de los sistemas generativos típicos, el servicio no genera respuestas, sino que evalúa opciones de acción predefinidas y devuelve sus probabilidades. Los desarrolladores pueden usarlo para distribuir solicitudes entre modelos de IA, verificar reglas y seleccionar herramientas en operaciones de agentes.

Cómo funciona Gemini Decision 1

En una sola llamada, la API acepta un conjunto de datos general y hasta 1,000 preguntas independientes. El modelo analiza texto, imágenes, audio, video y PDFs dentro de un contexto de 262,144 tokens. Soporta tres tipos de decisiones: respuestas de sí/no, selección de opción múltiple y evaluación en una escala dada. Cada resultado va acompañado de una puntuación de confianza, permitiendo que los casos controvertidos se dirijan a una revisión adicional.

Velocidad y costo de la nueva API

Google ha establecido un precio de $0.10 por millón de tokens de entrada, sin cobrar por los tokens de salida, ya que el modelo no los genera durante la operación. Los datos de entrada generales se cuentan una vez, pero las instrucciones para cada pregunta aumentan el uso de tokens. Según las propias mediciones de la compañía, con un contexto de hasta 16,000 tokens, el procesamiento tomó de 150 a 250 ms desde la solicitud hasta la respuesta, y la latencia se mantuvo casi sin cambios cuando el número de preguntas aumentó de 1 a 100. Estas cifras no garantizan la misma velocidad para cualquier volumen de datos.

Resultados de prueba y disponibilidad del servicio

En la prueba JevBench, el modelo obtuvo un 92.2%, con un error de calibración de probabilidad de 0.0250, según datos de Google. Sin embargo, en la prueba When2Call, quedó rezagado respecto a TypeSafe Jev 1.14, por lo que no se puede decir que sobresalga en todas las tareas. Dentro de Google, la nueva API ya se utiliza para enrutar solicitudes en Gemini Notebook, donde la compañía informa una reducción en la latencia de solicitudes diarias del 40%. Los desarrolladores tienen acceso a una versión preliminar a través de la API Gemini y Google AI Studio, incluyendo un plan gratuito para pruebas.