Ein KI-Agent muss nicht jede Frage in einem Satz beantworten. Oft soll er nur entscheiden, welches Werkzeug er als Nächstes nutzt, ob ein Vorgang geprüft werden muss oder in welche Warteschlange eine Anfrage gehört. Für solche Aufgaben hat Google am 11. November die Gemini Decisions API vorgestellt. Der neue Endpunkt nutzt das Modell Gemini Decision 1 und gibt strukturierte Bewertungen statt frei formuliertem Text zurück.
Eine Eingabe, mehrere unabhängige Fragen
Die API verarbeitet Text, Bilder, Audio, Video und PDF-Dokumente. Entwickler übergeben eine gemeinsame Eingabe und können dazu bis zu 1.000 Fragen stellen. Das Modell bewertet jede Frage unabhängig anhand dieser Eingabe; eine Antwort dient also nicht automatisch als Kontext für die nächste. Als Fragetypen bietet Google Ja-Nein-Prüfungen (noul), die Auswahl aus vorgegebenen Möglichkeiten (choice) und Bewertungen auf einer geordneten Skala (score) an. Bei Auswahlfragen sind zwei bis 255 Optionen möglich. Die Modellübersicht nennt ein Eingabelimit von 262.144 Token.
Der Unterschied zu einem üblichen Chatmodell liegt im Ausgabeweg. Nach Googles technischer Beschreibung bewertet Gemini Decision 1 die vorgegebenen Optionen in einem Durchlauf, statt Antworttext Token für Token zu erzeugen. Eine Auswahlfrage liefert die wahrscheinlichste Option samt Wahrscheinlichkeiten für die Alternativen. Bei einer Skalenfrage bildet die API aus den Wahrscheinlichkeiten einen gewichteten Wert über die Stufen. Das ist etwa für die Priorisierung eingehender Vorgänge nützlich: Die Anwendung kann Ergebnisse sortieren, ohne zuerst eine frei formulierte Antwort auswerten zu müssen.
Ein Beispiel wäre eine Schadensmeldung mit Foto und Begleittext. Die Anwendung könnte gleichzeitig prüfen, ob auf dem Bild überhaupt ein Schaden erkennbar ist, eine Bearbeitungskategorie auswählen und dessen Schwere nach festgelegten Kriterien einschätzen. Die Fragen sehen zwar dieselbe Eingabe, können ihre Antworten aber nicht gegenseitig berücksichtigen. Wenn eine Kategorie erst nach einer positiven Schadensprüfung sinnvoll ist, muss die Anwendung diese Abhängigkeit selbst abbilden oder eine zweite Anfrage senden.
Wo Geschwindigkeit und Kosten herkommen
Google nennt für seine Messungen 150 bis 250 Millisekunden Ende-zu-Ende-Latenz; die im Ankündigungsbeitrag näher beschriebene Latenzmessung bezieht sich auf Eingaben bis 16.000 Token und bis zu 100 Fragen. Daraus folgt nicht, dass ein voll ausgenutztes Kontextfenster oder 1.000 Fragen ebenso schnell beantwortet werden. Auch die veröffentlichten Vergleiche zur Qualität und Kalibrierung stammen zunächst von Google; für andere Daten und Aufgaben müssen Teams selbst messen.
Der angekündigte Preis beträgt 0,10 US-Dollar je Million Eingabetoken, ohne berechnete Ausgabetoken. Die gemeinsame Eingabe wird innerhalb einer Anfrage einmal abgerechnet, während die Anweisungen und Kriterien jeder einzelnen Frage zusätzliche Eingabetoken verbrauchen. Wer viele Regeln auf denselben Inhalt anwendet, kann die Eingabe dadurch gemeinsam nutzen. Anders sieht es bei wiederholten Anfragen aus: Laut Dokumentation unterstützt der Endpunkt weder Kontext-Caching noch die Batch API. Dieselbe Eingabe wird dann erneut berechnet und abgerechnet.
Entscheidungen brauchen eine Rückfallregel
Für die Integration zählt nicht nur, welche Option oben steht. Die API liefert auch einen Konfidenzwert; bei Ja-Nein-Fragen ist das der höhere der beiden Ergebniswahrscheinlichkeiten. Er ersetzt keine Prüfung am eigenen Datenbestand. Entwickler sollten Schwellenwerte mit gelabelten Beispielen festlegen und Fälle mit geringer Sicherheit an eine andere Prüfung oder an Menschen weitergeben. Auswahlfragen verteilen ihre Wahrscheinlichkeit zudem immer auf die angebotenen Optionen – selbst wenn keine passt. Eine ausdrücklich beschriebene Option „Sonstiges“ oder eine gesonderte Prüfung, ob der Fall überhaupt in den Anwendungsbereich fällt, kann solche Fehlzuordnungen sichtbar machen.
Gerade bei Richtlinienprüfungen und agentischen Werkzeugaufrufen sollten Teams außerdem manipulierte Eingaben testen: Ein eingereichter Text kann versuchen, seine eigene Einstufung zu beeinflussen. Die API-Dokumentation empfiehlt dafür klare Kriterien und zusätzliche Kontrollen bei Entscheidungen mit hohen Folgen. Sie nennt auch technische Grenzen: Der Endpunkt ist auf der Gemini Developer API über v1beta und mit Gemini Decision 1 verfügbar; Gesprächsverläufe sowie Tool-Call- und Thought-Blöcke lassen sich nicht direkt als Eingabeblöcke übergeben. Die im Blog angekündigte Unterstützung für Gemini in Google Cloud steht noch aus.
Fazit
Gemini Decisions API ist für Anwendungen interessant, die viele klar definierte Entscheidungen über dieselben Inhalte treffen müssen. Sie nimmt Entwicklern das Parsen generierter Antworten ab und kann multimodale Klassifikation in Agentenabläufe einbauen. Ob sie gegenüber einem herkömmlichen Modell oder einem spezialisierten Klassifikator tatsächlich schneller, günstiger und zuverlässig genug ist, entscheidet aber der Test mit den eigenen Daten, Entscheidungsregeln und Fehlerkosten.