離開
進入Google 推 Gemini Decisions API 一次可判斷千道問題、每百萬 Token僅 0.1美元
Google DeepMind 11月11日推出 Gemini Decisions API，搭配專門處理分類與選項判斷的新模型 Gemini Decision 1。與一般聊天機器人不同，這款模型不會逐字生成回答，而是直接分析使用者提供的資料，計算各個選項的機率及信心分數。Google 宣稱，完成一次判斷的端到端延遲約150至250毫秒，每百萬輸入 token 收費僅0.1美元，不另外計算輸出 token 費用，主要訴求對象是需要大量自動判斷的應用程式與 AI 代理系統。Gemini Decision 1 採用封閉式決策架構，開發者必須先設定問題與候選答案，模型再從中作出判斷。支援的題型包括是非判定、多選題及依照指定標準評分。例如客服系統收到一封客訴郵件，可以判斷是否涉及退款、應由哪個部門處理，以及事件的緊急程度。每項結果都會附上0至1的信心分數，程式可將判斷不明確的案件轉交其他模型或人工客服。
這套 API 也支援文字、圖片、音訊、影片及 PDF 等多模態資料，單次請求的共享輸入上限為26.2萬 token，最多能同時提出1000道獨立問題。開發者可以將客服通話錄音與帳戶資料一起送入模型，或搭配商品照片和文字說明進行審核，不必為每個判斷重新傳送相同資料。多選題可設定2至255個候選項目，量表評分則能依事先定義的等級產生分數。
回應速度也是 Google 這次強調的另一項優勢。根據官方測試，在輸入長度不超過16K token 的條件下，Gemini Decision 1 的模型運算時間中位數約50至100毫秒，加上 API 傳輸及其他處理程序，整體延遲約150至250毫秒。當單次請求的問題數量從1道增加至100道，處理時間也沒有明顯上升。不過，Google 尚未提供完整256K輸入或1000道問題同時執行時的相同效能保證。
計價方面則相當便宜，Gemini Decision 1 每百萬輸入 token 僅收費0.1美元，輸出費用為零（因為只有簡單的回答），也不另外收取思考 token、音訊轉錄及文字辨識費用。同一份資料可以供多道問題共用，只計算一次共享輸入成本，但各題附加的指令與判斷條件仍會計入用量。Google 表示，在內部比較的測試項目中，這套 API 的成本約為 Gemini 3.5 Flash-Lite 搭配 Interactions API 的五分之一。
目前 Google 內部已有產品開始採用這項技術。Gemini Notebook 已經使用 Decisions API 判斷問題的複雜程度，再決定應交由哪個模型及推理等級處理。Google 宣稱，一般查詢的延遲最多可降低40%，較困難的問題則保留給高階模型。Google Labs 的 CC 助理也利用這套系統，從超過200種表情符號中挑選適合的回應；Google 搜尋團隊則將它用於 MCP 工具的安全檢查，協助辨識可疑內容與操作要求。除了 Google 自家產品，開發者也能將 Gemini Decision 1 用於模型路由、資料分類、政策檢查及內容審核等工作。這些任務通常不需要 AI 撰寫一段完整說明，只需根據固定條件給出判斷結果。對大量使用 AI 代理的服務而言，若每次選擇工具、檢查輸入或決定後續流程都要呼叫一般生成式模型，便可能增加不必要的等待時間與運算成本。
Gemini Decisions API 已透過 Google AI Studio 的 Gemini API 開放，模型代號為「gemini-decision-1」，並提供免費額度供開發者測試。Google 同時與 Vercel、OpenRouter、LangChain、LiteLLM 等開發平台展開整合，後續也將支援 Google Cloud 的 Gemini 服務。不過，這款模型只負責對既定選項進行判斷，無法取代一般生成式模型撰寫文章、產生程式碼或回答開放式問題；對於需要高度準確性的應用，開發者仍須自行設定信心分數門檻與人工覆核機制。
