AI工具

Google 推出 Gemini Decisions API 1秒內回答逾千個結構化決策 企業AI決策成本大降

Google宣布推出Gemini Decisions API,採用全新Gemini Decision 1模型,可在單一請求內同時評估高達1,000個預設選項問題,直接輸出每個選項的概率與信心分數,而毋須生成冗長文字,端到端延遲介乎150至250毫秒,每百萬輸入token僅收0.1美元。本文剖析其運作原理、與OpenAI同類服務的競爭,以及對香港企業在風險評估與自動化決策中的應用潛力。

Google於11月正式推出 Gemini Decisions API,為開發者提供一種全新的方式,讓AI應用程式處理日常決策——不是生成一段文字回應,而是直接輸出指定選項的概率與信心分數。這項服務建基於全新模型 Gemini Decision 1,允許開發者在單一請求內評估最多1,000個問題,而且毋須等待冗長的逐token生成,取而代之的是快速、結構化的決策結果。

Omdia首席分析師Lian Jye Su指出,這類專門的決策模型有潛力應用於政策與風險評估、以至信用評分等場景。更重要的是,這項發布正值OpenAI於10月推出競爭的Decisions API之後兩周,顯示「決策」已成為各大AI廠商爭奪企業市場的新戰場。

運作原理:答案不再是文字

傳統生成式AI模型會逐個token生成回覆,速度較慢之餘,亦難以直接嵌入需要即時判斷的程式中。Gemini Decision 1則採取截然不同的方法:開發者提供一段共享輸入(可以是文字、圖片、音訊或影片),並提交一系列載有預設選項的問題,模型便會為每個選項輸出一個概率與信心值,範圍介乎0至1。

Google指出,該API支援最多1,000個問題於單一請求內處理,並可處理包括圖片、音訊及影片在內的多模態輸入,上下文視窗最高達256,000 token。開發者可利用所得的信心分數,自行判斷應用程式應否自動繼續作業,還是將不確定的個案轉交人工審核。

API支援三類典型問題:二元判斷(如某條件是否成立)、多選決策(從2至255個預設選項中選擇),以及量表評分(按既定標準對輸入評級)。例如,應用程式可用它檢查發票有否載有增值稅號碼、判斷包裹是否損壞,或評估某訊息的緊急程度——每一項都帶有可在系統中記錄、調整及解釋的信心分數。

價格與效能:企業部署的最大賣點

效能方面,Google稱在測試中,端到端延遲介乎150至250毫秒,且處理1個至100個問題的表現保持相對穩定。定價上,API每百萬輸入token收費0.1美元,且不另外收取輸出token費用——共享輸入在每個請求中只計費一次,查詢愈多、攤分成本愈低。

對成本敏感又想追求低延遲的企業而言,這代表一個清晰訊號:常見的決策型AI應用的單位成本正大幅下降。Google更已率先將該技術用於自家產品——在Gemini Notebook內按請求複雜度把查詢路由至不同模型,令日常查詢的延遲最多降低40%;亦在Google搜尋內用於偵測涉及模型上下文協定(MCP)工具的對抗行為,顯示決策模型在安全驗證層面的應用潛力。

與OpenAI的直接競爭

Google推出此API,明顯是回應OpenAI於10月推出的同類Decisions API。OpenAI版本支援最多400個問題,Google則提升至1,000個;兩者標準定價相同(每百萬輸入token 0.1美元),且均不收取輸出token費用。差異在於多模態支援——Google的版本支援音訊與影片,比OpenAI更為全面。

不過分析師提醒,直接比較兩款產品可能並非重點,更重要的是各自能否配合企業現有的開發環境。Omdia的Su強調,開發者不應單看發布的基準數據,而應評估這些系統在實際營運條件下決策的可靠性:「真正的益處在於減少誤判、提升決策品質。」

對香港企業的啟示

一、自動化決策的門檻大降。 過往企業若要實現AI自動判斷(例如審批、分揀、風險初篩),往往需要訓練昂貴的專屬模型。如今可以近乎「即插即用」的API形式,以超低延遲與極低成本處理大量的重複性判斷。對香港金融、保險、物流等處理大量審批與檢查流程的行業,潛在應用空間廣闊。

二、信心分數帶來可管治性。 與傳統AI「給一個答案」不同,Gemini Decision 1輸出的是概率與信心值。企業可以設定信心門檻——明確的個案自動處理,含糊的個案轉交專人確認。這種設計較易融入合規流程,對需要清楚記錄決策依據的受監管行業尤其具吸引力。

三、風險仍然存在,管治不可或缺。 分析師警告,當輸入數據改變或被人為操控時,決策API仍可能產生錯誤判斷;即使返回信心分數,亦不代表其評估一定可信。因此,決策模型應連接載有歷史交易與企業既有政策的資料庫,配合一個受信任及安全的情境層(context layer)。此外,企業在引入AI自主決策的同時,亦需建立清晰的問責機制——正如Kadence International高級副總裁Tulika Sheel所強調:「隨着AI代理愈趨自主,企業需要為代表用戶所作的決策與行動承擔明確責任。」

結語

Gemini Decisions API的登場,標誌着AI競賽由生成「內容」,延伸至生成「判斷」。對香港企業而言,這項技術提供了一個低門檻、可量度的方式,讓AI由聊天工具升級為實際的商業決策流程。然而,正如任何革命性工具一樣,關鍵不在於技術能力本身,而在於企業能否以嚴謹的數據基礎、清晰的權限與完善的問責機制,將這項「決策能力」安全地嵌入業務之中。誰能率先做到,誰便能在新一輪的效率競賽中佔據優勢。