AI工具

AWS 推出 OpenSearch Memory:為 AI 代理加入持久記憶的無伺服器方案

AWS 於 11 月 18 日宣布 Amazon OpenSearch Memory 正式可用,這項建基於 OpenSearch Serverless 的新功能可為 AI 代理(Agent)提供跨工作階段的持久記憶,毋須自行搭建向量資料庫或記憶管線;在 LongMemEval-S 基準下把每題上下文 tokens 由 167,000 減至約 13,500,同時維持 93% 準確率。

AWS 於 11 月 18 日宣布 Amazon OpenSearch Memory 正式可用(GA),這是一項建基於 Amazon OpenSearch Serverless 的全新無伺服器功能,專為 AI 代理(AI Agent)提供持久記憶(persistent memory)。企業毋須自行佈建基礎設施或組裝提取、索引、整合與檢索系統,即可讓代理跨工作階段記住先前的互動、決策與用戶偏好,是雲端大廠針對「代理式 AI 落地最大痛點」的直接回應。

對正在開發客服機器人、內部 AI 助理或自動化代理的香港企業而言,記憶層長期以來是代理應用的「隱形工程」——不少團隊需要自行管理向量資料庫、編寫提取提示詞、處理記憶合併與淘汰策略。OpenSearch Memory 把整條管線收納為一項雲端服務,可能顯著降低企業自建 AI 代理的門檻與運維成本。

解決甚麼問題:代理沒有記憶的三大痛點

AI 代理的實用性,很大程度上取決於它能否記得「之前發生過甚麼」。現時企業代理常見的限制包括:客服代理記不起客戶未處理的個案與產品設定;程式開發代理需要重溫代碼庫慣例與早前決策;個人助理無法保留用戶偏好,用戶每次都要重複說明。

過去要把完整對話紀錄傳給模型,隨着歷史增長,處理速度越來越慢、成本越來越高,而且難以找出真正相關的資訊。傳統做法是自行搭建記憶系統——既要擷取事件、提取事實與摘要、生成向量嵌入、整合新舊記憶,還要處理數據隔離與保留政策,最後更需自行評估「檢索到的記憶有否改善代理回應」。OpenSearch Memory 將上述全部環節整合為一項無伺服器能力:應用程式每輪對話後寫入事件,產生回覆前搜尋相關記憶與事件,無需管理任何叢集或索引。

技術重點:事件、記憶與三種策略

OpenSearch Memory 的運作以「空間(Space)」為單位,每個空間包含事件(Events)與記憶(Memories):事件是應用程式寫入的原始互動紀錄,會逐字保存並於數秒內可供搜尋;記憶則由系統在背景非同步從事件中提取的事實、偏好與摘要。寫入與檢索路徑互相獨立,提取過程不影響代理回應速度。

記憶提取由 Amazon Bedrock 模型執行(預設採用 Claude Haiku 5.5,亦可指定 Claude Opus 5.5 等其他模型),並支援三種記憶策略:SEMANTIC(提取事實與偏好,例如「客戶偏好窗口位」)、SUMMARY(把整個工作階段總結並隨對話持續更新)、以及 CUSTOM(按企業自訂提示詞提取,例如「每張訂單編號及其狀態」)。每個空間最多可配置 10 個策略,從同一批事件中獨立提取。

系統內建記憶整合(Consolidation):當新記憶與既有記憶出現分歧時,會自動更新而非重複或矛盾。例如用戶先說「我住在西雅圖」,其後說「我搬去奧斯汀」,儲存的偏好會被更新而非兩者並存。保留期方面,事件可設定保留 1 至 365 天,記憶可由 1 天至 10 年或永久保留,過期自動清除。

實測數據:成本與準確率的平衡

AWS 以公開基準 LongMemEval-S(約 500 條問題,分散於單一用戶約 50 個對話工作階段)評估 OpenSearch Memory 的效能:

  • 配備記憶管線的代理,每條問題平均輸入約 13,500 個上下文 tokens,僅為完整對話紀錄(約 167,000 tokens)的約十二分之一。
  • 回答準確率維持 93.0%,對比使用完整紀錄的 95.2%,僅低 2.2 個百分點;對比僅用 BM25 關鍵字檢索(準確率 88.6%,每題約 22,700 tokens),則有明顯優勢。
  • 評估中,記憶檢索使用 Claude Haiku 5.5,回答模型為 Claude Opus 5.5,嵌入向量使用 Amazon Titan Text Embeddings。

換言之,企業可在大幅削減 token 成本的同時,保持接近「全量回放」的回答質素,這對 token 帳單敏感的企業尤其吸引。安全合規方面,空間數據以 AWS KMS 加密(支援客戶自備密鑰),所有 API 呼叫記錄於 AWS CloudTrail,並可透過 IAM 與 actor/session 級別限制隔離數據,配合 CloudWatch 監控指標。

可用性與整合:四個區域、支援 MCP

OpenSearch Memory 目前於四個 AWS 區域正式推出:美國東部(維珍尼亞北部、俄亥俄)、美國西部(俄勒岡)、歐洲(法蘭克福)及亞太(東京)。提取與嵌入費用已包含在 OpenSearch Memory 定價中,企業無須額外為模型呼叫付費。

整合方面,應用程式可透過 AWS SDK、Model Context Protocol(MCP)伺服器,或現成的 OpenSearch Memory 技能(支援 Kiro、Claude Code 與 Codex)連接,代理亦可透過 Hook 或支援的框架接入。對使用 Claude Code、Codex 等代理式編程工具的開發團隊,這代表可以在熟悉的工具鏈內,直接為代理加入跨工作階段的記憶。

對香港企業的啟示

一、代理應用的「記憶工程」門檻正在下降。 過往香港企業要為 AI 代理加入長期記憶,需要自行選擇向量資料庫、設計提取提示詞、處理記憶整合與過期策略,工程與運維成本不菲。.OpenSearch Memory 以雲端託管形式收納整條管線,讓中小企團隊也可快速為客服、銷售與內部助理代理加入記憶,專注於業務邏輯而非基礎設施。

二、成本效益是企業決策關鍵。 每題上下文由 167,000 tokens 減至約 13,500 tokens、準確率僅略降 2.2 個百分點的組合,直接回應企業對「代理運行成本失控」的憂慮。香港企業在規劃代理規模化部署時,可參考此類數據評估記憶層的投資回報,並以自家對話數據作小規模試點驗證。

三、合規與數據主權仍是部署前提。 雖然東京區域可降低亞洲客戶的延遲,但企業仍須審視數據所在地、KMS 加密與 CloudTrail 審計是否滿足自身合規要求。香港金融、醫療等受監管行業在採用雲端記憶功能時,應清晰界定敏感數據的保留期、存取權限與刪除機制,並善用按 actor/session 隔離的權限設計。

四、MCP 生態令代理工具鏈加速標準化。 支援 MCP 伺服器與 Claude Code/Codex 技能,反映代理工具的生態正以統一協議快速整合。香港開發團隊投資於理解 MCP 等開放標準,將有助降低未來工具供應商切換的成本,並讓內部代理更易與外部服務互通。

結語

Amazon OpenSearch Memory 的正式可用,標誌着「代理式 AI」由架構概念轉向可部署基礎設施的重要一步:它以無伺服器形式解決了代理最棘手的記憶問題,並以「成本削至十二分之一、準確率僅微降」的實測數據,回應企業對代理應用成本效益的疑慮。對香港企業而言,這項服務的意義在於降低了代理落地的工程門檻——當記憶層變成「開箱即用」,企業競爭的焦點將重新回到業務場景設計與數據質素,而非基礎設施搭建。隨着 AWS、Google 與其他雲端廠商相繼推出同類能力,2026 年可望成為企業 AI 代理從試點走向規模化的轉折年。