AI 閘道功能

本頁面適用於 Apigee 和 Apigee Hybrid。

查看 Apigee Edge 說明文件。

代理必須能存取企業 API 等高品質工具,才能有效運作。除了傳統的 API 管理功能,Apigee 還提供 AI 閘道相關功能,可控管及最佳化 AI 流量,同時將現有服務轉換為可供代理使用的工具。

Apigee 可保護、管理及擴充代理系統的 API:

  • 最佳化及控管流量:強制執行 AI 閘道控管機制,保護流量和工具免受安全漏洞影響,同時強制執行法規遵循政策。確保 LLM 流量經過最佳化,能有效率且符合成本效益地運作。
  • 將 API 轉化為工具:將現有 API 轉化為代理最佳化工具,不需編寫新程式碼,代理就能安全地探索企業 API 並與其互動。
  • 啟用整合功能:確保其他代理平台可偵測到您的 API 和工具。

管理及保護

教學課程

建構完整的 AI 閘道,結合 Model Armor、跨供應商模型路由、語意快取和自動備用機制。

教學課程

瞭解如何保護系統免受提示詞注入攻擊,並在不當內容傳送給使用者或模型前加以篩除。

指南

新增 OAuth V2 安全性政策,確保所有傳送至 MCP Proxy 的要求都經過驗證和授權。

指南

運用 Apigee 對 MCP 的 JSON-RPC 支援,更精細地強制執行政策。

最佳化並降低成本

指南

根據彈性的政策導向路由規則,將要求轉送至不同模型,滿足各種用途。

教學課程

針對語意相似的查詢提供快取回應,降低成本並縮短回應延遲時間。

教學課程

設定配額和頻率限制,確保應用程式不會超過權杖配額,並維持平台穩定性。

總覽

依模型和應用程式追蹤 LLM 詞元用量,以便管理成本。在 API 深入分析中,監控模型延遲時間、錯誤率和 MCP 工具效能。

將 API 轉譯為工具

指南

自動為 API 生成豐富的說明、結構定義和說明文件,讓開發人員、API 使用者和代理更容易使用。

總覽

允許 AI 助理和代理安全地探索及叫用 API 做為工具。

指南

直接在 API 中心匯入、註冊及管理 MCP API 和相關聯的工具。

教學課程

使用 API 中心整理及管理代理技能,確保代理能輕鬆找到並重複使用這些技能。

啟用整合功能

指南

自動將工具和伺服器中繼資料同步至 Agent Registry。

指南

使用自然語言搜尋 API 中心。代理也能使用語意搜尋功能,在 API 中心尋找 API。

指南

將 Apigee 政策套用至非 Apigee Proxy 前端的流量,包括 AI 代理的模型和 MCP 工具呼叫。

指南

管理 Dialogflow 與 Contact Center AI 後端服務之間的互動。

後續步驟