このドキュメントでは、 Google Cloudで単一エージェント AI システムを設計する際に役立つリファレンス アーキテクチャについて説明します。このアーキテクチャの単一エージェント システムは、Agent Development Kit（ADK）を使用して構築され、Cloud Run にデプロイされます。エージェントは、Vertex AI Agent Engine または Google Kubernetes Engine（GKE）にデプロイすることもできます。このアーキテクチャでは、Model Context Protocol（MCP）が使用されています。これにより、エージェントは複数のソースから情報にアクセスして処理し、コンテキストに富んだ分析情報を提供できます。
このドキュメントは、AI アプリケーションのアーキテクト、デベロッパー、管理者を対象としています。このドキュメントは、AI、ML、大規模言語モデル（LLM）のコンセプトに関する基本的な知識があることを前提としています。また、AI エージェントとモデルに関する基本的な知識があることも前提としています。このドキュメントでは、AI エージェントの設計とコーディングに関する具体的なガイダンスは提供していません。
このドキュメントのデプロイ セクションには、単一エージェント AI システムの構築とデプロイの方法を学ぶために使用できるコードサンプルが記載されています。
アーキテクチャ
次の図は、Cloud Run にデプロイされた単一エージェント AI システムのアーキテクチャを示しています。
アーキテクチャ コンポーネント
このアーキテクチャ例は、次のコンポーネントで構成されています。
| コンポーネント | 説明 |
|---|---|
| フロントエンド | ユーザーは、サーバーレスの Cloud Run サービスとして実行されるチャット インターフェースなどのフロントエンドを介してエージェントとやり取りします。 |
| エージェント | エージェントはユーザーのリクエストを受け取り、ユーザーの意図を解釈し、適切なツールを選択して、情報を合成してクエリに回答します。 |
| エージェント ランタイム | エージェントは ADK を使用して構築され、サーバーレス Cloud Run サービスとしてデプロイされます。エージェントを Vertex AI Agent Engine にデプロイすることも、GKE 上のコンテナ化されたアプリとしてデプロイすることもできます。エージェント ランタイムの選択方法については、エージェント AI アーキテクチャ コンポーネントを選択するをご覧ください。 |
| ADK | ADK は、エージェントの開発、テスト、デプロイを行うためのツールとフレームワークを提供します。ADK はエージェント作成の複雑さを抽象化し、AI デベロッパーがエージェントのロジックと機能に集中できるようにします。ADK を使用してエージェントを開発する際に、Google 検索などの組み込みツールにアクセスして使用するようにエージェントを構成できます。 |
| AI モデルとモデル ランタイム | 推論サービングの場合、このサンプル アーキテクチャのエージェントは Vertex AI の Gemini AI モデルを使用します。 |
| MCP ツールボックス | MCP Toolbox for Databases には、エージェント用のデータベース固有のツールが用意されています。接続プーリングや認証などの複雑な処理に対応できます。 |
| MCP クライアント、サーバー、ツール | MCP は、エージェントとツール間のやり取りを標準化することで、ツールへのアクセスを容易にします。エージェントとツールのペアごとに、MCP クライアントは MCP サーバーにリクエストを送信します。このサーバーを介して、エージェントはファイル システムや API などのツールにアクセスします。たとえば、StackOverflow LangChain ツールや Google 検索ツールなどの外部ツールは、データとグラウンディングを提供できます。 |
| オブザーバビリティ | エージェントは、ロギング、モニタリング、トレースに Google Cloud Observability を使用してモニタリングされます。 |
エージェント フロー
上記のアーキテクチャの単一エージェント システムの例には、次のフローがあります。
- ユーザーが、サーバーレスの Cloud Run サービスとして実行されるチャット インターフェースなどのフロントエンドを介してプロンプトを入力します。
- フロントエンドはプロンプトをエージェントに転送します。
- エージェントは AI モデルを使用してユーザーのプロンプトを推論し、レスポンスを合成します。
- AI モデルは、コンテキスト情報を収集したりタスクを実行したりするために使用するツールを決定します。
- エージェントがツール呼び出しを実行し、レスポンスをコンテキストに追加します。
- エージェントはグラウンディングと中間検証を行います。
使用するプロダクト
このリファレンス アーキテクチャでは、次の Google Cloud プロダクトとオープンソースのプロダクトとツールを使用します。
- Cloud Run: Google のスケーラブルなインフラストラクチャ上でコンテナを直接実行できるマネージド コンピューティング プラットフォーム。
- Gemini: Google が開発したマルチモーダル AI モデルのファミリー。
- Vertex AI: ML モデルと AI アプリケーションのトレーニングとデプロイを行い、AI を活用したアプリケーションで使用する LLM をカスタマイズできる ML プラットフォーム。
- Model Context Protocol（MCP）: AI アプリケーションを外部システムに接続するためのオープンソース標準。
- データベース向け MCP ツールボックス: 接続プーリング、認証、オブザーバビリティなどのデータベースの複雑さを管理することで、AI エージェントがデータベースに安全に接続できるようにするオープンソースの Model Context Protocol（MCP）サーバー。
- Google Cloud Observability: アプリケーションの動作、健全性、パフォーマンスの把握に役立つ Cloud Monitoring、Cloud Logging、Cloud Trace などのオブザーバビリティ サービス。
ユースケース
このセクションでは、このドキュメントで説明するアーキテクチャのユースケースについて説明します。
バグレポートの自動トリアージ
このリファレンス アーキテクチャを適応させて、受信したバグレポートのトリアージを自動化できます。つまり、問題を理解し、重複を検索し、関連する技術的コンテキストを収集してから、システムにバグを作成します。AI を活用したエージェントは、初期調査を実行できるインテリジェント アシスタントとして機能し、人間の専門家がより複雑な問題解決に集中できるようにします。
このユースケースでは、このアーキテクチャには次のメリットがあります。
- 解決時間の短縮: エージェントは初期調査とコンテキスト収集を自動化するため、バグチケットの割り当てと解決にかかる時間を大幅に短縮できます。
- 精度と一貫性の向上: エージェントは、複数のデータソース（内部データベース、コード リポジトリ、公開ウェブ）を体系的に検索できます。この機能により、手動トリアージよりも包括的で一貫性のある分析が可能になります。
- 手作業の削減: エージェントは、IT サポート チームとエンジニアリング チームから反復的なトリアージ タスクをオフロードできるため、チームはより価値の高い作業に集中できます。
このアーキテクチャは、ソフトウェアを開発し、バグ解決プロセスの効率と有効性を改善したい組織に最適です。詳細とデプロイ オプションについては、ソフトウェア バグ アシスタント - ADK Python サンプル エージェントとエージェントを作り上げるツール: ADK を使用してゼロからアシスタントを作成をご覧ください。
カスタマー サービス
このリファレンス アーキテクチャを適応させて、シームレスでパーソナライズされたショッピング エクスペリエンスを顧客に提供できます。AI を活用したエージェントは、カスタマー サービス、商品の推奨、注文の管理、サービスのスケジュール設定を行うことができるため、人間の担当者は他のタスクに集中できます。
このユースケースでは、このアーキテクチャには次のメリットがあります。
アップセルとプロモーション: エージェントは、商品、サービス、プロモーションを提案することで、販売促進を支援できます。エージェントの提案は、お客様の現在の注文と関連する販売、お客様の注文履歴、カート内の商品に基づいています。
注文の管理とスケジューリング: エージェントは、お客様のショッピング カートの内容を管理し、サービスのセルフ スケジューリングを容易にすることで、効率を高め、お客様の不満を軽減できます。
手動による作業負荷の軽減: エージェントが一般的な問い合わせ、注文、スケジューリングを処理するため、人間のカスタマー サービス エージェントはより複雑な顧客の問題に集中できます。
このアーキテクチャは、カスタマー エクスペリエンスの向上、売上の増加、注文管理とスケジュールの簡素化を目指す小売組織に最適です。詳細とデプロイ オプションについては、Cymbal Home & Garden カスタマー サービス エージェントをご覧ください。
時系列予測
このリファレンス アーキテクチャは、需要予測、トラフィック パターンの予測、機械の故障分析と予測などの結果を予測するのに役立つように調整できます。AI を活用したエージェントは、リアルタイム データ、過去の傾向、今後のイベントを分析できます。エージェントは、これらの分析を使用して、指定された期間の結果を予測できます。これらの予測は、計画の策定に役立ち、データ アナリストが費やす時間を短縮できます。
このユースケースは、次のようなさまざまなシナリオで組織にメリットをもたらします。
- 在庫管理: エージェントは、高度な分析と過去の販売データや市場トレンドを組み合わせて、顧客の需要の急増や低迷に備えることができるように、補充注文の計画を立てるお手伝いをします。
- 移動ルート: エージェントは、リアルタイムの交通パターンと過去の交通パターン、工事や道路閉鎖などのイベントを分析することで、配送業者やサービス プロバイダの移動時間を短縮し、移動コストを削減できます。
- 停止を回避する: エージェントは、過去の停止の根本原因を特定することで、サービスの中断を回避するのに役立ちます。また、将来の潜在的な障害状態を予測して、問題が発生する前に緩和することもできます。
このアーキテクチャは、確立された傾向に基づいて変化するパターンに適応する必要がある組織に最適です。また、顧客が将来の計画に役立つ事前対応型の分析情報を活用できる組織にも最適です。詳細とデプロイ オプションについては、Google の ADK と MCP ツールボックスを使用した時系列予測エージェントをご覧ください。
ドキュメントの取得
このリファレンス アーキテクチャを適応させて Vertex AI RAG Engine を使用し、コンテキスト データの取得を管理するエージェントを作成できます。ドキュメント取得エージェントは、厳選されたドキュメントのセットから関連データを取得し、ソース資料への引用を含む事実に基づいた回答を提供できます。
ドキュメント取得エージェントを使用すると、顧客や内部ユーザーがクエリに対して情報に基づいたコンテキスト認識型の回答を得られるようになります。この実装により、検証済みの情報に基づいて回答が生成されるため、間違いや不正確さを減らすことができます。
ドキュメント取得アーキテクチャは、ポリシーとプロセス、技術インフラストラクチャ、プロダクトの機能、その他の事実に基づくドキュメントに関するナレッジベースに最適です。検索拡張生成（RAG）を利用したドキュメント検索エージェントを開発する方法については、ドキュメント検索エージェントをご覧ください。
代替案を設計する
このセクションでは、 Google Cloudでの AI エージェントのデプロイで検討できる代替の設計アプローチについて説明します。
エージェント ランタイム
このドキュメントで説明するアーキテクチャでは、エージェントとそのツールが Cloud Run にデプロイされます。GKE または Vertex AI Agent Engine を代替ランタイムとして使用することもできます。エージェント ランタイムの選択方法については、「エージェント AI アーキテクチャ コンポーネントを選択する」の エージェント ランタイムをご覧ください。
AI モデルのランタイム
このドキュメントで説明するアーキテクチャでは、AI モデルのランタイムは Vertex AI です。Cloud Run または GKE を代替ランタイムとして使用することもできます。モデル ランタイムの選択方法については、「エージェント AI アーキテクチャ コンポーネントを選択する」の モデル ランタイムをご覧ください。
設計上の考慮事項
このセクションでは、このリファレンス アーキテクチャを使用して、セキュリティ、信頼性、費用、運用効率、パフォーマンスに関する特定の要件を満たすアーキテクチャを開発するためのガイダンスを示します。
システム設計
このセクションでは、デプロイに使用する Google Cloud リージョンの選択と、適切な Google Cloud プロダクトとツールの選択に役立つガイダンスを示します。
リージョンの選択
AI アプリケーションの Google Cloud リージョンを選択する場合は、次の要素を考慮してください。
- 各リージョンでの Google Cloud サービスの可用性。
- エンドユーザーのレイテンシ要件。
- Google Cloud リソースの費用。
- 規制要件
アプリケーションに適した Google Cloud ロケーションを選択するには、次のツールを使用します。
- Google Cloud リージョン選択ツール: 温室効果ガス排出量、費用、レイテンシなどの要因に基づいて、アプリケーションとデータに最適な Google Cloudリージョンを選択するためのインタラクティブなウェブベースのツール。
- Cloud Location Finder API: Google Cloud、Google Distributed Cloud、その他のクラウド プロバイダのデプロイ ロケーションをプログラムで検索する方法を提供するパブリック API。
エージェントの設計
このセクションでは、AI エージェントの設計に関する一般的な推奨事項について説明します。エージェントのコードとロジックの作成に関する詳細なガイダンスは、このドキュメントの範囲外です。
| デザインの焦点 | 推奨事項 |
|---|---|
| エージェントの定義と設計 |
|
| エージェントとのやり取り |
|
| コンテキスト、ツール、データ |
|
メモリとセッション ストレージ
このドキュメントに示すサンプル アーキテクチャには、メモリ ストレージやセッション ストレージは含まれていません。本番環境では、状態とメモリをエージェントに統合することで、レスポンスを改善し、パーソナライズを追加できます。
- セッション: セッションは、ユーザーとエージェント間の会話スレッドです。最初のやり取りから会話の終了までを指します。
- 状態: 状態は、エージェントが特定のセッション内で使用および収集するデータです。収集される状態データには、ユーザーとエージェントがやり取りしたメッセージの履歴、ツール呼び出しの結果、会話のコンテキストを理解するためにエージェントが必要とするその他の変数が含まれます。
ADK は、Session オブジェクトと state 属性を使用して、短期記憶内のセッションを追跡できます。ADK は、Memory Bank を介して、同じユーザーのセッション間で長期記憶もサポートしています。セッションの状態を保存するには、Memorystore for Redis などのサービスを使用することもできます。
エージェントのメモリ オプションについては、エージェント AI アーキテクチャ コンポーネントを選択するをご覧ください。
セキュリティ
このセクションでは、ワークロードのセキュリティ要件を満たす Google Cloud のトポロジを設計するための設計上の考慮事項と推奨事項について説明します。
| コンポーネント | 設計上の考慮事項と推奨事項 |
|---|---|
| エージェント |
AI エージェントは、従来の決定論的なセキュリティ対策では十分に軽減できない、特有の重大なセキュリティ リスクをもたらします。Google は、決定論的なセキュリティ制御と動的な推論ベースの防御の強みを組み合わせたアプローチを推奨しています。このアプローチは、人間の監督、慎重に定義されたエージェントの自律性、オブザーバビリティという 3 つの基本原則に基づいています。以下に、これらの基本原則に沿った具体的な推奨事項を示します。 人間による監督: エージェント AI システムは、失敗したり、期待どおりに動作しないことがあります。たとえば、モデルが不正確なコンテンツを生成したり、エージェントが不適切なツールを選択したりする可能性があります。ビジネスに不可欠なエージェント AI システムでは、人間参加型フローを組み込んで、人間の監督者がエージェントをモニタリング、オーバーライド、一時停止できるようにします。たとえば、人間のユーザーはエージェントの出力を確認し、出力を承認または拒否して、エラーを修正したり戦略的な意思決定を行ったりするためのガイダンスを提供できます。このアプローチでは、エージェント AI システムの効率性と、人間のユーザーの批判的思考とドメインの専門知識を組み合わせます。 エージェントのアクセス制御: Identity and Access Management（IAM）コントロールを使用して、エージェントの権限を構成します。各エージェントには、タスクの実行とツールや他のエージェントとの通信に必要な権限のみを付与します。このアプローチにより、侵害されたエージェントがシステム内の他の部分にアクセスできる範囲が制限されるため、セキュリティ侵害の影響を最小限に抑えることができます。詳細については、エージェントの ID と権限を設定するとデプロイされたエージェントのアクセスを管理するをご覧ください。 モニタリング: 包括的なトレース機能を使用してエージェントの動作をモニタリングします。これにより、エージェントが実行するすべてのアクション（推論プロセス、ツールの選択、実行パスなど）を把握できます。詳細については、Vertex AI Agent Engine でのエージェントのロギングと ADK でのロギングをご覧ください。 AI エージェントの保護の詳細については、AI エージェントの安全性とセキュリティをご覧ください。 |
| Vertex AI |
責任の共有: セキュリティは共有責任です。Vertex AI は基盤となるインフラストラクチャを保護し、データ、コード、モデルを保護するためのツールとセキュリティ管理を提供します。サービスを適切に構成し、アクセス制御を管理し、アプリケーションを保護する責任はお客様にあります。詳細については、 Vertex AI の共有責任をご覧ください。 セキュリティ管理: Vertex AI は、データ所在地、顧客管理の暗号鍵（CMEK）、VPC Service Controls を使用したネットワーク セキュリティ、アクセスの透明性の要件を満たすために使用できる Google Cloud セキュリティ管理をサポートしています。詳細については、次のドキュメントをご覧ください。 安全性: AI モデルは、有害な回答を生成する可能性があります。悪意のあるプロンプトに応答することもあります。
モデルへのアクセス: 組織のポリシーを設定して、 Google Cloud プロジェクトで使用できる AI モデルのタイプとバージョンを制限できます。詳細については、Model Garden モデルへのアクセスを制御するをご覧ください。 データ保護: プロンプトとレスポンス、ログデータ内の機密データを検出して匿名化するには、Cloud Data Loss Prevention API を使用します。詳細については、AI アプリでの機密データの保護をご覧ください。 |
| MCP | MCP を使用するようにエージェントを構成する場合は、外部データとツールへのアクセスが承認されていることを確認し、暗号化などのプライバシー制御を実装し、フィルタを適用して機密データを保護し、エージェントのインタラクションをモニタリングします。詳細については、MCP とセキュリティをご覧ください。 |
| A2A |
トランスポート セキュリティ: A2A プロトコルでは、本番環境のすべての A2A 通信に HTTPS を使用することが義務付けられており、Transport Layer Security（TLS）バージョン 1.2 以降を使用することが推奨されています。 認証: A2A プロトコルは、HTTP ヘッダーなどの標準のウェブ メカニズムや、OAuth2 や OpenID Connect などの標準に認証を委任します。各エージェントは、エージェントカードで認証要件をアドバタイズします。詳細については、A2A 認証をご覧ください。 |
| Cloud Run |
上り（内向き）セキュリティ（フロントエンド サービスの場合）: アプリケーションへのアクセスを制御するには、フロントエンド Cloud Run サービスのデフォルトの ユーザー認証:
詳細については、ユーザーの認証をご覧ください。 コンテナ イメージのセキュリティ: 承認済みのコンテナ イメージのみが Cloud Run にデプロイされるようにするには、 Binary Authorization を使用します。コンテナ イメージのセキュリティ リスクを特定して軽減するには、Artifact Analysis を使用して脆弱性スキャンを自動的に実行します。詳細については、コンテナ スキャンの概要をご覧ください。 データ所在地: Cloud Run は、データ所在地の要件を満たすのに役立ちます。Cloud Run functions は、選択したリージョン内で実行されます。 コンテナ セキュリティの詳細については、Cloud Run の一般的な開発のヒントをご覧ください。 |
| アーキテクチャのすべてのプロダクト |
データの暗号化: デフォルトでは、 Google Cloudは Google-owned and Google-managed encryption keysを使用して保存データを暗号化します。ユーザーが制御する暗号鍵を使用してエージェントのデータを保護するには、Cloud KMS で作成および管理する CMEK を使用します。 Google Cloud Cloud KMS と互換性のあるサービスについては、互換性のあるサービスをご覧ください。 データの引き出しのリスクを軽減する: データの引き出しのリスクを軽減するには、インフラストラクチャの周囲に VPC Service Controls 境界を作成します。VPC Service Controls は、このリファレンス アーキテクチャで使用されるすべての Google Cloud サービスをサポートしています。 アクセス制御: トポロジ内のリソースの権限を構成する場合は、最小権限の原則に従います。 クラウド環境のセキュリティ: Security Command Center のツールを使用して、脆弱性を検出し、脅威を特定して軽減し、セキュリティ ポスチャーを定義してデプロイし、データをエクスポートしてさらに分析します。 デプロイ後の最適化: Google Cloudにアプリケーションをデプロイしたら、Active Assist を使用して、セキュリティをさらに最適化するための推奨事項を取得します。推奨事項を確認し、環境に応じて適用します。詳細については、Active Assist で推奨事項を確認するをご覧ください。 |
その他のセキュリティに関する推奨事項
信頼性
このセクションでは、 Google Cloudのデプロイ用に信頼性の高いインフラストラクチャを構築して運用するための設計上の考慮事項と推奨事項について説明します。
| コンポーネント | 設計上の考慮事項と推奨事項 |
|---|---|
| エージェント |
障害をシミュレートする: エージェント AI システムを本番環境にデプロイする前に、本番環境をシミュレートして検証します。問題や予期しない動作を特定して修正します。 水平スケーリング: 高可用性とフォールト トレランスを確保するため、ロードバランサの背後でエージェント アプリケーションの複数のインスタンスを実行します。このアプローチは、リクエストをインスタンスに分散することで、レイテンシとタイムアウトを短縮するのにも役立ちます。一部のエージェント ランタイムは、Cloud Run サービスでのインスタンスの自動スケーリングなど、ロード バランシングを自動的に処理します。 停止から復元する: エージェントが再起動を適切に処理し、コンテキストを維持できるようにするには、状態をランタイムから切り離します。このようなステートレス エージェント アプリケーションを実装するには、データベースや分散キャッシュなどの外部データストアを使用します。たとえば、Memory Bank、Memorystore for Redis、Cloud SQL などのデータベース サービスを使用できます。 エラーを処理する: エラーの診断とトラブルシューティングを可能にするため、ロギング、例外処理、再試行メカニズムを実装します。 |
| Vertex AI |
割り当て管理: Vertex AI は、Gemini モデルの動的共有割り当て（DSQ）をサポートしています。DSQ は、従量課金制リクエストを柔軟に管理する際に役立ち、割り当てを手動で管理したり、割り当ての増加をリクエストする必要がなくなります。DSQ は、特定のモデルとリージョンで使用可能なリソースをアクティブな顧客に動的に割り当てます。DSQ を使用する場合、個々のユーザーに事前定義された割り当て上限はありません。 容量計画: モデルへのリクエスト数が割り当てられた容量を超えると、エラーコード 429 が返されます。ビジネス クリティカルで常に高いスループットを必要とするワークロードの場合は、プロビジョンド スループットを使用してスループットを予約できます。 モデル エンドポイントの可用性: 複数のリージョンまたは国でデータを共有できる場合は、モデルにグローバル エンドポイントを使用できます。 |
| Cloud Run |
インフラストラクチャの停止に対する堅牢性: Cloud Run はリージョン サービスです。データはリージョン内の複数のゾーンに同期的に保存され、トラフィックはゾーン間で自動的にロードバランスされます。ゾーンが停止しても、Cloud Run は引き続き実行され、データは失われません。リージョンが停止した場合、Google が問題を解決するまでサービスは実行を停止します。 水平スケーリング: Cloud Run サービスは、インスタンスの自動スケーリングを処理します。自動スケーリングは、高可用性を確保するために必要なすべての受信リクエスト、イベント、CPU 使用率をインスタンスが処理できるようにします。 |
| アーキテクチャのすべてのプロダクト |
デプロイ後の最適化: Google Cloudにアプリケーションをデプロイしたら、Active Assist を使用して、セキュリティをさらに最適化するための推奨事項を取得します。推奨事項を確認し、環境に応じて適用します。詳細については、Active Assist で推奨事項を確認するをご覧ください。 |
AI ワークロードと ML ワークロードに固有の信頼性の原則と推奨事項については、Well-Architected Framework の AI と ML の視点: 信頼性をご覧ください。
運用
このセクションでは、このリファレンス アーキテクチャを使用して、効率的に運用できる Google Cloud トポロジを設計する際に考慮すべき要素について説明します。
| コンポーネント | 設計上の考慮事項と推奨事項 |
|---|---|
| エージェント |
デバッグと分析: エージェント アプリケーション内に構造化ロギングを実装します。ロギングとトレースにより、呼び出されたツール、エージェントの入力と出力、各ステップのレイテンシなど、重要な情報を構造化された形式でキャプチャできます。 |
| Vertex AI |
ログを使用したモニタリング: デフォルトでは、 継続的な評価: エージェントの出力と、エージェントが出力を生成するために実行した軌跡またはステップの定性的な評価を定期的に実施します。エージェントの評価を実装するには、Gen AI Evaluation Service または ADK がサポートする評価方法を使用します。 |
| Cloud Run |
健全性とパフォーマンス: Google Cloud Observability を使用して Cloud Run サービスをモニタリングします。Cloud Monitoring でアラートを設定して、エラー率の増加、レイテンシの増加、リソース使用率の異常などの潜在的な問題を通知します。 |
| データベース |
健全性とパフォーマンス: Google Cloud Observability を使用してデータベースをモニタリングします。Monitoring でアラートを設定して、エラー率の増加、レイテンシの増加、リソース使用率の異常などの潜在的な問題について通知を受け取ります。 |
| MCP |
データベース ツール: AI エージェントのデータベース ツールを効率的に管理し、エージェントが接続プーリングや認証などの複雑な処理を安全に行えるようにするには、MCP Toolbox for Databases を使用します。データベース ツールを保存して更新するための一元的な場所を提供します。エージェント間でツールを共有し、エージェントを再デプロイせずにツールを更新できます。このツールボックスには、AlloyDB for PostgreSQL などの Google Cloud データベースや、MongoDB などのサードパーティ データベース用のさまざまなツールが含まれています。 生成 AI モデル: AI エージェントが Imagen や Veo などの Google 生成 AI モデルを使用できるようにするには、生成メディア API 用の MCP サーバー Google Cloud を使用します。 Google セキュリティ プロダクトとツール: AI エージェントが Google Security Operations、Google Threat Intelligence、Security Command Center などの Google セキュリティ プロダクトとツールにアクセスできるようにするには、Google セキュリティ プロダクト用の MCP サーバーを使用します。 |
| アーキテクチャのすべての Google Cloud プロダクト |
トレース: Trace を使用してトレースデータを継続的に収集して分析します。トレースデータを使用すると、複雑なエージェント ワークフロー内のレイテンシの問題を迅速に特定して診断できます。 Google Cloud コンソールの [Trace エクスプローラ] ページの可視化機能を使用して、詳細な分析を行うことができます。詳細については、エージェントをトレースするをご覧ください。 |
AI ワークロードと ML ワークロードに固有のオペレーショナル エクセレンスの原則と推奨事項については、Well-Architected Framework の AI と ML の視点: 運用の卓越性をご覧ください。
費用の最適化
このセクションでは、このリファレンス アーキテクチャを使用して構築した Google Cloud トポロジの設定と運用の費用を最適化するためのガイダンスを示します。
| コンポーネント | 設計上の考慮事項と推奨事項 |
|---|---|
| Vertex AI |
費用の分析と管理: Vertex AI の費用を分析して管理するには、秒間クエリ数（QPS）と秒間トークン数（TPS）のベースライン指標を作成することをおすすめします。デプロイ後にこれらの指標をモニタリングします。ベースラインは、容量計画にも役立ちます。たとえば、ベースラインは、プロビジョンド スループットが必要になるタイミングを判断するのに役立ちます。 モデルの選択: AI アプリケーション用に選択するモデルは、費用とパフォーマンスの両方に直接影響します。特定のユースケースでパフォーマンスと費用の最適なバランスを実現するモデルを特定するには、モデルを繰り返しテストします。最も費用対効果の高いモデルから始めて、より強力なオプションに徐々に移行することをおすすめします。 費用対効果の高いプロンプト: プロンプト（入力）の長さと生成されたレスポンス（出力）は、パフォーマンスと費用に直接影響します。短く、直接的で、十分なコンテキストを提供するプロンプトを作成します。モデルから簡潔な回答を得られるようにプロンプトを設計します。たとえば、「2 文で要約して」や「3 つの要点をリストアップして」などのフレーズを含めます。詳細については、プロンプト設計のベスト プラクティスをご覧ください。 コンテキスト キャッシュ保存: 入力トークン数が多い繰り返しコンテンツを含むリクエストの費用を削減するには、コンテキスト キャッシュ保存を使用します。 バッチ リクエスト: 関連する場合は、バッチ予測を検討してください。バッチ リクエストは、標準リクエストよりも費用が低くなります。 |
| Cloud Run |
リソース割り当て: Cloud Run サービスを作成するときに、割り当てるメモリと CPU の量を指定できます。デフォルトの CPU とメモリの割り当てから始めます。リソースの使用量と費用を継続的にモニタリングし、必要に応じて割り当てを調整します。詳細については、次のドキュメントをご覧ください。 レートの最適化: CPU とメモリの要件を予測できる場合は、確約利用割引（CUD）を使用して費用を節約できます。 |
| アーキテクチャのすべてのプロダクト | デプロイ後の最適化: Google Cloudにアプリケーションをデプロイしたら、Active Assist を使用して、費用をさらに最適化するための推奨事項を取得します。推奨事項を確認し、環境に応じて適用します。詳細については、Active Assist で推奨事項を確認するをご覧ください。 |
Google Cloud リソースの費用を見積もるには、Google Cloud の料金計算ツールを使用します。
AI ワークロードと ML ワークロードに固有の費用最適化の原則と推奨事項については、Well-Architected Framework の AI と ML の視点: 費用の最適化をご覧ください。
パフォーマンスの最適化
このセクションでは、ワークロードのパフォーマンス要件を満たす Google Cloud のトポロジを設計するための設計上の考慮事項と推奨事項について説明します。
| コンポーネント | 設計上の考慮事項と推奨事項 |
|---|---|
| エージェント |
モデルの選択: エージェント AI システムのモデルを選択するときは、エージェントが実行する必要があるタスクに必要な機能を考慮します。 プロンプトの最適化: プロンプトのパフォーマンスを大規模かつ迅速に改善して最適化し、手動での書き換えを不要にするには、Vertex AI プロンプト オプティマイザーを使用します。オプティマイザーを使用すると、さまざまなモデルでプロンプトを効率的に調整できます。 |
| Vertex AI |
モデルの選択: AI アプリケーション用に選択するモデルは、費用とパフォーマンスの両方に直接影響します。特定のユースケースでパフォーマンスと費用の最適なバランスを実現するモデルを特定するには、モデルを繰り返しテストします。最も費用対効果の高いモデルから始めて、より強力なオプションに徐々に移行することをおすすめします。 プロンプト エンジニアリング: プロンプト（入力）の長さと生成されたレスポンス（出力）は、パフォーマンスと費用に直接影響します。短く、直接的で、十分なコンテキストを提供するプロンプトを作成します。モデルから簡潔な回答を得られるようにプロンプトを設計します。たとえば、「2 文で要約して」や「3 つの要点をリストアップして」などのフレーズを含めます。詳細については、プロンプト設計のベスト プラクティスをご覧ください。 コンテキスト キャッシュ保存: 入力トークン数が多い繰り返しコンテンツを含むリクエストのレイテンシを短縮するには、コンテキスト キャッシュ保存を使用します。 |
| Cloud Run |
リソース割り当て: パフォーマンス要件に応じて、Cloud Run サービスに割り当てるメモリと CPU を構成します。詳細については、次のドキュメントをご覧ください。 パフォーマンスの最適化に関するガイダンスについては、Cloud Run の一般的な開発のヒントをご覧ください。 |
| アーキテクチャのすべてのプロダクト | デプロイ後の最適化: Google Cloudにアプリケーションをデプロイしたら、Active Assist を使用して、パフォーマンスをさらに最適化するための推奨事項を取得します。推奨事項を確認し、環境に応じて適用します。詳細については、Active Assist で推奨事項を確認するをご覧ください。 |
AI ワークロードと ML ワークロードに固有のパフォーマンス最適化の原則と推奨事項については、Well-Architected Framework の AI と ML の視点: パフォーマンスの最適化をご覧ください。
デプロイ
このリファレンス アーキテクチャの自動デプロイは利用できません。次のコードサンプルを使用して、単一エージェント アーキテクチャを構築します。
- ソフトウェア バグ アシスタント - ADK Python サンプル エージェントをデプロイして、同様のアーキテクチャをデプロイします。
- メモリと状態の詳細については、Python Tutor - ADK の状態とメモリの例をご覧ください。
ADK を MCP サーバーと組み合わせて使用するためのコードサンプルについては、MCP ツールをご覧ください。
追加の単一エージェント AI システムの例については、次のコードサンプルをご覧ください。これらのコードサンプルは、学習と実験のための完全に機能する出発点です。本番環境で最適な運用を行うには、特定のビジネス要件と技術要件に基づいてコードをカスタマイズする必要があります。
- パーソナライズされたショッピング: 特定のブランド、販売者、オンライン マーケットプレイス向けに、パーソナライズされたおすすめの商品情報を提供します。
- インシデント管理: 動的 ID 伝播を使用して、リクエストごとにエンドユーザー トークンと ID を検証します。
- 注文処理: 注文を処理して保存し、指定された注文数量に対して条件付きの人間によるレビューでメール確認を調整します。
- データ エンジニアリング: Dataform パイプラインの開発、パイプラインの問題のトラブルシューティング、複雑な SQL クエリからデータ変換、データ依存関係までのデータ エンジニアリングの管理を行います。
- ドキュメントの取得: RAG を使用して、Vertex AI RAG Engine にアップロードしたドキュメントをクエリし、ドキュメントとコードの引用を含む回答を取得します。
次のステップ
- Agent Garden でサンプル エージェントとツールを確認する。
- ADK を使用してエージェントを構築する。
- エージェントを Google Cloudにデプロイします。
- Cloud Run で MCP サーバーをホストする。
- Cloud Run で AI アプリとエージェントをホストする。
- Google Cloudで生成 AI アプリケーション用の RAG インフラストラクチャを実装する方法を学習する。
- Google Cloudの AI ワークロードと ML ワークロードに固有のアーキテクチャ原則と推奨事項の概要について、Well-Architected Framework の AI と ML の視点を確認する。
- Cloud アーキテクチャ センターで、リファレンス アーキテクチャ、図、ベスト プラクティスを確認する。
寄稿者
- Kumar Dhanagopal | クロス プロダクト ソリューション デベロッパー
- Megan O'Keefe | デベロッパー アドボケイト
- Shir Meir Lador | デベロッパー リレーションズ エンジニアリング マネージャー