Vertex AI の概要

Google Distributed Cloud（GDC）エアギャップ アプライアンスの Vertex AI を使用すると、安全なポータブル デバイスで ML ワークロードと AI ワークロードを実行できます。このアプライアンスは、事前トレーニング済み API の選択セットへのアクセスを提供するため、音声、翻訳、テキスト認識をプライベート クラウド ソリューションに統合できます。

主な機能

GDC エアギャップ アプライアンスの Vertex AI には、次の機能が用意されています。

  • エアギャップ デプロイ: Vertex AI サービスをポータブル デバイス内で完全に実行し、データ主権とコンプライアンスを確保します。
  • 使い慣れた Vertex AI のエクスペリエンス: Google Cloudの同じツールと API を利用して、開発と管理を簡素化します。
  • 事前構築済みのモデルとアルゴリズム: 一般的な ML タスク用のさまざまな事前トレーニング済みモデルにアクセスして、価値創出までの時間を短縮できます。

利用可能なサービス

GDC エアギャップ アプライアンスの Vertex AI には、次の事前トレーニング済みサービスが用意されています。

キャパシティ プランニングとコンピューティング要件

Vertex AI サービスごとに必要なコンピューティング リソースは異なります。次の表に、各事前トレーニング済みモデルの要件を示します。

事前トレーニング済み API コンピューティング リソース GPU 数の要件 GPU メモリの要件
光学式文字認識（OCR） GPU 1 つの A100 80 GB GPU 40 GB
Speech-to-Text CPU 該当なし（CPU のみ） 該当なし（CPU のみ）
Vertex AI Translation GPU 1 つの A100 80 GB GPU 50 GB

GDC エアギャップ アプライアンスには、1 つの NVIDIA A100 80 GB GPU が含まれています。これにより、デバイスは一度に 1 つの GPU 依存の Vertex AI 事前トレーニング済み API のみを実行するように制限されます。Vertex AI Translation と OCR の両方を有効にしようとすると、2 番目の API の有効化に失敗し、GPU リソースが不足していることを示すエラー メッセージが表示されます。ただし、Speech-to-Text は CPU リソースのみを必要とするため、Vertex AI Translation または OCR と並行して実行できます。

AI / ML ワークロードに必要なアプライアンス ユニットの数を判断するには、Vertex AI の事前トレーニング済み API ごとに次の容量上限を確認してください。

事前トレーニング済み API アプライアンス ユニットあたりの容量
光学式文字認識（OCR） 1 分あたり最大 30 枚の画像（2 秒ごとに 1 枚の画像）。
Speech-to-Text 1 分あたり最大 7 分の音声を文字変換（1 秒あたり 7 秒の音声を文字変換）。
Vertex AI Translation 1 分あたり最大 61,000 文字（1 秒あたり 1,024 文字）。

デプロイを計画する際は、次のガイダンスを考慮してください。

  • 容量制限は概算であり、保証されるものではありません。実際の容量は、次のような要因によって異なる場合があります。

    • 入力データの複雑さ（翻訳の言語、OCR の画質、Speech-to-Text の音声の明瞭さなど）。
    • アプライアンスの特定の構成。
    • アプライアンスでの他のサービスの同時使用。

  • GDC エアギャップ アプライアンスは単一の A100 80 GB GPU に制限されているため、一度に有効にできる GPU 負荷の高い API（Vertex AI Translation または OCR）は 1 つだけです。

  • ピーク時の使用量と将来の増加の可能性を見積もります。

  • より高いスループットを必要とする要求の厳しいワークロードの場合は、複数のアプライアンス ユニットをデプロイすることを検討してください。

次の表に、GDC エアギャップ アプライアンスの各 Vertex AI サービスのストレージ要件を示します。

コンポーネント ストレージ要件
OCR フロントエンド 0.1 GB
OCR バックエンド 5 GB
OCR エクストラクタ 0.1 GB
Speech-to-Text フロントエンド 0.1 GB
Speech-to-Text バックエンド 1.5 GB
Vertex AI Translation フロントエンド 0.7 GB
Vertex AI Translation バックエンド 61.4 GB

使用する Vertex AI サービスに対応できる十分なストレージ容量がアプライアンスにあることを確認します。

利点

GDC エアギャップ アプライアンスの Vertex AI には、次のメリットがあります。

  • シームレスな開発エクスペリエンス: Google Cloudで Vertex AI の同じツール、API、ワークフローを使用することで、開発と管理を直感的かつ効率的に行うことができます。
  • セキュリティとプライバシーの強化: データを完全に管理し、規制要件を遵守します。
  • 価値創出までの時間を短縮: 一般的な ML タスクに事前トレーニング済みモデルを使用します。
  • 効率化された MLOps: 堅牢な機械学習オペレーション機能により、エアギャップ環境内でシームレスな AI インテグレーションを実現できます。

ご利用にあたって

GDC エアギャップ アプライアンスで Vertex AI を使用するには、次の操作を行います。