オブジェクト エンリッチメントを使用すると、カスタムの機械学習パイプラインを構築せずに、構造化メタデータを自動的に生成できます。 オブジェクト エンリッチメントは、Google の事前トレーニング済み機械学習モデルを保存されたオブジェクトに直接適用して、非構造化データの検索、キュレーション、管理を大規模に行えるようにします。
オブジェクトのメタデータの生成を開始するには、 オブジェクト エンリッチメントを構成するをご覧ください。
仕組み
オブジェクト エンリッチメントを使用するには、システムの次の部分を操作します。
- 機能構成(
FeatureConfig): 機能構成を作成して、Cloud Storage がモニタリングするバケットまたはプロジェクトを 指定します。 - 機械学習モデル: 構成で、適用するモデル (オブジェクトの検出、画像のラベル付け、 顔の分析、PDF ドキュメントの分類を行うモデルなど)を選択します。
- オブジェクト エンリッチメント(メタデータ): Cloud Storage は オブジェクトを非同期でスキャンし、選択したモデルで対象オブジェクトを評価します。Cloud Storage は、結果のメタデータ をオブジェクト コンテキストとしてオブジェクトに直接添付します。
Cloud Storage がエンリッチメント メタデータをオブジェクトに添付すると、メタデータを使用できるようになります。個々のオブジェクト エンリッチメントを検査することも、 Storage Insights データセットを使用して BigQuery の SQL で数百万の オブジェクトのメタデータを分析することもできます。
次の図は、Cloud Storage がオブジェクト エンリッチメントを使用して非構造化データからコンテキストを抽出し、ダウンストリームの AI と分析ワークフローのオブジェクト コンテキストとして保存する方法を示しています。
サポートされているモデル
機能構成を作成するときに、データと分析の目標に最適な機械学習モデルを選択します。Cloud Storage は、選択したモデルを使用して対象オブジェクトを評価し、contexts.custom に構造化メタデータを生成します。
サポートされているモデルの表に、各モデル、検出対象、出力データのサンプルを示します。スキーマ定義とコンテキスト キーの詳細については、 サポートされているモデルとスキーマをご覧ください。
| モデル | 説明 | 出力データのサンプル |
|---|---|---|
| オブジェクト検出 | 画像内の複数のオブジェクトを検出し、その位置と長方形の境界を提供します。 | 商品、動物、人物 |
| 画像のラベル付け | オブジェクト、場所、アクティビティなど、幅広いカテゴリにわたって画像内のエンティティに関する情報を検出して抽出します。 | 風景、都市、夜 |
| 顔検出 | 境界ポリゴン、顔のランドマーク(目、鼻、口)、向きの角度、表情の可能性など、画像内の顔を検出します。 | 顔の数、ロール角とチルト角 |
| 露骨な表現を含むコンテンツ検出 | 成人向けまたは暴力的な素材など、機密性の高いコンテンツや不適切なコンテンツについて画像を評価します。 | 成人向けコンテンツと暴力的なコンテンツの可能性の評価 |
| PDF の分類 | PDF ドキュメントを、そのコンテンツに基づいて標準のビジネス カテゴリと業界カテゴリに分類します。 | 財務、税金、請求書(カテゴリとスコア) |
ユースケース
オブジェクト エンリッチメントを使用すると、非構造化データのデータ マネジメントを効率化し、次のダウンストリーム分析と AI ワークフローのオブジェクトを準備できます。
- 整理されていないオブジェクトの整理とカタログ化: PDF ドキュメント(請求書、銀行の明細書、税務書類など)と画像のコレクションを自動的に分類します。これらの分類を使用して、カスタムコードを記述せずにバケット全体で検索可能な Data Catalog を構築できます。
- AI エージェントの基盤と検索の改善: 整理されていないドキュメント リポジトリを構造化されたナレッジベースに変換します。ドキュメント カテゴリと画像ラベルを使用して、検索拡張生成(RAG)中の取得を改善し、生成 AI アプリケーションの基盤を構築できます。
- 生成 AI のデータのサンプリングと準備: ドキュメント タイプを区別して、コンテンツを大規模言語モデル(LLM)または人間によるレビューにルーティングする前に層化サンプリングを行います。
- 機械学習トレーニング データセットのキュレーション: 分類またはビジュアル ラベルで画像 とドキュメントをフィルタしてセグメント化し、モデルのファイン チューニング用のドメイン固有の トレーニング データセットを組み立てます。
- 機密性の高いコンテンツや露骨な表現を含むコンテンツのスキャン: アップロードされた 画像を自動的に検査して不適切な素材がないか確認し、コンテンツ管理者と 安全に関するポリシーをサポートします。
- マルチモーダル プロンプトの強化: Gemini などのマルチモーダル モデルをプロンプト表示するときに、境界ボックスやドキュメント カテゴリなどの構造化メタデータをコンテキストとして渡します。
- データ アーキテクチャの簡素化: Cloud Storage でメタデータを直接生成することで、カスタムの取り込みパイプラインと コンピューティング インフラストラクチャを排除します。
メタデータのクエリと分析
Cloud Storage は、オブジェクト エンリッチメントをオブジェクト コンテキストとしてオブジェクトに直接添付します 。規模とワークフローに応じて、次の方法でこのメタデータにアクセスして分析できます。
- 個々のオブジェクトの検査: Google Cloud コンソールまたは Cloud Storage API を使用して、特定のオブジェクトのエンリッチメントを検査します。手順については、オブジェクト エンリッチメントを管理するをご覧ください。
- SQL を使用した大規模な分析: Storage Insights データセットを使用して、数百万または数十億のオブジェクトのメタデータを
BigQuery に直接エクスポートします。Storage Insights がメタデータをエクスポートしたら、標準 SQL を使用して
object_contexts_catalog_viewビュー をクエリできます。たとえば、ラベルを検索したり、カテゴリでフィルタしたり、信頼スコアの高いオブジェクトを見つけたりできます。
SQL クエリとサンプル レシピを開始するには、 BigQuery でオブジェクト エンリッチメントを分析するをご覧ください。
考慮事項と制限事項
オブジェクト エンリッチメントを構成する前に、次の運用上の考慮事項を確認してください。
処理を行うロケーション
オブジェクト エンリッチメントは、us、eu、asia の 3 つの地理的位置でデータを処理します。処理ロケーションを選択する際は、次の点を考慮してください。
- コンプライアンス: 選択した処理ロケーションが、 規制要件とデータ主権要件を満たしていることを確認します。
- パフォーマンス: バケットの ストレージ リージョンに最も近い処理ロケーションを選択します。
- 費用: 重複した料金が発生しないように、バケットとモデルごとに 1 つの処理ロケーション のみを構成します。同じバケットとモデルに複数のロケーションを構成すると、Cloud Storage は各ロケーションでオブジェクトを処理し、実行ごとに課金されます。
処理とパフォーマンス
コンテンツ タイプ、オブジェクト サイズ、処理タイムラインに関する次の制約を確認してください。
非同期処理: Cloud Storage はオブジェクトを 非同期で処理します。
オブジェクト サイズの上限: オブジェクト(画像と PDF の両方)は 20 MiB 以下にする必要があります。
サポートされているコンテンツ タイプ: Cloud Storage は、オブジェクトに設定された
Content-Typeメタデータ フィールドを使用して、評価するかどうかを判断します。オブジェクトに無効な がある場合や、Content-Typeがない場合、基盤となるデータが有効な画像または PDF であっても、Cloud Storage はオブジェクトを処理しません 。Cloud Storage がオブジェクトを処理するようにするには、Content-Typeメタデータを次のいずれかのサポートされているタイプに更新します。- 画像: BMP、GIF、ICO、JPEG、PNG、TIFF、WEBP。
- ドキュメント: PDF (
application/pdf)。
サポートされていない機能
オブジェクト エンリッチメントは、次のバケットタイプとオペレーションと互換性がありません。
- バケットの再配置: オブジェクト エンリッチメントは バケットの再配置と互換性がありません。バケットを再配置する前に、機能構成からバケットを削除してください。
- サポートされていないバケットタイプ: Rapid バケットまたは階層型名前空間が有効になっているバケット でオブジェクト エンリッチメント を有効にすることはできません。
構成とスコープの管理
機能構成でターゲット バケットを定義して維持する場合は、次の要件が適用されます。
- バケットのスコープ設定: 機能 構成で正確なバケット名を指定します。Cloud Storage は、正規表現またはワイルドカード パターンをサポートしていません。
- バケットのライフサイクル: Cloud Storage は、新しく 作成、再作成、または再配置されたバケットを既存の構成に自動的に追加しません。 これらのバケットを含めるように機能構成を更新する必要があります。
費用とセキュリティ
暗号鍵とデータアクセス料金に関する次の運用上の詳細を確認してください。
- 顧客指定の鍵(CSEK): オブジェクト エンリッチメントは、顧客指定の暗号鍵で暗号化されたオブジェクトを サポートしていません。
- ストレージ アクセスと Autoclass: メタデータを生成するために、 オブジェクト エンリッチメントはオブジェクト データを読み取ります。これらの読み取りオペレーションには、標準のデータアクセス料金が発生します。また、バケットで Autoclass が有効になっている場合、これらの読み取りによってストレージ クラスの移行がトリガーされます。
料金
オブジェクト エンリッチメントを使用すると、モデル推論、メタデータ ストレージ、データアクセス オペレーション、ネットワーキングの料金が発生します。詳細については、料金をご覧ください。
監視とトラブルシューティング
メタデータの生成状況を追跡し、オブジェクト エンリッチメントの構成時に問題を解決するには、次のリソースを使用します。
- オペレーションのモニタリング: 保留中のオブジェクト、モデルの実行回数、 処理ステータスを Cloud Monitoring で追跡するには、 オブジェクト エンリッチメント指標をモニタリングするをご覧ください。
- 問題の解決: エンリッチメントが見つからない場合や、権限 エラーが発生した場合は、オブジェクト エンリッチメントのトラブルシューティングをご覧ください。
次のステップ
- オブジェクト エンリッチメントを構成する。
- BigQuery でオブジェクト エンリッチメントを分析する。
- オブジェクト エンリッチメントを管理する。
- サポートされているモデルとスキーマを確認する。
featureConfigsJSON API リソースを確認する。- オブジェクト コンテキストについて確認する。