BigQuery のワークロード管理のトラブルシューティング
このドキュメントでは、予約の割り当てと割り当て、予約構成エラー、容量コミットメント、スロット競合、予約モニタリング、会話分析の会話ロギングなど、BigQuery ワークロード管理に関する一般的な問題のトラブルシューティング方法について説明します。
予約、コミットメント、管理リソースのグラフを表示して管理するには、管理プロジェクトに対する BigQuery リソース閲覧者(roles/bigquery.resourceViewer)ロールや BigQuery リソース管理者(roles/bigquery.resourceAdmin)ロールなど、必要な Identity and Access Management(IAM)ロールがあることを確認します。詳しくは、IAM によるアクセス制御をご覧ください。
予約に関する問題のトラブルシューティング
次の情報を使用して、スロットの追加時のエラー、BigQuery ジョブで予約が使用されない理由、認識されない予約など、予約に関する一般的な問題のトラブルシューティングを行います。
予約サイズにスロットを追加できない
予約にスロットを追加しようとしたときに Failed to allocate slots for reservation in the
current system state や Failed to update reservation: Failed to allocate slots
for reservation などのエラーが発生した場合は、通常は一時的な問題です。この問題を軽減するには、次の操作を行います。
- スロット数を減らして再試行する。
- スロット数を減らして試しても失敗した場合は、15 分待ってから操作を再試行します。
複数回再試行し、30 分待っても同じエラーが表示される場合は、Cloud カスタマーケアにお問い合わせください。
リクエストを完了するのに十分な割り当てがない
エラー メッセージに There is insufficient quota to complete this
request と表示されている場合は、リクエストがプロジェクトに設定されている割り当て上限を超えています。
このエラーを解決するには、以下のいずれかを行います。
- リクエストが割り当て上限を超えないように、予約に追加するスロットの数を減らす。
- 対応するリージョンで割り当ての増加をリクエストする。詳細については、割り当ての増加をリクエストするをご覧ください。
予約が BigQuery でジョブの実行に使用されない
作成した予約を使用する代わりに、オンデマンド料金または無料の共有スロットプールを使用してジョブが実行されるシナリオは複数あります。
クエリと予約が異なるリージョンにある
予約はリージョン リソースです。クエリは、クエリで参照されるテーブルと同じロケーションで実行されます。
テーブルのロケーションが予約のロケーションと一致しない場合、クエリは予約を使用せず、代わりにオンデマンド料金(または対象となるバッチ読み込みジョブとエクスポート ジョブの無料の共有スロットプール)を使用して実行されます。
BigQuery Omni テーブルのクエリ
BigQuery Omni テーブルにクエリを実行する場合は、予約がテーブルと同一のリージョンに作成されていることを確認してください。同じ場所に配置されたリージョンに作成されていると、クエリが失敗します。同じ場所に配置された BigQuery リージョンに予約を作成すると、クエリはオンデマンド料金で実行されます。
予約は作成されたが、プロジェクトが割り当てられていない
予約でスロットを使用するには、プロジェクト、フォルダ、または組織を特定の予約に割り当てる割り当てを作成する必要があります。プロジェクトに、対応する予約の割り当てがあることを確認します。
ジョブタイプの不一致
割り当てを作成するときは、必ず正しいサービスの種類を選択してください。選択が正しくないと、ジョブは予約を使用しません。
たとえば、サービスの種類として PIPELINE を選択すると、すべてのクエリジョブがオンデマンド料金を使用して実行されます。割り当てタイプを QUERY に変更して、予約を使用してクエリジョブを実行します。
複数ステートメント クエリ
マルチステートメント クエリを実行している場合、子ジョブが予約によって実行されていても、親ジョブ オブジェクトには予約が関連付けられません。
ジョブが実際に予約を使用していたかどうかを確認するには、子ジョブのメタデータを確認します。
キャッシュに保存されている結果の取得
クエリジョブがキャッシュに保存された結果を取得する場合、BigQuery は計算を実行せず、一時テーブルから直接結果を取得するため、予約フィールドは空になります。
変更データ キャプチャの行変更オペレーション
変更データ キャプチャ(CDC)テーブルがある場合、BigQuery は max_staleness 間隔内の保留中の行変更をバックグラウンド ジョブとして適用します。このジョブでは BACKGROUND 割り当てタイプが使用されます。BACKGROUND の割り当てがない場合、これらのジョブにはオンデマンド料金が適用されます。予期しないオンデマンド コストを避けるため、プロジェクトに BACKGROUND 割り当てを作成することを検討してください。これらのジョブは、ジョブ識別子の queueworker_cdc_background_merge_coalesce 部分文字列で識別できます。
外部サービスを使用する BigQuery ML モデルタイプ
プロジェクトに ML_EXTERNAL サービスの種類 の予約割り当てが見つからない場合、外部モデル作成ジョブはオンデマンド料金を使用して実行されます。QUERY サービスの種類 の割り当ては、標準の BigQuery ML モデルと行列分解モデル(Enterprise エディションまたは Enterprise Plus エディションの予約が必要)に適用されます。一方、外部モデルには ML_EXTERNAL 割り当てが必要です。詳細については、BigQuery ワークロードへのスロットの割り当てをご覧ください。
プロジェクトで認識できない予約が特定された
BigQuery は、BigQuery の特定のオペレーションで使用される無料の共有スロットプールに対応する予約を所有しています。
default-pipeline
デフォルトでは、BigQuery でデータのバッチ読み込みまたはバッチ エクスポートを行うと、無料の共有スロットプールが使用されます。これらの読み込みジョブまたは抽出ジョブを検査すると、予約フィールドに default-pipeline が表示されます。
共有スロットプールの使用に料金はかかりません。一貫して予測可能なパフォーマンスが必要な場合は、PIPELINE 予約の購入を検討してください。
予約管理タスクのトラブルシューティング
予約の作成時または更新時に、次のエラーが発生することがあります。
予約サイズまたはベースライン スロット数は 50 の倍数にする必要があります
エラー メッセージ
Max reservation size can only be configured in multiples of 50, except when covered by excess commitments.Baseline slots can only be configured in multiples of 50, except when covered by excess commitments.
原因
スロットは常に 50 の倍数に自動スケーリングされます。BigQuery は、実際の使用量に基づいてスロットをスケールアップし、50 スロット単位で切り上げます。コミットメントがない場合や、コミットメントで増加に対応できない場合は、ベースライン スロットと自動スケーリング スロットを 50 の倍数でのみ増加できます。
baseline slots または max reservation size - baseline slots が 50 の倍数でない場合(かつ、超過容量コミットメントの対象でない場合)、予約は最大予約サイズまでスケールアップできず、このエラーが発生します。
解決策
次のいずれかを行います。
- スロットの増加に対応するために、追加の容量コミットメントを購入します。
- ベースライン スロットと最大スロットは 50 単位で選択します。
予約ベースの公平性を有効にせずに最大スロット数を使用することはできません
エラー メッセージ
Cannot use max slots without enabling reservation-based fairness.
原因
最大予約容量(max_slots や予測可能な予約など)を構成しようとしています。これには、予約を所有するプロジェクトで予約ベースの公平性を有効にする必要があります。
解決策
プロジェクトで予約ベースの公平性を有効にする必要があります。
容量コミットメントのトラブルシューティング
このセクションでは、BigQuery の容量コミットメントで問題が発生した場合に役立つトラブルシューティングの手順について説明します。
購入したスロットは保留中です
スロットには利用可能な容量が適用されます。スロット コミットメントを購入して BigQuery で割り振ると、[ステータス] 列にチェックマークが表示されます。BigQuery がリクエストされたスロットをすぐに割り当てられない場合、[ステータス] 列は保留中のままになります。スロットが使用可能になるまで数時間かかることがあります。より早くスロットにアクセスする必要がある場合は、次のことを試してください。
- 保留中のコミットメントを削除します。
- スロット数を減らす場合は、新しいコミットメントを購入します。容量によっては、小さいコミットメントがすぐに有効になる場合があります。
- 残りのスロットは別のコミットメントとして購入します。これらのスロットは [ステータス] 列に保留中として表示されますが、通常は数時間以内にアクティブになります。
- 省略可: 両方のコミットメントがアクティブになったら、両方のコミットメントが同じリージョンとエディションにあり、同じコミットメント プランがある場合は、1 つのコミットメントに統合します。
スロット コミットメントが失敗した場合や、完了までに時間がかかる場合は、一時的にオンデマンド料金の使用を検討してください。このソリューションでは、予約に割り当てられていない別のプロジェクトで重要なクエリを実行したり、プロジェクトを None に割り当てたり、プロジェクトの割り当てを完全に削除したりできます。
スロット競合のトラブルシューティング
すべてのジョブを実行するのに十分なスロットがない場合、スロット競合が起こり、パフォーマンスの問題が発生する可能性があります。パフォーマンスの低下がワークロードの増加または環境構成の変更に起因するかどうかを分析するには、予約とプロジェクト間で2 つのシステム間隔を比較します。
スロット競合の問題をトラブルシューティングするには、次の手順とベスト プラクティスを使用します。
これらのベスト プラクティスを試してもジョブのパフォーマンスの問題が解決しない場合は、サポートをリクエストしてください。
ジョブの同時実行数の急増
管理リソースグラフの詳細ビューを使用して、スロット使用量の急増が同時に発生しているジョブ実行の急増がないか確認します。これらの急増は、予約で使用可能なスロットに対して競合するジョブが多すぎることを示している可能性があります。
ベスト プラクティス: リソースを大量に消費するクエリの最適化、または予約のスロット容量の増加を検討してください。クエリ パフォーマンスの最適化の詳細については、クエリ計算を最適化するをご覧ください。
スロットの使用量が多い
詳細ビューを使用して、ジョブの所要時間の増加を確認します。特に、予約の最大容量を超えるジョブがないか確認します。スロット使用率が常に高い場合は、スロット競合が継続していることを示している可能性があります。
ベスト プラクティス: ジョブ エクスプローラのスロット競合フィルタを使用してクエリを確認し、スロットを最も多く消費しているクエリを特定して最適化します。
ジョブの所要時間が長い
ジョブの完了にかなり時間がかかっている場合は、詳細ビューを確認します。ジョブの同時実行数とスロット使用量の急増は、スロット競合を示している可能性があります。
ベスト プラクティス: 重要度の低いジョブを一時的に停止するか、ジョブの送信レート全体を減らして、重要なジョブを分離します。
スロット競合メッセージ
分析情報の表には、スロット競合の問題を示す There were NUMBER jobs detected with
slot_contention in the reservation. などのメッセージが表示されます。ジョブ エクスプローラで、これらのメッセージでフラグが立てられた特定のジョブの詳細を確認します。
ベスト プラクティス: 特定されたクエリを最適化するか、予約のスロット割り当てを調整します。
予約モニタリングのトラブルシューティング
以降のセクションでは、BigQuery の予約とスロットの使用状況をモニタリングする際の一般的な問題を解決する方法について説明します。
スロット使用状況の指標が INFORMATION_SCHEMA と一致しない
リソースグラフのスロット使用状況の指標と INFORMATION_SCHEMA データに不一致がある場合は、次の操作を試してください。
- 粒度を粗くする。グラフの粒度を 1 時間間隔ではなく 1 秒間隔に変更します。
- 集計を調整する。リソースグラフと
INFORMATION_SCHEMAデータの整合性を保つ集計方法を使用していることを確認します。たとえば、リソースグラフでピーク時の使用量をより正確に反映するには、指標の集計を p99 または p90 に一貫して変更します。
アイドル スロットが無効になっている場合、借用スロットが表示されます
1 つ以上の予約に ignore_idle_slots=true が設定されている場合でも、モニタリング グラフに borrowed_slots のゼロ以外の値が表示されることがあります。この設定により、予約がアイドル スロットを借用することはできなくなりますが、未使用のスロットを他の予約に貸与することはできます。
これらの借用スロットは、次の場合に表示されます。
他の予約への貸し出し。
ignore_idle_slots=trueを使用する予約は、未使用のベースライン スロットを、同じ管理プロジェクト、リージョン、エディション内の他の予約に貸し出すことができます。ただし、これらの予約は、アイドル スロットの借用(ignore_idle_slots=false)を許可している必要があります。管理プロジェクト、リージョン、エディション内のすべての予約にignore_idle_slots=trueが設定されている場合、アイドル スロットは共有されません。たとえば、予約 A に 100 個のスロットがあり、使用量が 0 で、
ignore_idle_slots=trueが構成されているとします。予約 B は、同じ管理プロジェクト、リージョン、エディションにあり、100 個のスロットがあり、ワークロードに 150 個のスロットが必要で、ignore_idle_slots=falseで構成されています。予約 B は、予約 A から 50 個のアイドル スロットを借りて、ニーズを満たすことができます。この場合、モニタリング グラフには、予約 A の 50lent_slotsと予約 B の 50borrowed_slotsが報告されます。使用量が容量を超えている。予約のスロット使用量が容量(ベースライン + 自動スケーリング スロット)を一時的に超えると、モニタリング グラフにこの差が
borrowed_slotsとして表示されます。この動作は、ignore_idle_slots=trueを使用した予約でも発生する可能性があります。
スロットの使用量は、ベースラインとスケーリングされたスロットの合計を超える場合があります。ベースラインとスケーリングされたスロットの合計を超えるスロットの使用量に対しては課金されません。
予約がすべて使用される前に借用スロットが表示される
モニタリング ダッシュボードではサンプリングされたデータが使用されます。このデータは、サンプリング間隔内のスロット使用量の正確なタイミングを反映していない可能性があります。
スロット使用量をより正確に分析するには、INFORMATION_SCHEMA.RESERVATIONS_TIMELINE ビューの borrowed_slots 列や lent_slots 列など、アイドル スロットに関連する列をクエリします。
会話のロギングのトラブルシューティング
次の情報を使用して、BigQuery の会話型分析の会話ロギングに関する一般的な問題のトラブルシューティングを行います。ロギングエラーは会話ターンを失敗させず、チャットや Cloud Logging で報告されないため、宛先テーブルが空または存在しないことが、構成または権限の問題の主なシグナルとなります。
ログテーブルがないか、空です
会話のターン後に宛先テーブルが作成されない、または空のままになっている場合は、次の原因が考えられます。
会話ログは保存または公開されません。BigQuery Studio でページを更新し、エージェント設定を再度開いて、[会話ロギングを有効にする] がオンになっていること、宛先データセットとテーブルが設定されていること、変更が公開されていることを確認します。
宛先データセットが存在しないか、別のプロジェクトにあります。宛先データセットがデータ エージェントと同じプロジェクトにすでに存在することを確認します。データセットが存在することを確認するには、
bq show PROJECT_ID:LOG_DATASETを実行します。PROJECT_IDは、データ エージェントを含むプロジェクトの ID に置き換え、LOG_DATASETは、宛先データセットの ID に置き換えます。サービス エージェントは、最初にログに記録されたターンでログテーブルを作成しますが、データセットは作成しません。宛先データセットが、リンクされたデータセットなどの読み取り専用データセットである。BigQuery Sharing のリンク済みデータセットまたは外部データセット(AWS Glue 連携データセットなど)は読み取り専用であり、会話ログを保存できません。データセット タイプを確認するには、
bq show --format=prettyjson PROJECT_ID:LOG_DATASETを実行して"type"フィールド("LINKED"または"EXTERNAL")を調べます。データ エージェントと同じプロジェクト内の標準の書き込み可能なデータセットを選択します。サービス エージェントまたは CMEK の権限がありません。会話型分析 API サービス エージェント(
service-PROJECT_NUMBER@gcp-sa-geminidataanalytics.iam.gserviceaccount.com、プロジェクト ID ではなくエージェント プロジェクトの番号を使用)に、ログ データセットに対する BigQuery データ編集者(roles/bigquery.dataEditor)ロールが付与されていることを確認します。データセットで顧客管理の Cloud KMS 鍵(CMEK)を使用している場合は、BigQuery 暗号化サービス アカウント(bq-PROJECT_NUMBER@bigquery-encryption.iam.gserviceaccount.com)に鍵のroles/cloudkms.cryptoKeyEncrypterDecrypterロールが付与されていることを確認します。VPC Service Controls の境界が書き込みをブロックする。会話型分析 API サービス エージェントは、Google が管理するインフラストラクチャからログテーブルに書き込みます。そのため、サービス境界で
bigquery.googleapis.comが制限されている場合、roles/bigquery.dataEditorを付与するだけでは不十分です。このリストの他の原因とは異なり、境界ブロックは、エージェントのプロジェクトの Cloud Logging にポリシー拒否の監査ログを記録します。bigquery.googleapis.comのlog_id("cloudaudit.googleapis.com/policy")(テーブルのルックアップまたは作成の場合)とbigquerystorage.googleapis.com(行の追加の場合)でフィルタして、ブロックを確認します。geminidataanalytics.googleapis.comとbigquery.googleapis.comの両方が境界内にあることを確認し、bigquery.googleapis.comのサービス エージェントに上り(内向き)ルールを追加します。上り(内向き)ルールの例については、アクセス制御、暗号化、ネットワーク セキュリティをご覧ください。一般的な境界設定のガイダンスについては、VPC Service Controls で境界セキュリティを構成するをご覧ください。サポートされていない会話サーフェスまたはエージェント構成。BigQuery Studio の [プレビュー] ペインでの会話はログに記録されません。公開されたエージェントのメイン チャット画面からテストします。特定の BigQuery テーブルではなく検索スコープを使用するエージェント、プロパティ グラフをナレッジソースとして構成するエージェント、BigQuery テーブルを宣言しないエージェントはログに記録されません。詳細については、制限事項をご覧ください。
ナレッジソース テーブルはアクセス ポリシーを使用します。ナレッジソース テーブルで行レベルのアクセス ポリシー、列レベルのセキュリティ(ポリシータグ)、または動的データ マスキングが使用されている場合、ターンはログに記録されません。
既存の宛先テーブルでスキーマの競合が発生している。既存のテーブルを宛先として構成し、列が会話ログスキーマ列と同じ名前で、異なる型またはモードを持つ場合、BigQuery はそのテーブルに行を書き込みません。
通常、行はターンが完了してから数秒以内に表示されます。数分待っても行が表示されない場合は、データセットを更新します。
一部のユーザーの会話が記録されない
原因
各ターンの前に、プライバシー チェックはチャット ユーザーの認証情報を使用して、エージェントのナレッジソース テーブルに行レベルのセキュリティ、列レベルのセキュリティ、データ マスキング ポリシーがないことを確認します。ユーザーにこのチェックを実行する権限がない場合、そのユーザーのターンはログに記録されません。
解決策
チャットを使用するすべてのユーザーに、ナレッジソース テーブルに対する BigQuery データ閲覧者(roles/bigquery.dataViewer)ロールと、クエリを実行するプロジェクトに対する BigQuery ジョブユーザー(roles/bigquery.jobUser)ロールを付与します。または、ナレッジソース テーブルに対する bigquery.tables.get 権限と bigquery.rowAccessPolicies.list 権限を持つカスタムロールを付与します。
エージェントの保存が INVALID_ARGUMENT エラーで失敗する
エラー メッセージ
The BigQuery Agent Analytics table must be in the same project as the agent (agent project: ..., table project: ...).BigQuery Agent Analytics can only be enabled on agents whose datasource is BigQuery. Remove bigquery_agent_analytics_enabled and bigquery_agent_analytics_table, or point the agent at a BigQuery datasource.
原因
宛先データセットがデータ エージェントとは異なるプロジェクトにあるか、エージェントのデータソースが BigQuery ではありません。
解決策
データ エージェントと同じプロジェクト内の既存の宛先データセットを選択するか、BigQuery データソースを使用してデータ エージェントを構成します。
サービス エージェントが存在しないため、データセットへのアクセス権の付与に失敗する
エラー メッセージ
Service account service-PROJECT_NUMBER@gcp-sa-geminidataanalytics... does not exist
原因
Conversational Analytics API サービス エージェントがプロジェクトにまだプロビジョニングされていません。
解決策
次のいずれかを行います。
まず、エージェントでログの宛先を構成してから、ロールを再度付与します。
次のコマンドを実行して、サービス ID をプロビジョニングします。
gcloud beta services identity create \ --service=geminidataanalytics.googleapis.com \ --project=PROJECT_ID
PROJECT_IDは、データ エージェントを含むプロジェクトの ID に置き換えます。
BigQuery Studio では会話ログの設定を使用できません
原因
データ エージェントの公開バージョンを表示しています。このバージョンでは、構成設定が読み取り専用であるか、データ エージェントにナレッジソースとして特定の BigQuery テーブルが選択されていません。
解決策
ビューセレクタを [ドラフト] に切り替え、特定の BigQuery テーブルがナレッジソースとして選択されていることを確認し、会話ロギングの設定を更新して、エージェントを公開します。
次のステップ
- 予約を使用したワークロード管理の詳細を確認する。
- ワークロード予約を管理する方法を確認する。
- スロット コミットメントの購入と管理について確認する。
- 予約をモニタリングする方法と管理リソースグラフを使用する方法を確認する。
- 会話型分析の会話ロギングの詳細を確認する。
- その他の BigQuery のトラブルシューティング リソースを確認する。