Kafka クラスタのエラーをトラブルシューティングする

このページでは、Managed Service for Apache Kafka クラスタの作成または構成時に発生する問題を解決する方法について説明します。

Kafka クラスタの作成エラー

このセクションでは、Kafka クラスタの作成時に発生する可能性のあるエラーについて説明します。

サービスに Cloud KMS 鍵にアクセスする権限がない

Managed Service for Apache Kafka サービス エージェントに Cloud KMS 鍵へのアクセスに必要な権限がない場合、次の問題が発生します。

Service agent service-${PROJECT_NUMBER}@gcp-sa-managedkafka.iam.gserviceaccount.com
has not been granted the required role cloudkms.cryptoKeyEncrypterDecrypter to
encrypt data using the KMS key.`

この問題を解決するには、サービス アカウントに Cloud KMS 鍵に対する Cloud KMS CryptoKey の暗号化 / 復号ロールを付与します。詳細については、CMEK の構成に必要なロールをご覧ください。

サービスにサブネットを取得する権限がない

Kafka クライアントが実行されている VPC ネットワークでネットワーキングを構成するために必要なロールが Managed Service for Apache Kafka サービス エージェントにない場合、次の問題が発生します。

Service does not have permission to retrieve subnet. Please grant
service-${PROJECT_NUMBER}@gcp-sa-managedkafka.iam.gserviceaccount.com the
managedkafka.serviceAgent role in the IAM policy of the project
${SUBNET_PROJECT} and ensure the Compute Engine API is enabled in project
${SUBNET_PROJECT}`

この問題を解決するには、サービス アカウントにマネージド Kafka サービス エージェントのロールを付与します。詳細については、プロジェクト間でクラスタを接続するをご覧ください。

ネットワーク エラー

このセクションでは、Kafka クラスタのネットワーキングを構成するときに発生する可能性のあるエラーについて説明します。

サービスでネットワーキングを設定できませんでした

Managed Service for Apache Kafka が Kafka クラスタを Virtual Private Cloud サブネットに接続できない場合、次の問題が発生します。

Managed Service for Apache Kafka failed to set up networking in VPC subnet.

この問題を解決するには、次の操作を行います。

  • コンシューマー VPC ネットワークの親プロジェクトで Compute Engine API と Cloud DNS API を有効にします。

  • Managed Service for Apache Kafka クラスタとコンシューマー VPC ネットワークが異なるプロジェクトにある場合は、必要な権限を構成します。プロジェクト間でクラスタを接続するをご覧ください。

  • 組織のポリシーの制約によって、サービスがコンシューマ VPC ネットワークのプロジェクトに必要なリソースを作成できないことがないようにします。

詳細については、Managed Service for Apache Kafka のネットワーキングを構成するをご覧ください。

クライアント アプリケーションが接続できない

クライアント アプリケーションがクラスタに接続できない場合は、次の問題を確認してください。

  • クライアントが正しいブートストラップ アドレスを使用していることを確認します。

  • Kafka クライアントが、Managed Service for Apache Kafka クラスタにアクセスするように構成された VPC ネットワークで実行されていることを確認します。

  • Kafka クライアントをパソコンまたはノートパソコンで実行する場合は、Compute Engine インスタンスをプロキシとして設定し、Managed Service for Apache Kafka クラスタにアクセスできます。詳細については、クライアント マシンを設定するをご覧ください。

認証エラー

このセクションでは、クライアント アプリケーションが Kafka クラスタを認証するときに発生する可能性のあるエラーについて説明します。

SASL 認証が失敗する

クライアントが SASL 認証を使用してクラスタに接続できない場合、次の問題が発生します。

Exception in thread "main" java.util.concurrent.ExecutionException:
org.apache.kafka.common.errors.SaslAuthenticationException:
Authentication failed: Invalid username or password

この問題を解決するには、次の原因を確認してください。

  • パスワードの形式が正しくなく、base64 でデコードされたときに有効なサービス アカウント キーの JSON blob または有効なアクセス トークンを表していません。

  • 認証プリンシパルに、クラスタに対する managedkafka.clusters.connect 権限がありません。

  • 指定されたユーザー名が、認証情報のプリンシパルと一致しません。

クライアントが 30 分ごとに頻繁に切断される場合は、クライアントが定期的な再認証をサポートしていないことが原因である可能性があります。Managed Service for Apache Kafka ブローカーでは、クライアントが 30 分ごとに再認証する必要があります。これは、connections.max.reauth.ms ブローカー プロパティによって適用されます。Kafka クライアント ライブラリのバージョンが 2.2.0 以降で、再認証をサポートしていることを確認します。

詳細については、SASL 認証を構成するをご覧ください。

オペレーション エラー

このセクションでは、Kafka ワークロードの実行中に発生する可能性のあるエラーについて説明します。

ディスク容量不足エラー

ブローカーのディスク容量が不足すると、ブローカーはアクティブなセグメントをロールしたり、新しいセグメントを書き込んだりできなくなります。これにより、クライアントはメッセージを生成または消費できなくなります。たとえば、次のような問題が生じます。

  • クライアントのパフォーマンスが予期せず低下する。たとえば、プロデューサーでタイムアウト エラーが発生し、コンシューマーでラグが着実に増加します。

  • ブローカーのディスク使用率が非常に高い(85% 超)。

  • 同期レプリカ(ISR)数がレプリケーション係数を下回る。

  • クラスタログに次のようなエラーが表示されます。

    Error processing append operation on partition PARTITION_ID.
    org.apache.kafka.common.errors.NotEnoughReplicasException: The size of the current ISR Set(10)
    is insufficient to satisfy the min.isr requirement of 2 for partition PARTITION_ID
    

ディスク不足エラーを回避するには、クラスタ容量とパーティション レプリケーションをモニタリングします。詳細については、Kafka クラスタの信頼性をモニタリングするをご覧ください。

ブローカーのディスク容量が不足している場合は、ブローカーのディスクサイズを増やします。新しいブローカーを追加するために、クラスタをスケールアップすることも検討してください。

ログの圧縮と非常に大きなキー空間を組み合わせると、ディスク不足エラーが発生する可能性があります。ログの圧縮が有効になっている場合、Kafka は各キーの最新のメッセージをローカル ストレージに保存するため、一意のキーの数が増えるとブローカーのディスク使用率が増加します。

クライアントが一時的に切断される

Managed Service for Apache Kafka では、ブローカーのローリング再起動が必要な更新が実行されることがあります。このプロセス中に、個々のブローカーへのリクエストが失敗することがありますが、これらの失敗は一時的なものです。詳細については、アップグレードとパッチをご覧ください。

ブローカーの再起動中に、お客様側でご対応いただくことはありません。ただし、次のことが確認される場合があります。

  • パーティション リーダーとコンシューマー グループ コーディネーターが他のブローカーにフェイルオーバーする間、処理が一時停止します。

  • コンシューマー グループのリバランス。消費が一時的に停止します。

  • オフセットの commit 時の一時的な接続エラーまたはタイムアウト。一般的に使用されるクライアント ライブラリは、これらのエラーを自動的に処理します。

  • ブローカーの再起動時に、残りのブローカーでレプリケーションが不十分なパーティション(broker/under_replicated_partitions)の数が一時的に急増する。

  • ブローカーがダウンしている間のオフライン パーティション指標(offline_partitions)の一時的な値 1。この値は、再起動中のブローカーに単一のレプリカがある内部モニタリング トピックに対応しており、想定される動作です。値が 1 より大きい場合は、データまたはメタデータ トピックに問題がある可能性があります。

    Under-MinISR Partitions 指標(broker/under_min_isr_partitions)は、内部モニタリング トピックの影響を受けません。トピックでデフォルトのレプリケーション係数 3 と min.insync.replicas 2 を使用している場合、ローリング再起動中は 0 のままになります。値が 0 より大きい場合は、パーティションの複数のレプリカが使用できないことを意味します。これは問題を示している可能性があります。

vCPU 数やメモリなど、特定のクラスタ プロパティを手動で更新すると、サービスがローリング再起動を実行することもあります。Managed Service for Apache Kafka クラスタを更新するをご覧ください。

次のステップ

Apache Kafka® は、Apache Software Foundation または米国その他の諸国における関連会社の商標です。