Membuat dan menggunakan pesan dengan alat command line Kafka

Pelajari cara menggunakan alat command line Kafka untuk terhubung ke cluster Managed Service for Apache Kafka, membuat pesan, dan menggunakan pesan.

Sebelum memulai

Sebelum memulai tutorial ini, buat cluster Managed Service for Apache Kafka yang baru. Jika sudah memiliki cluster, Anda dapat melewati langkah ini.

Cara membuat cluster

Konsol

Buka halaman Managed Service for Apache Kafka > Clusters.
Buka Cluster
Klik Create.
Di kotak Cluster name, masukkan nama untuk cluster.
Dalam daftar Region, pilih lokasi untuk cluster.
Untuk Network configuration, konfigurasikan subnet tempat cluster dapat diakses:
1. Untuk Project, pilih project Anda.
2. Untuk Network, pilih jaringan VPC.
3. Untuk Subnet, pilih subnet.
4. Klik Done.
Klik Create.

Setelah Anda mengklik Create, status cluster adalah Creating. Saat cluster siap, statusnya adalah Active.

gcloud

Untuk membuat cluster Kafka, jalankan perintah managed-kafka clusters create.

gcloud managed-kafka clusters create KAFKA_CLUSTER \
--location=REGION \
--cpu=3 \
--memory=3GiB \
--subnets=projects/PROJECT_ID/regions/REGION/subnetworks/SUBNET_NAME \
--async

Ganti kode berikut:

KAFKA_CLUSTER: nama untuk cluster Kafka
REGION: lokasi cluster
PROJECT_ID: project ID Anda
SUBNET_NAME: subnet tempat Anda ingin membuat cluster, misalnya default

Untuk mengetahui informasi tentang lokasi yang didukung, lihat Lokasi Managed Service for Apache Kafka.

Perintah berjalan secara asinkron dan menampilkan ID operasi:

Check operation [projects/PROJECT_ID/locations/REGION/operations/OPERATION_ID] for status.

Untuk melacak progres operasi pembuatan, gunakan perintah gcloud managed-kafka operations describe:

gcloud managed-kafka operations describe OPERATION_ID \
  --location=REGION

Setelah cluster siap, output dari perintah ini akan menyertakan entri state: ACTIVE. Untuk mengetahui informasi selengkapnya, lihat Memantau operasi pembuatan cluster.

Peran yang diperlukan

Agar mendapatkan izin yang diperlukan untuk membuat dan mengonfigurasi VM klien, minta administrator untuk memberi Anda peran IAM berikut di project:

Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1)
Project IAM Admin (roles/resourcemanager.projectIamAdmin)
Role Viewer (roles/iam.roleViewer)
Pengguna Akun Layanan (roles/iam.serviceAccountUser)

Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

Membuat VM klien

Buat instance virtual machine (VM) Linux di Compute Engine yang dapat mengakses cluster Kafka. Saat Anda mengonfigurasi VM, tetapkan opsi berikut:

Region. Buat VM di region yang sama dengan cluster Kafka Anda.
Subnet. Buat VM di jaringan VPC yang sama dengan subnet yang Anda gunakan dalam konfigurasi cluster Kafka. Untuk mengetahui informasi selengkapnya, lihat Melihat subnet cluster.
Cakupan akses. Tetapkan cakupan akses https://www.googleapis.com/auth/cloud-platform ke VM. Cakupan ini mengizinkan VM untuk mengirim permintaan ke Managed Kafka API.

Langkah-langkah berikut menunjukkan cara menyetel opsi ini.

Konsol

Di konsol Google Cloud , buka halaman Create an instance.

Membuat instance
Di panel Machine configuration, lakukan hal berikut:
1. Di kolom Name, tentukan nama untuk instance Anda. Untuk mengetahui informasi selengkapnya, lihat Konvensi penamaan resource.
2. Di daftar Region, pilih region yang sama dengan cluster Kafka Anda.
3. Di daftar Zone, pilih zona.
Di menu navigasi, klik Networking. Di panel Networking yang muncul, lakukan hal berikut:
1. Buka bagian Network interfaces.
2. Untuk meluaskan antarmuka jaringan default, klik panah .
3. Di kolom Network, pilih jaringan VPC.
4. Dalam daftar Subnetwork, pilih subnet.
5. Klik Done.
Di menu navigasi, klik Security. Di panel Security yang muncul, lakukan hal berikut:
1. Di bagian Access scopes, pilih Set access for each API.
2. Dalam daftar cakupan akses, temukan menu drop-down Cloud Platform dan pilih Aktifkan.
Klik Create untuk membuat VM.

gcloud

Untuk membuat instance VM, gunakan perintah gcloud compute instances create.

gcloud compute instances create VM_NAME \
  --scopes=https://www.googleapis.com/auth/cloud-platform \
  --subnet=projects/PROJECT_ID/regions/REGION/subnetworks/SUBNET \
  --zone=ZONE

Ganti kode berikut:

VM_NAME: nama VM
PROJECT_ID: project ID Anda
REGION: region tempat Anda membuat cluster Kafka, misalnya us-central1
SUBNET: subnet di jaringan VPC yang sama dengan subnet yang Anda gunakan dalam konfigurasi cluster
ZONE: zona di region tempat Anda membuat cluster, misalnya us-central1-c

Untuk mengetahui informasi selengkapnya tentang cara membuat VM, lihat Membuat instance VM di subnet tertentu.

Memberikan peran IAM

Berikan peran Identity and Access Management (IAM) berikut ke akun layanan default Compute Engine:

Managed Kafka Client (roles/managedkafka.client)
Service Account Token Creator (roles/iam.serviceAccountTokenCreator)
Service Account OpenID Token Creator (roles/iam.serviceAccountOpenIdTokenCreator)

Konsol

Di konsol Google Cloud , buka halaman IAM.

Buka IAM
Temukan baris untuk akun layanan default Compute Engine, lalu klik Edit principal.
Klik Add another role, lalu pilih peran Managed Kafka Client. Ulangi langkah ini untuk peran Service Account Token Creator dan Service Account OpenID Token Creator.
Klik Simpan.

gcloud

Untuk memberikan peran IAM, gunakan perintah gcloud projects add-iam-policy-binding.

gcloud projects add-iam-policy-binding PROJECT_ID \
  --member="serviceAccount:PROJECT_NUMBER-compute@developer.gserviceaccount.com" \
  --role=roles/managedkafka.client

gcloud projects add-iam-policy-binding PROJECT_ID\
  --member="serviceAccount:PROJECT_NUMBER-compute@developer.gserviceaccount.com" \
  --role=roles/iam.serviceAccountTokenCreator

gcloud projects add-iam-policy-binding PROJECT_ID \
  --member="serviceAccount:PROJECT_NUMBER-compute@developer.gserviceaccount.com" \
  --role=roles/iam.serviceAccountOpenIdTokenCreator

Ganti kode berikut:

PROJECT_ID: project ID Anda
PROJECT_NUMBER: nomor project Anda

Untuk mendapatkan nomor project, jalankan perintah gcloud projects describe:

gcloud projects describe PROJECT_ID

Untuk mengetahui informasi selengkapnya, lihat Menemukan nama, nomor, dan ID project.

Terhubung ke VM

Gunakan SSH untuk terhubung ke instance VM.

Konsol

Buka halaman VM instances.

Buka instance VM
Dalam daftar instance VM, temukan nama VM, lalu klik SSH.

gcloud

Untuk terhubung ke VM, gunakan perintah gcloud compute ssh.

gcloud compute ssh VM_NAME \
  --project=PROJECT_ID \
  --zone=ZONE

Ganti kode berikut:

VM_NAME: nama VM
PROJECT_ID: project ID Anda
ZONE: zona tempat Anda membuat VM

Konfigurasi tambahan mungkin diperlukan untuk penggunaan SSH pertama kali. Untuk mengetahui informasi selengkapnya, lihat Tentang koneksi SSH.

Instal alat command line Kafka

Dari sesi SSH, jalankan perintah berikut untuk menginstal alat command line Kafka.

Instal Java, yang diperlukan untuk menjalankan alat command line Kafka, dan wget untuk membantu mendownload dependensi. Perintah berikut mengasumsikan Anda menggunakan lingkungan Linux Debian.
```
sudo apt-get install default-jre wget
```

Instal alat command line Kafka.

wget -O kafka_2.13-3.7.2.tgz https://dlcdn.apache.org/kafka/3.7.2/kafka_2.13-3.7.2.tgz
tar xfz kafka_2.13-3.7.2.tgz

Tetapkan variabel lingkungan berikut:

export KAFKA_HOME=$(pwd)/kafka_2.13-3.7.2
export PATH=$PATH:$KAFKA_HOME/bin
export CLASSPATH=$CLASSPATH:$KAFKA_HOME/libs/release-and-dependencies/*:$KAFKA_HOME/libs/release-and-dependencies/dependency/*

Menyiapkan autentikasi

Dari sesi SSH Anda, lakukan langkah-langkah berikut untuk menyiapkan library autentikasi Managed Service for Apache Kafka.

Download library dan instal secara lokal.

wget https://github.com/googleapis/managedkafka/releases/download/v1.0.5/release-and-dependencies.zip
sudo apt-get install unzip
unzip -n -j release-and-dependencies.zip -d $KAFKA_HOME/libs/

Perintah ini menginstal library di direktori lib dari direktori penginstalan Kafka. Alat command line Kafka mencari dependensi Java di direktori ini.

Dengan menggunakan editor teks, buat file bernama client.properties dan tempelkan kode berikut:
```
security.protocol=SASL_SSL
sasl.mechanism=OAUTHBEARER
sasl.login.callback.handler.class=com.google.cloud.hosted.kafka.auth.GcpLoginCallbackHandler
sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required;
```
Simpan file. File ini mengonfigurasi klien Kafka dengan setelan berikut:
- Gunakan SASL_SSL untuk komunikasi yang aman dengan cluster Kafka.
- Gunakan token pemilik OAuth 2.0 untuk autentikasi.
- Gunakan class GcpLoginCallbackHandler yang disediakan library sebagai handler callback login untuk mendapatkan token OAuth 2.0.

Membuat dan menggunakan pesan

Dari sesi SSH Anda, jalankan perintah berikut untuk membuat dan menggunakan pesan Kafka.

Tetapkan alamat bootstrap sebagai variabel lingkungan.
```
export BOOTSTRAP=bootstrap.CLUSTER_ID.REGION.managedkafka.PROJECT_ID.cloud.goog:9092
```
Ganti kode berikut:
- CLUSTER_ID: nama cluster Anda
- REGION: tempat Anda membuat cluster
- PROJECT_ID: project ID Anda
Untuk mengetahui informasi selengkapnya, lihat Mendapatkan alamat bootstrap.

Mencantumkan topik dalam cluster.

kafka-topics.sh --list \
  --bootstrap-server $BOOTSTRAP \
  --command-config client.properties

Menulis pesan ke topik.

echo "hello world" | kafka-console-producer.sh \
  --topic KAFKA_TOPIC_NAME \
  --bootstrap-server $BOOTSTRAP \
  --producer.config client.properties

Ganti KAFKA_TOPIC_NAME dengan nama topik.

Menggunakan pesan dari topik.

kafka-console-consumer.sh \
  --topic KAFKA_TOPIC_NAME \
  --from-beginning \
  --bootstrap-server $BOOTSTRAP \
  --consumer.config client.properties

Untuk berhenti menggunakan pesan, masukkan Ctrl+C.

Jalankan uji performa produser.

kafka-producer-perf-test.sh \
  --topic KAFKA_TOPIC_NAME \
  --num-records 1000000 --throughput 1000 --print-metrics --record-size 1024 \
  --producer-props bootstrap.servers=$BOOTSTRAP \
  --producer.config client.properties

Pembersihan

Agar akun Google Cloud Anda tidak dikenai biaya untuk resource yang digunakan pada halaman ini, ikuti langkah-langkah berikut.

Konsol

Hapus instance VM.
1. Buka halaman VM instances.
  
  Buka instance VM
2. Pilih VM, lalu klik Hapus.
Hapus cluster Kafka.
1. Buka halaman Managed Service for Apache Kafka > Clusters.
  
  Buka Cluster
2. Pilih cluster Kafka, lalu klik Hapus.

gcloud

Untuk menghapus VM, gunakan perintah gcloud compute instances delete.
```
gcloud compute instances delete VM_NAME --zone=ZONE
```

Untuk menghapus cluster Kafka, gunakan perintah gcloud managed-kafka clusters delete.

gcloud managed-kafka clusters delete CLUSTER_ID \
  --location=REGION --async

Langkah berikutnya

Apache Kafka® adalah merek dagang terdaftar milik The Apache Software Foundation atau afiliasinya di Amerika Serikat dan/atau negara lain.