Membuat kueri set data publik dengan library klien BigQuery
Pelajari cara membuat kueri set data publik dengan library klien BigQuery.
Untuk mengikuti panduan langkah demi langkah untuk tugas ini secara langsung di konsolGoogle Cloud , pilih bahasa pemrograman pilihan Anda:
C#
Go
Java
Node.js
PHP
Python
Ruby
Sebelum memulai
-
Buat atau pilih Google Cloud project.
Peran yang diperlukan untuk memilih atau membuat project
- Pilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project mana pun yang telah diberi peran.
-
Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project
(
roles/resourcemanager.projectCreator), yang berisi izinresourcemanager.projects.create. Pelajari cara memberikan peran.
-
Buat Google Cloud project:
gcloud projects create PROJECT_ID
Ganti
PROJECT_IDdengan nama untuk Google Cloud project yang Anda buat. -
Pilih project Google Cloud yang Anda buat:
gcloud config set project PROJECT_ID
Ganti
PROJECT_IDdengan nama project Google Cloud Anda.
-
Pilih apakah akan menggunakan sandbox BigQuery tanpa biaya, atau mengaktifkan penagihan untuk Google Cloud project Anda.
Jika penagihan untuk suatu project tidak diaktifkan, Anda akan secara otomatis menggunakan sandbox BigQuery. Sandbox BigQuery memungkinkan Anda mempelajari BigQuery dengan sekumpulan fitur terbatas BigQuery tanpa biaya. Jika Anda tidak berencana untuk menggunakan project di luar dokumen ini, sebaiknya gunakan sandbox BigQuery.
-
Memberikan peran ke akun pengguna Anda. Jalankan perintah berikut satu kali untuk setiap peran IAM berikut:
roles/serviceusage.serviceUsageAdmin, roles/bigquery.jobUsergcloud projects add-iam-policy-binding PROJECT_ID --member="user:USER_IDENTIFIER" --role=ROLE
Ganti kode berikut:
PROJECT_ID: Project ID Anda.USER_IDENTIFIER: ID untuk akun pengguna Anda. Misalnya,myemail@example.com.ROLE: Peran IAM yang Anda berikan ke akun pengguna Anda.
-
Aktifkan BigQuery API:
Peran yang diperlukan untuk mengaktifkan API
Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (
roles/serviceusage.serviceUsageAdmin), yang berisi izinserviceusage.services.enable. Pelajari cara memberikan peran.gcloud services enable bigquery
Untuk project baru, BigQuery API diaktifkan secara otomatis.
-
Di konsol Google Cloud , aktifkan Cloud Shell.
Aktifkan project Google Cloud Anda di Cloud Shell:
gcloud config set project PROJECT_IDGanti PROJECT_ID dengan project yang Anda pilih untuk panduan ini.
Outputnya mirip dengan yang berikut ini:
Updated property [core/project].
Membuat kueri set data publik
Pilih salah satu bahasa berikut:
C#
Di Cloud Shell, buat project dan file C# yang baru:
dotnet new console -n BigQueryCsharpDemo
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
Welcome to .NET 6.0! --------------------- SDK Version: 6.0.407 ... The template "Console App" was created successfully. ...
Perintah ini membuat project C# bernama
BigQueryCsharpDemodan file bernamaProgram.cs.Buka Cloud Shell Editor:
cloudshell workspace BigQueryCsharpDemo
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd BigQueryCsharpDemo
Instal library klien BigQuery untuk C#:
dotnet add package Google.Cloud.BigQuery.V2
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
Determining projects to restore... Writing /tmp/tmpF7EKSd.tmp ... info : Writing assets file to disk. ...
Setel variabel
GOOGLE_PROJECT_IDke nilaiGOOGLE_CLOUD_PROJECT, lalu ekspor variabel tersebut:export GOOGLE_PROJECT_ID=$GOOGLE_CLOUD_PROJECT
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERYCSHARPDEMOAnda.Klik file
Program.csuntuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, ganti konten file dengan kode berikut:Klik Open Terminal.
Di terminal, jalankan skrip
Program.cs. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.dotnet runHasilnya mirip dengan yang berikut ini:
Query Results: ------------ https://stackoverflow.com/questions/35159967: 170023 views https://stackoverflow.com/questions/22879669: 142581 views https://stackoverflow.com/questions/10604135: 132406 views https://stackoverflow.com/questions/44564887: 128781 views https://stackoverflow.com/questions/27060396: 127008 views https://stackoverflow.com/questions/12482637: 120766 views https://stackoverflow.com/questions/20673986: 115720 views https://stackoverflow.com/questions/39109817: 108368 views https://stackoverflow.com/questions/11057219: 105175 views https://stackoverflow.com/questions/43195143: 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien C# BigQuery.
Go
Di Cloud Shell, buat project dan file Go yang baru:
mkdir bigquery-go-quickstart \ && touch \ bigquery-go-quickstart/app.go
Perintah ini membuat project Go bernama
bigquery-go-quickstartdan file bernamaapp.go.Buka Cloud Shell Editor:
cloudshell workspace bigquery-go-quickstart
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd bigquery-go-quickstart
Buat file
go.mod:go mod init quickstart
Outputnya mirip dengan yang berikut ini:
go: creating new go.mod: module quickstart go: to add module requirements and sums: go mod tidyInstal library klien BigQuery untuk Go:
go get cloud.google.com/go/bigquery
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
go: downloading cloud.google.com/go/bigquery v1.49.0 go: downloading cloud.google.com/go v0.110.0 ... go: added cloud.google.com/go/bigquery v1.49.0 go: added cloud.google.com/go v0.110.0
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERY-GO-QUICKSTARTAnda.Klik file
app.gountuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, salin kode berikut ke fileapp.go:Klik Open Terminal.
Di terminal, jalankan skrip
app.go. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.go run app.go
Hasilnya mirip dengan yang berikut ini:
https://stackoverflow.com/questions/35159967 : 170023 views https://stackoverflow.com/questions/22879669 : 142581 views https://stackoverflow.com/questions/10604135 : 132406 views https://stackoverflow.com/questions/44564887 : 128781 views https://stackoverflow.com/questions/27060396 : 127008 views https://stackoverflow.com/questions/12482637 : 120766 views https://stackoverflow.com/questions/20673986 : 115720 views https://stackoverflow.com/questions/39109817 : 108368 views https://stackoverflow.com/questions/11057219 : 105175 views https://stackoverflow.com/questions/43195143 : 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien Go BigQuery.
Java
Di Cloud Shell, buat project baru Java menggunakan Apache Maven:
mvn archetype:generate \ -DgroupId=com.google.app \ -DartifactId=bigquery-java-quickstart \ -DinteractiveMode=false
Perintah ini membuat project Maven bernama
bigquery-java-quickstart.Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
[INFO] Scanning for projects... ... [INFO] Building Maven Stub Project (No POM) 1 ... [INFO] BUILD SUCCESS ...
Ada banyak sistem pengelolaan dependensi yang dapat Anda gunakan selain Maven. Untuk mengetahui informasi selengkapnya, pelajari cara menyiapkan lingkungan pengembangan Java untuk digunakan dengan library klien.
Ganti nama file
App.javayang dibuat Maven secara default:mv \ bigquery-java-quickstart/src/main/java/com/google/app/App.java \ bigquery-java-quickstart/src/main/java/com/google/app/SimpleApp.java
Buka Cloud Shell Editor:
cloudshell workspace bigquery-java-quickstart
Jika Anda diminta untuk menyinkronkan classpath atau konfigurasi Java, klik Selalu.
Jika Anda tidak diminta dan mengalami error yang berhubungan dengan classpath selama panduan ini, lakukan tindakan berikut:
- Klik File > Preferensi > Buka Setelan (UI).
- Klik Ekstensi > Java.
- Scroll ke Konfigurasi: Update Konfigurasi Build, lalu pilih otomatis.
Di panel Penjelajah, cari lokasi project
BIGQUERY-JAVA-QUICKSTARTAnda.Klik file
pom.xmluntuk membukanya.Di dalam tag
<dependencies>, tambahkan dependensi berikut setelah dependensi yang ada. Jangan ganti dependensi yang ada.<dependency> <groupId>com.google.cloud</groupId> <artifactId>google-cloud-bigquery</artifactId> </dependency>Pada baris setelah tag penutup (
</dependencies>), tambahkan kode berikut:<dependencyManagement> <dependencies> <dependency> <groupId>com.google.cloud</groupId> <artifactId>libraries-bom</artifactId> <version>26.1.5</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement>Di panel Penjelajah, di proyek
BIGQUERY-JAVA-QUICKSTARTAnda, klik src > main/java/com/google/app > SimpleApp.java. File akan terbuka.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflow, biarkan baris pertama file (package com.google.app;), dan ganti isi file lainnya dengan kode berikut:Kueri akan menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya.
Klik kanan SimpleApp.java, lalu klik Jalankan Java. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.
Hasilnya mirip dengan yang berikut ini:
https://stackoverflow.com/questions/35159967 : 170023 views https://stackoverflow.com/questions/22879669 : 142581 views https://stackoverflow.com/questions/10604135 : 132406 views https://stackoverflow.com/questions/44564887 : 128781 views https://stackoverflow.com/questions/27060396 : 127008 views https://stackoverflow.com/questions/12482637 : 120766 views https://stackoverflow.com/questions/20673986 : 115720 views https://stackoverflow.com/questions/39109817 : 108368 views https://stackoverflow.com/questions/11057219 : 105175 views https://stackoverflow.com/questions/43195143 : 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien Java BigQuery.
Node.js
Di Cloud Shell, buat project dan file Node.js yang baru:
mkdir bigquery-node-quickstart \ && touch \ bigquery-node-quickstart/app.js
Perintah ini membuat project Node.js bernama
bigquery-node-quickstartdan file bernamaapp.js.Buka Cloud Shell Editor:
cloudshell workspace bigquery-node-quickstart
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd bigquery-node-quickstart
Instal library klien BigQuery untuk Node.js:
npm install @google-cloud/bigquery
Outputnya mirip dengan hal berikut ini:
added 63 packages in 2s
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERY-NODE-QUICKSTARTAnda.Klik file
app.jsuntuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, salin kode berikut ke fileapp.js:Klik Open Terminal.
Di terminal, jalankan skrip
app.js. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.node app.jsHasilnya mirip dengan yang berikut ini:
Query Results: url: https://stackoverflow.com/questions/35159967, 170023 views url: https://stackoverflow.com/questions/22879669, 142581 views url: https://stackoverflow.com/questions/10604135, 132406 views url: https://stackoverflow.com/questions/44564887, 128781 views url: https://stackoverflow.com/questions/27060396, 127008 views url: https://stackoverflow.com/questions/12482637, 120766 views url: https://stackoverflow.com/questions/20673986, 115720 views url: https://stackoverflow.com/questions/39109817, 108368 views url: https://stackoverflow.com/questions/11057219, 105175 views url: https://stackoverflow.com/questions/43195143, 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien Node.js BigQuery.
PHP
Di Cloud Shell, buat project dan file PHP yang baru:
mkdir bigquery-php-quickstart \ && touch \ bigquery-php-quickstart/app.php
Perintah ini membuat project PHP bernama
bigquery-php-quickstartdan file bernamaapp.php.Buka Cloud Shell Editor:
cloudshell workspace bigquery-php-quickstart
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd bigquery-php-quickstart
Instal library klien BigQuery untuk PHP:
composer require google/cloud-bigquery
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
Running composer update google/cloud-bigquery Loading composer repositories with package information Updating dependencies ... No security vulnerability advisories found Using version ^1.24 for google/cloud-bigquery
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERY-PHP-QUICKSTARTAnda.Klik file
app.phpuntuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, salin kode berikut ke fileapp.php:Klik Open Terminal.
Di terminal, jalankan skrip
app.php. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.php app.phpHasilnya mirip dengan yang berikut ini:
--- Row 1 --- url: https://stackoverflow.com/questions/35159967, 170023 views --- Row 2 --- url: https://stackoverflow.com/questions/22879669, 142581 views --- Row 3 --- url: https://stackoverflow.com/questions/10604135, 132406 views --- Row 4 --- url: https://stackoverflow.com/questions/44564887, 128781 views --- Row 5 --- url: https://stackoverflow.com/questions/27060396, 127008 views --- Row 6 --- url: https://stackoverflow.com/questions/12482637, 120766 views --- Row 7 --- url: https://stackoverflow.com/questions/20673986, 115720 views --- Row 8 --- url: https://stackoverflow.com/questions/39109817, 108368 views --- Row 9 --- url: https://stackoverflow.com/questions/11057219, 105175 views --- Row 10 --- url: https://stackoverflow.com/questions/43195143, 101878 views Found 10 row(s)
Anda telah berhasil membuat kueri set data publik dengan library klien PHP BigQuery.
Python
Di Cloud Shell, buat project dan file Python yang baru:
mkdir bigquery-python-quickstart \ && touch \ bigquery-python-quickstart/app.py
Perintah ini membuat project Python bernama
bigquery-python-quickstartdan file bernamaapp.py.Buka Cloud Shell Editor:
cloudshell workspace bigquery-python-quickstart
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd bigquery-python-quickstart
Instal library klien BigQuery untuk Python:
pip install --upgrade google-cloud-bigquery
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
Installing collected packages: google-cloud-bigquery ... Successfully installed google-cloud-bigquery-3.9.0 ...
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERY-PYTHON-QUICKSTARTAnda.Klik file
app.pyuntuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, salin kode berikut ke fileapp.py:Klik Open Terminal.
Di terminal, jalankan skrip
app.py. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.python app.pyHasilnya mirip dengan yang berikut ini:
https://stackoverflow.com/questions/35159967 : 170023 views https://stackoverflow.com/questions/22879669 : 142581 views https://stackoverflow.com/questions/10604135 : 132406 views https://stackoverflow.com/questions/44564887 : 128781 views https://stackoverflow.com/questions/27060396 : 127008 views https://stackoverflow.com/questions/12482637 : 120766 views https://stackoverflow.com/questions/20673986 : 115720 views https://stackoverflow.com/questions/39109817 : 108368 views https://stackoverflow.com/questions/11057219 : 105175 views https://stackoverflow.com/questions/43195143 : 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien Python BigQuery.
Ruby
Di Cloud Shell, buat project dan file Ruby yang baru:
mkdir bigquery-ruby-quickstart \ && touch \ bigquery-ruby-quickstart/app.rb
Perintah ini akan membuat project Ruby bernama
bigquery-ruby-quickstartdan file bernamaapp.rb.Buka Cloud Shell Editor:
cloudshell workspace bigquery-ruby-quickstart
Untuk membuka terminal di Cloud Shell Editor, klik Open Terminal.
Buka direktori project Anda:
cd bigquery-ruby-quickstart
Instal library klien BigQuery untuk Ruby:
gem install google-cloud-bigquery
Outputnya mirip dengan yang berikut ini. Beberapa baris dihilangkan untuk menyederhanakan output.
23 gems installed
Klik Open Editor.
Di panel Penjelajah, cari lokasi project
BIGQUERY-RUBY-QUICKSTARTAnda.Klik file
app.rbuntuk membukanya.Untuk membuat kueri terhadap set data
bigquery-public-data.stackoverflowyang menampilkan 10 halaman Stack Overflow yang paling sering dilihat dan jumlah tampilannya, salin kode berikut ke fileapp.rb:Klik Open Terminal.
Di terminal, jalankan skrip
app.rb. Jika Anda diminta untuk memberi otorisasi kepada Cloud Shell dan menyetujui persyaratannya, klik Otorisasi.ruby app.rbHasilnya mirip dengan yang berikut ini:
https://stackoverflow.com/questions/35159967: 170023 views https://stackoverflow.com/questions/22879669: 142581 views https://stackoverflow.com/questions/10604135: 132406 views https://stackoverflow.com/questions/44564887: 128781 views https://stackoverflow.com/questions/27060396: 127008 views https://stackoverflow.com/questions/12482637: 120766 views https://stackoverflow.com/questions/20673986: 115720 views https://stackoverflow.com/questions/39109817: 108368 views https://stackoverflow.com/questions/11057219: 105175 views https://stackoverflow.com/questions/43195143: 101878 views
Anda telah berhasil membuat kueri set data publik dengan library klien Ruby BigQuery.
Pembersihan
Agar akun Google Cloud Anda tidak dikenai biaya, hapus Google Cloud project Anda, atau hapus resource yang Anda buat dalam panduan ini. Google Cloud
Menghapus project
Cara termudah untuk menghilangkan penagihan adalah dengan menghapus project yang Anda buat untuk tutorial.
Untuk menghapus project:
- Di Konsol Google Cloud , buka halaman Manage resources.
- Pada daftar project, pilih project yang ingin Anda hapus, lalu klik Delete.
- Pada dialog, ketik project ID, lalu klik Shut down untuk menghapus project.
Menghapus resource
Jika Anda menggunakan project yang ada, hapus resource yang dibuat:
C#
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
BigQueryCsharpDemoyang Anda buat:rm -R BigQueryCsharpDemo
Flag
-Rmenghapus semua aset di dalam folder.
Go
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-go-quickstartyang Anda buat:rm -R bigquery-go-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
Java
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-java-quickstartyang Anda buat:rm -R bigquery-java-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
Node.js
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-node-quickstartyang Anda buat:rm -R bigquery-node-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
PHP
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-php-quickstartyang Anda buat:rm -R bigquery-php-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
Python
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-python-quickstartyang Anda buat:rm -R bigquery-python-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
Ruby
Di Cloud Shell, pindahkan direktori:
cd ..
Hapus folder
bigquery-ruby-quickstartyang Anda buat:rm -R bigquery-ruby-quickstart
Flag
-Rmenghapus semua aset di dalam folder.
Langkah berikutnya
- Pelajari lebih lanjut cara menggunakan library klien BigQuery.
- Pelajari lebih lanjut tentang set data publik BigQuery.
- Pelajari cara memuat data ke BigQuery.
- Pelajari lebih lanjut cara membuat kueri data di BigQuery.
- Dapatkan info terbaru tentang BigQuery.
- Pelajari tentang harga BigQuery.
- Pelajari kuota dan batas BigQuery.