Meninjau keamanan AI

Perlindungan AI menyediakan alat untuk memvisualisasikan inventaris aset AI organisasi Anda, menyelidiki temuan keamanan, dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman. Panduan ini menjelaskan cara mengelola keamanan AI menggunakan dasbor Keamanan AI dan halaman Aset.

Sebelum memulai

  • Konfigurasi Perlindungan AI.
  • Berikan peran Identity and Access Management (IAM) yang diperlukan kepada pengguna yang mengakses dasbor Keamanan AI dan tab Aset > Resource AI. Untuk mengetahui informasi selengkapnya, lihat Peran yang diperlukan.

Menggunakan dasbor Keamanan AI

Dasbor Keamanan AI memungkinkan Anda memvisualisasikan inventaris aset AI organisasi Anda dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman.

Mengakses dasbor Keamanan AI

Untuk mengakses dasbor Keamanan AI, di konsol Google Cloud , buka halaman Ringkasan risiko > Keamanan AI:

Buka Keamanan AI

Untuk mengetahui informasi selengkapnya, lihat Dasbor Keamanan AI.

Memahami pengelolaan risiko untuk sistem AI

Bagian ini mengidentifikasi potensi risiko pada sistem AI Anda, dengan menampilkan risiko teratas dalam inventaris AI Anda.

Untuk melihat visualisasi dan detail masalah tertentu, klik masalah tersebut.

Melihat ancaman AI

Bagian ini menyoroti ancaman terbaru terhadap resource AI Anda.

Di bagian ini, Anda dapat melakukan hal berikut:

  • Untuk melihat semua ancaman terhadap resource AI Anda, klik Lihat semua.
  • Untuk melihat informasi mendetail tentang ancaman tertentu, klik ancaman tersebut.

Memvisualisasikan inventaris AI Anda

Bagian ini memberikan ringkasan visual inventaris aset AI Anda, termasuk project yang menggunakan AI generatif, model pihak pertama dan pihak ketiga yang aktif, serta set data yang digunakan untuk melatih model pihak ketiga.

Di bagian ini, Anda dapat melakukan hal berikut:

  • Untuk melihat detail tentang inventaris Anda, klik node mana pun dalam visualisasi.
  • Untuk melihat daftar mendetail aset individual (seperti model Gemini dan model buatan khusus), klik tooltip.
  • Untuk melihat detail tentang model, klik model. Tampilan ini menampilkan detail seperti endpoint tempat model dihosting dan set data pelatihan. Jika Sensitive Data Protection diaktifkan, tampilan set data juga menunjukkan apakah set data berisi data sensitif.

Meninjau ringkasan temuan framework AI

Bagian ini membantu Anda menilai temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data. Paket ini mencakup kartu berikut:

  • Temuan: Bagian ini menampilkan ringkasan temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data, seperti Gemini model detected dan Gemini model not protected by Model Armor.

    • Untuk melihat semua temuan, klik Lihat semua temuan.
    • Untuk melihat temuan untuk kategori tertentu, klik jumlah temuan di samping kategori tersebut.
    • Untuk melihat detail setiap temuan, klik temuan.

  • Data sensitif di set data Vertex AI: Menampilkan ringkasan temuan terkait data sensitif di set data Anda, sebagaimana dilaporkan oleh Sensitive Data Protection. Untuk mengetahui informasi selengkapnya, lihat Pengantar Gemini Enterprise Agent Platform.

Memeriksa temuan Model Armor

Bagian ini menampilkan grafik jumlah total perintah dan respons yang dipindai oleh Model Armor beserta jumlah masalah yang terdeteksi. Grafik ini juga memberikan statistik ringkasan untuk jenis masalah tertentu, seperti injeksi perintah, upaya peretasan, dan eksposur data sensitif.

Untuk workload agentik, Anda dapat mengonfigurasi Model Armor di Agent Gateway untuk menyaring perintah dan respons ke dan dari agen.

Grafik ini menggunakan metrik yang dipublikasikan Model Armor ke Cloud Monitoring. Untuk mengetahui informasi selengkapnya, lihat Ringkasan Model Armor.

Meninjau temuan Agent Platform Vulnerability Assessment

Temuan yang dihasilkan oleh Agent Platform Vulnerability Assessment mencakup informasi tentang lokasi dan jenis Secret, tetapi tidak mencakup nilai Secret.

Untuk meninjau temuan yang dihasilkan oleh Agent Platform Vulnerability Assessment, lakukan langkah berikut:

  1. Di konsol Google Cloud , buka halaman Findings di Security Command Center.

    Buka Temuan

  2. Pilih project atau organisasi Anda. Google Cloud
  3. Di bagian Quick filters, di subbagian Class, pilih Secrets. Hasil kueri diperbarui untuk menampilkan hanya temuan yang cocok.
  4. Untuk melihat detail temuan tertentu, klik nama temuan di kolom Kategori. Panel detail untuk temuan akan terbuka dan menampilkan tab Ringkasan.
  5. Di tab Ringkasan, di bagian Terdeteksi, lihat Deskripsi, lalu klik link berikut untuk melihat detail selengkapnya:
    • File: Lihat informasi tentang tempat ditemukannya rahasia.
    • Melihat detail Secret: Lihat jenis secret yang diidentifikasi.

Memeriksa resource AI

Selain dasbor Keamanan AI, Anda dapat memeriksa dan membuat kueri inventaris aset AI organisasi Anda di halaman Aset di konsolGoogle Cloud menggunakan tab Sumber daya AI.

Tab Aset AI memberikan tampilan mendetail dan dapat difilter dari sistem dan aset AI yang ditemukan, termasuk:

  • Model
  • Endpoint
  • Sumber data
  • Pipeline
  • Agen
  • Server Model Context Protocol (MCP)
  • Notebook

Anda dapat menggunakan tab Sumber daya AI untuk membantu hal berikut:

  • Memahami inventaris AI Anda: Lihat daftar lengkap aset AI aktif di seluruh organisasi Anda, yang difilter menurut project, lokasi, atau jenis resource.
  • Lakukan investigasi keamanan: Periksa metadata lengkap, histori perubahan, dan kebijakan IAM terkait aset AI tertentu.
  • Periksa temuan terkait: Lihat dengan cepat semua temuan keamanan yang terkait dengan aset AI tertentu untuk mengevaluasi eksposur risikonya dan menentukan langkah-langkah perbaikan yang diperlukan.

Untuk mengetahui informasi selengkapnya tentang cara melihat dan memfilter aset AI di konsol, lihat Memeriksa aset yang dipantau oleh Security Command Center.

Langkah berikutnya