Meninjau keamanan AI

AI Protection menyediakan alat untuk memvisualisasikan inventaris aset AI organisasi Anda, menyelidiki temuan keamanan, dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman. Panduan ini menjelaskan cara mengelola keamanan AI menggunakan dasbor Keamanan AI dan halaman Aset.

Sebelum memulai

  • Konfigurasi AI Protection.
  • Berikan peran Identity and Access Management (IAM) yang diperlukan kepada pengguna yang mengakses dasbor Keamanan AI dan tab Aset > Aset AI. Untuk mengetahui informasi selengkapnya, lihat Peran yang diperlukan.

Menggunakan dasbor Keamanan AI

Dasbor Keamanan AI memungkinkan Anda memvisualisasikan inventaris aset AI organisasi dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman.

Mengakses dasbor Keamanan AI

Untuk mengakses dasbor keamanan AI, di Google Cloud konsol, buka halaman Ringkasan risiko > Keamanan AI:

Buka Keamanan AI

Untuk mengetahui informasi selengkapnya, lihat Dasbor Keamanan AI.

Memahami pengelolaan risiko untuk sistem AI

Bagian ini mengidentifikasi potensi risiko pada sistem AI Anda, yang menampilkan risiko teratas dalam inventaris AI Anda.

Untuk melihat visualisasi dan detail masalah tertentu, klik masalah tersebut.

Melihat ancaman AI

Bagian ini menyoroti ancaman terbaru terhadap aset AI Anda.

Di bagian ini, Anda dapat melakukan hal berikut:

  • Untuk melihat semua ancaman terhadap aset AI Anda, klik Lihat semua.
  • Untuk melihat informasi mendetail tentang ancaman tertentu, klik ancaman tersebut.

Memvisualisasikan inventaris AI Anda

Bagian ini memberikan ringkasan visual inventaris aset AI Anda, termasuk project yang menggunakan AI generatif, model pihak pertama dan pihak ketiga yang aktif, serta set data yang digunakan untuk melatih model pihak ketiga.

Di bagian ini, Anda dapat melakukan hal berikut:

  • Untuk melihat detail inventaris Anda, klik node mana pun dalam visualisasi.
  • Untuk melihat daftar mendetail aset individual (seperti model Gemini dan model buatan kustom), klik tooltip.
  • Untuk melihat detail model, klik model tersebut. Tampilan ini menampilkan detail seperti endpoint tempat model dihosting dan set data pelatihan. Jika Sensitive Data Protection diaktifkan, tampilan set data juga menunjukkan apakah set data berisi data sensitif.

Meninjau ringkasan temuan framework AI

Bagian ini membantu Anda menilai temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data. Bagian ini mencakup kartu berikut:

  • Temuan: Bagian ini menampilkan ringkasan temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data, seperti Gemini model detected dan Gemini model not protected by Model Armor.

    • Untuk melihat semua temuan, klik Lihat semua temuan.
    • Untuk melihat temuan untuk kategori tertentu, klik jumlah temuan di samping kategori tersebut.
    • Untuk melihat detail temuan individual, klik temuan tersebut.

  • Data sensitif di set data Vertex AI: Menampilkan ringkasan temuan terkait data sensitif dalam set data Anda, seperti yang dilaporkan oleh Sensitive Data Protection. Untuk mengetahui informasi selengkapnya, lihat Pengantar Gemini Enterprise Agent Platform.

Memeriksa temuan Model Armor

Bagian ini menampilkan grafik jumlah total perintah dan respons yang dipindai oleh Model Armor beserta jumlah masalah yang terdeteksi. Grafik ini juga memberikan statistik ringkasan untuk jenis masalah tertentu, seperti injeksi perintah, upaya jailbreak, dan eksposur data sensitif.

Untuk workload agentic, Anda dapat mengonfigurasi Model Armor di Agent Gateway (Pratinjau) untuk memfilter perintah dan respons ke dan dari agen.

Grafik ini menggunakan metrik yang dipublikasikan Model Armor ke Cloud Monitoring. Untuk mengetahui informasi selengkapnya, lihat Ringkasan Model Armor.

Memeriksa aset AI

Selain dasbor Keamanan AI, Anda dapat memeriksa dan membuat kueri inventaris aset AI organisasi di halaman Aset di Google Cloud konsol menggunakan tab Aset AI.

Tab Aset AI memberikan tampilan mendetail dan dapat difilter dari aset dan sistem AI yang ditemukan, termasuk hal berikut:

  • Model
  • Endpoint
  • Sumber data
  • Pipeline
  • Agen (Pratinjau)
  • Server Model Context Protocol (MCP) (Pratinjau)
  • Notebook

Anda dapat menggunakan tab Aset AI untuk membantu hal berikut:

  • Memahami inventaris AI Anda: Lihat daftar lengkap aset AI aktif di seluruh organisasi Anda, yang difilter menurut project, lokasi, atau jenis aset.
  • Melakukan penyelidikan keamanan: Periksa metadata lengkap, histori perubahan, dan kebijakan IAM terkait aset AI tertentu.
  • Memeriksa temuan terkait: Lihat dengan cepat semua temuan keamanan yang terkait dengan aset AI tertentu untuk mengevaluasi eksposur risikonya dan menentukan langkah-langkah perbaikan yang diperlukan.

Untuk mengetahui informasi selengkapnya tentang cara melihat dan memfilter aset AI di konsol, lihat Memeriksa aset yang dipantau oleh Security Command Center.

Langkah berikutnya