Ringkasan Perlindungan AI

AI Protection membantu Anda mengelola postur keamanan workload AI dengan mendeteksi ancaman dan membantu Anda mengurangi risiko pada inventaris aset AI. Dokumen ini memberikan ringkasan umum AI Protection, termasuk manfaat dan beberapa konsep utamanya. AI Protection tersedia dengan aktivasi Security Command Center tingkat organisasi.

Untuk paket layanan Premium dan Enterprise, saat Security Command Center di aktifkan di tingkat organisasi, AI Protection membantu memberikan tampilan komprehensif keamanan AI di seluruh lingkungan Anda Google Cloud . Dasbor AI Protection di dalam Google Cloud konsol menampilkan serangkaian widget dan fitur yang konsisten, dengan data yang diagregasi dari semua project dan resource dalam organisasi.

Kemampuan AI Protection

AI Protection membantu Anda mengelola ancaman dan risiko pada sistem AI dengan cara berikut:

  • Menilai inventaris aset AI: Menilai dan memahami sistem AI dan aset AI Anda menggunakan dasbor Keamanan AI dan tab resource AI, termasuk hal berikut:
    • Model
    • Sumber data
    • Endpoint
    • Agen (Pratinjau)
    • Server Model Context Protocol (MCP) yang dikatalogkan di Registry Agen (Pratinjau). Penemuan server MCP memerlukan Pusat Aplikasi (apphub.googleapis.com) untuk diaktifkan di setiap project yang menghosting server MCP.
  • Mengidentifikasi kerentanan: Mengidentifikasi kerentanan software (CVE) dalam workload agentic yang di-deploy dengan Agent Runtime.
  • Mengidentifikasi risiko: Mengidentifikasi risiko agentic dan dampaknya pada ekosistem berdasarkan Simulasi Jalur Serangan dan aturan grafik keamanan yang telah ditentukan, dengan agen dan server MCP sebagai resource bernilai tinggi.
  • Mendeteksi agen yang memiliki hak istimewa berlebihan: Mendeteksi agen Agent Runtime yang diberi izin berlebihan. (Pratinjau)
  • Mengelola risiko dan kepatuhan: Mengelola risiko aset AI Anda secara proaktif dan memverifikasi bahwa deployment AI Anda mematuhi standar keamanan yang relevan.
  • Mengurangi risiko hukum dan keuangan: Mengurangi risiko keuangan, reputasi, dan hukum yang terkait dengan pelanggaran keamanan dan ketidakpatuhan terhadap peraturan.
  • Mendeteksi dan mengelola ancaman: Mendeteksi dan merespons potensi ancaman terhadap sistem dan aset AI Anda secara tepat waktu.
  • Melihat satu dasbor: Mengelola semua risiko dan ancaman terkait AI dari satu dasbor terpusat.

Kasus penggunaan AI Protection

AI Protection membantu organisasi meningkatkan keamanan dengan mengidentifikasi dan mengurangi ancaman serta risiko yang terkait dengan sistem AI dan data sensitif. Kasus penggunaan berikut adalah contoh bagaimana AI Protection dapat digunakan di berbagai organisasi:

  • Institusi layanan keuangan: data keuangan pelanggan

    Institusi layanan keuangan besar menggunakan model AI yang memproses data keuangan sensitif.

    • Tantangan: Memproses data keuangan yang sangat sensitif dengan model AI menimbulkan beberapa risiko, termasuk risiko pelanggaran data, eksfiltrasi data selama pelatihan atau inferensi, dan kerentanan dalam infrastruktur AI yang mendasarinya.
    • Kasus penggunaan: AI Protection terus memantau alur kerja AI untuk aktivitas mencurigakan, berupaya mendeteksi akses data yang tidak sah dan perilaku model yang anomali, melakukan klasifikasi data sensitif, dan membantu meningkatkan kepatuhan Anda terhadap peraturan seperti PCI DSS dan GDPR.

  • Penyedia layanan kesehatan: privasi dan kepatuhan pasien

    Penyedia layanan kesehatan besar mengelola rekam medis elektronik dan menggunakan AI untuk perencanaan diagnosis dan pengobatan, yang menangani Informasi Kesehatan Terlindungi (PHI).

    • Tantangan: PHI yang dianalisis oleh model AI tunduk pada peraturan ketat seperti HIPAA. Risiko mencakup paparan PHI yang tidak disengaja melalui kesalahan konfigurasi atau serangan berbahaya yang menargetkan sistem AI untuk data pasien.
    • Kasus penggunaan: AI Protection mengidentifikasi dan memberikan notifikasi tentang potensi pelanggaran HIPAA, mendeteksi akses PHI yang tidak sah oleh model atau pengguna, menandai layanan AI yang rentan dan berpotensi salah konfigurasi, serta memantau kebocoran data.

  • Perusahaan manufaktur dan robotik: kekayaan intelektual eksklusif

    Perusahaan manufaktur yang berspesialisasi dalam robotik dan otomatisasi canggih sangat bergantung pada AI untuk mengoptimalkan lini produksi dan kontrol robotik, dengan kekayaan intelektual (IP) penting yang disematkan dalam algoritma AI dan data manufaktur.

    • Tantangan: Algoritma AI eksklusif dan data operasional sensitif rentan terhadap pencurian dari ancaman orang dalam atau musuh eksternal, yang berpotensi menyebabkan kerugian kompetitif atau gangguan operasional.
    • Kasus penggunaan: AI Protection memantau akses tidak sah ke model AI dan repositori kode, mendeteksi upaya eksfiltrasi model terlatih dan pola akses data yang tidak biasa, serta menandai kerentanan di lingkungan pengembangan AI untuk mencegah pencurian IP.

Aturan Event Threat Detection untuk aset Platform Agen Gemini Enterprise

Event Threat Detection mendeteksi beberapa potensi ancaman yang melibatkan aset Platform Agen Gemini Enterprise, seperti aktivitas akun layanan yang anomali, perubahan izin sensitif, dan penyalahgunaan identitas agentic.

Kategori temuan yang berlaku untuk aset AI mencakup hal berikut:

  • Persistensi: Metode AI API Baru
  • Persistensi: Geografi Baru untuk Layanan AI
  • Eskalasi Akses: Peniruan Identitas Akun Layanan yang Anomali untuk Aktivitas Admin AI
  • Eskalasi Akses: Peniru Identitas Akun Layanan yang Anomali untuk Akses Data AI
  • Eskalasi Akses: Delegasi Akun Layanan Multilangkah yang Anomali untuk Aktivitas Admin AI
  • Eskalasi Akses: Delegasi Akun Layanan Multilangkah yang Anomali untuk Akses Data AI
  • Eskalasi Akses: Peniru Identitas Akun Layanan yang Anomali untuk Aktivitas Admin AI
  • Akses Awal: Aktivitas Akun Layanan yang Tidak Aktif di Layanan AI
  • Persistensi: Pemberian IAM yang Anomali ke Identitas Agentic
  • Akses Kredensial: Kredensial Identitas Agentic Digunakan di Luar Google Cloud
  • Persistensi: Izin AI Sensitif Ditambahkan ke Peran Khusus
  • Persistensi: Peran Sensitif Diberikan oleh Agen AI
  • Persistensi: Peran Sensitif Diberikan ke Agen AI Eksternal
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Project Diberikan ke Agen AI
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Folder Diberikan ke Agen AI
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Organisasi Diberikan ke Agen AI

Untuk daftar lengkap temuan Event Threat Detection yang berlaku untuk aset AI, lihat Layanan deteksi.

Agent Platform Threat Detection untuk Agent Runtime

Agent Platform Threat Detection menyediakan deteksi ancaman runtime untuk agen yang di-deploy ke Agent Runtime. Fitur ini memantau agen yang berjalan untuk potensi serangan dan menghasilkan temuan di Security Command Center.

Agent Platform Threat Detection dapat menghasilkan temuan untuk Agent Runtime termasuk kategori berikut:

  • Perintah dan Kontrol: Alat Steganografi Terdeteksi
  • Akses Kredensial: Find Google Cloud Credentials
  • Akses Kredensial: Pengintaian Kunci GPG
  • Akses Kredensial: Menelusuri Kunci Pribadi atau Sandi
  • Penghindaran Pertahanan: Command Line File ELF Base64
  • Penghindaran Pertahanan: Skrip Python Berenkode Base64 Dieksekusi
  • Penghindaran Pertahanan: Skrip Shell Berenkode Base64 Dieksekusi
  • Penghindaran Pertahanan: Meluncurkan Alat Compiler Kode Di Penampung
  • Eksekusi: Eksekusi Kode Jarak Jauh Netcat di Penampung
  • Eksekusi: Kemungkinan Eksekusi Perintah Arbitrer melalui CUPS (CVE-2024-47177)
  • Eksekusi: Kemungkinan Eksekusi Perintah Jarak Jauh Terdeteksi
  • Eksekusi: Program Berjalan dengan Env Proxy HTTP yang Tidak Diizinkan
  • Eksekusi: Reverse Shell Socat Terdeteksi
  • Eksekusi: Objek Bersama OpenSSL Mencurigakan Dimuat
  • Eksfiltrasi: Meluncurkan Alat Salin File Jarak Jauh di Penampung
  • Dampak: Mendeteksi Cmdline Berbahaya
  • Dampak: Menghapus Data Massal dari Disk
  • Dampak: Aktivitas penambangan kripto mencurigakan menggunakan Protokol Stratum
  • Eskalasi Akses: Penyalahgunaan Sudo Untuk Eskalasi Akses (CVE-2019-14287)
  • Eskalasi Akses: Kerentanan Eskalasi Akses Lokal Polkit (CVE-2021-4034)
  • Eskalasi Akses: Potensi Eskalasi Akses Sudo (CVE-2021-3156)
  • Eksekusi: Python Berbahaya Dieksekusi
  • Eksekusi: Escape Penampung
  • Eksekusi: Eksekusi Alat Serangan Kubernetes
  • Eksekusi: Eksekusi Alat Pengintaian Lokal
  • Dampak: Skrip Berbahaya Dieksekusi
  • Dampak: URL Berbahaya Teramati
  • Eksekusi: Shell Turunan yang Tidak Terduga

Untuk daftar lengkap temuan Agent Platform Threat Detection, lihat Layanan deteksi.

Framework AI Protection

AI Protection menggunakan framework yang mencakup kontrol cloud tertentu yang di-deploy secara otomatis dalam mode detektif. Mode detektif berarti kontrol cloud diterapkan ke resource yang ditentukan untuk tujuan pemantauan. Setiap pelanggaran akan terdeteksi dan notifikasi akan dibuat. Anda menggunakan framework dan kontrol cloud untuk menentukan persyaratan AI Protection dan menerapkan persyaratan tersebut ke lingkungan Google Cloud Anda. AI Protection mencakup framework Default, yang menentukan kontrol dasar yang direkomendasikan untuk AI Protection. Saat Anda mengaktifkan AI Protection, framework default akan otomatis diterapkan ke Google Cloud organisasi dalam mode detektif.

Jika diperlukan, Anda dapat membuat salinan framework untuk membuat framework AI Protection kustom. Anda dapat menambahkan kontrol cloud ke framework kustom dan menerapkan framework kustom ke organisasi, folder, atau project. Misalnya, Anda dapat membuat framework kustom yang menerapkan kontrol yurisdiksi tertentu ke folder tertentu untuk memastikan bahwa data dalam folder tersebut tetap berada dalam wilayah geografis tertentu.

Kontrol cloud dalam framework AI Protection default

Untuk mengetahui informasi selengkapnya tentang kontrol cloud yang digunakan framework AI Protection, lihat Google Recommended AI Essentials - Vertex AI.

Area fungsional yang didukung untuk AI Protection

Bagian ini menentukan area fungsional yang dapat diamankan oleh AI Protection.

  • Workload AI: Workload aplikasi AI berkisar dari alat internal yang bertujuan untuk meningkatkan produktivitas karyawan hingga solusi yang ditujukan untuk konsumen yang dirancang untuk meningkatkan pengalaman pengguna dan mendorong bisnis. Contohnya mencakup agen AI, asisten virtual, chatbot AI percakapan, dan rekomendasi yang dipersonalisasi.
  • Agen AI: Agen AI adalah sistem AI yang dapat memahami lingkungan, membuat keputusan, dan mengambil tindakan untuk mencapai sasaran tertentu.
  • Model AI: Model AI diklasifikasikan ke dalam model AI dasar, model AI yang disesuaikan, model AI pihak pertama standar, dan model AI kustom. Contohnya mencakup Gemini, Llama, model terjemahan, dan model kustom untuk tugas tertentu.
  • Aset AI: Aset AI berkontribusi pada pipeline operasi machine learning dan digunakan oleh workload AI. Jenis aset AI mencakup hal berikut:
    • Aset AI deklaratif: Alat pengelolaan siklus proses AI, seperti Platform Agen Gemini Enterprise, melacak aset ini.
    • Aset AI yang disimpulkan: Aset tujuan umum, seperti aset komputasi dan penyimpanan, yang digunakan untuk memproses data atau workload AI.
    • Model-as-a-Service (khusus API): Aset yang memiliki panggilan terprogram ke model AI pihak pertama atau pihak ketiga.
    • Sumber daya AI bayangan: Aset dan workload AI yang tidak disetujui atau tidak dikelola. Penggunaan AI tanpa pengawasan tidak didukung di Security Command Center di Google Cloud konsol.

Menggunakan dasbor Keamanan AI

Dasbor AI Security memungkinkan Anda memvisualisasikan inventaris aset AI organisasi dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman.

Mengakses dasbor AI Security

Untuk mengakses dasbor keamanan AI, di Google Cloud konsol, buka halaman Ringkasan risiko > Keamanan AI:

Buka Keamanan AI

Untuk mengetahui informasi selengkapnya, lihat Dasbor Keamanan AI.

Memahami pengelolaan risiko untuk sistem AI

Bagian ini memberikan informasi tentang potensi risiko yang terkait dengan sistem AI. Anda dapat melihat risiko teratas dalam inventaris AI.

Anda dapat mengklik masalah apa pun untuk membuka panel detail yang memberikan visualisasi masalah.

Melihat ancaman AI

Bagian ini memberikan insight tentang ancaman yang terkait dengan sistem AI. Anda dapat melihat 5 ancaman terbaru teratas yang terkait dengan resource AI.

Di halaman ini, Anda dapat melakukan hal berikut:

  • Klik Lihat semua untuk melihat ancaman yang terkait dengan resource AI.
  • Klik ancaman apa pun untuk melihat detail lebih lanjut tentang ancaman tersebut.

Memvisualisasikan inventaris AI

Anda dapat melihat visualisasi inventaris AI di dasbor yang memberikan ringkasan project yang melibatkan AI generatif, model pihak pertama dan pihak ketiga yang aktif digunakan, serta set data yang digunakan dalam melatih model pihak ketiga.

Di halaman ini, Anda dapat melakukan hal berikut:

  • Untuk melihat halaman detail inventaris, klik salah satu node dalam visualisasi.
  • Untuk melihat daftar mendetail aset individual (seperti model dasar dan model buatan kustom), klik tooltip.
  • Untuk membuka tampilan mendetail model, klik model. Tampilan ini menampilkan detail seperti endpoint tempat model dihosting dan set data yang digunakan untuk melatih model. Jika Sensitive Data Protection diaktifkan, tampilan set data juga akan menampilkan apakah set data berisi data sensitif.

Meninjau ringkasan temuan framework AI

Bagian ini membantu Anda menilai dan mengelola temuan dari framework AI dan kebijakan keamanan data, serta mencakup hal berikut:

  • Temuan: Bagian ini menampilkan ringkasan temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data, seperti Gemini model detected dan Gemini model not protected by Model Armor. Klik View all findings atau klik jumlah di samping setiap kategori temuan untuk melihat detail tentang temuan tersebut. Klik temuan untuk menampilkan informasi tambahan tentang temuan tersebut.
  • Data sensitif di set data Vertex AI: Bagian ini menampilkan ringkasan temuan berdasarkan data sensitif dalam set data seperti yang dilaporkan oleh Sensitive Data Protection. Untuk mengetahui informasi selengkapnya, lihat Pengantar Platform Agen Gemini Enterprise.

Memeriksa temuan Model Armor

Grafik menunjukkan jumlah total perintah atau respons yang dipindai Model Armor dan jumlah masalah yang terdeteksi Model Armor. Selain itu, grafik menampilkan statistik ringkasan untuk berbagai jenis masalah yang terdeteksi, seperti injeksi perintah dan deteksi jailbreak, serta deteksi data sensitif. Untuk workload agentic, Model Armor dapat dikonfigurasi di Agent Gateway (Pratinjau) untuk menyaring perintah dan respons ke dan dari agen.

Informasi ini diisi berdasarkan metrik yang dipublikasikan Model Armor ke Cloud Monitoring. Untuk mengetahui informasi selengkapnya, lihat Ringkasan Model Armor.

Memeriksa resource AI di halaman Aset

Selain dasbor Keamanan AI, Anda dapat memeriksa dan membuat kueri inventaris aset AI organisasi langsung di halaman Aset di Google Cloud konsol menggunakan tab Resource AI.

Tab Resource AI memberikan tampilan mendetail dan dapat difilter dari sistem dan aset AI yang ditemukan, termasuk model, endpoint, sumber data, pipeline, agen (Pratinjau), server Model Context Protocol (MCP) (Pratinjau), dan notebook.

Anda dapat menggunakan tab Resource AI untuk:

  • Memahami inventaris AI: Melihat daftar lengkap aset AI aktif di seluruh organisasi, yang difilter menurut project, lokasi, atau jenis resource.
  • Melakukan investigasi keamanan: Memeriksa metadata lengkap, histori perubahan, dan kebijakan IAM terkait dari aset AI tertentu.
  • Memeriksa temuan terkait: Melihat semua temuan keamanan yang terkait dengan aset AI tertentu dengan cepat untuk mengevaluasi eksposur risikonya dan menentukan langkah-langkah perbaikan yang diperlukan.

Untuk mengetahui informasi selengkapnya tentang cara melihat dan memfilter aset AI di konsol, lihat Memeriksa aset yang dipantau oleh Security Command Center.

Langkah berikutnya