Ringkasan Perlindungan AI

AI Protection membantu Anda mengelola postur keamanan workload AI dengan memberikan tampilan keamanan AI di seluruh lingkungan Google Cloud Anda, dan membantu Anda mendeteksi ancaman serta mengurangi risiko pada inventaris AI Anda. Dokumen ini memberikan ringkasan AI Protection yang mencakup manfaat dan beberapa konsep utamanya.

AI Protection tersedia dengan aktivasi Security Command Center di tingkat organisasi dan tingkat project.

Saat Anda mengaktifkan Security Command Center di tingkat organisasi, dasbor Keamanan AI dan tampilan Keamanan AI di halaman konsol akan menampilkan data yang diagregasi dari semua project dan resource dalam organisasi.

Saat Anda mengaktifkan Security Command Center di tingkat project, dasbor dan tampilan Keamanan AI di halaman konsol akan menampilkan data yang terkait dengan resource dalam project yang dipilih.

Kemampuan AI Protection

AI Protection membantu Anda mengelola ancaman dan risiko terhadap komponen dalam sistem AI Anda. Paket layanan Anda menentukan kemampuan yang tersedia, yang mencakup hal berikut:

  • Menilai inventaris aset AI Anda: memahami sistem AI dan aset Anda.
  • Mengidentifikasi kerentanan (paket layanan Premium dan Enterprise (Tidak Digunakan Lagi)): mengidentifikasi kerentanan software (CVE) dan secret teks biasa dalam workload agentic yang di-deploy dengan Agent Runtime.
  • Mengidentifikasi risiko (paket layanan Premium dan Enterprise (Tidak Digunakan Lagi)): mengidentifikasi risiko dan dampaknya terhadap ekosistem berdasarkan Simulasi Jalur Serangan dan aturan grafik keamanan yang telah ditentukan, dengan agen dan server MCP sebagai resource bernilai tinggi.
  • Mendeteksi agen yang memiliki hak istimewa berlebihan: mendeteksi agen Agent Runtime yang diberi izin berlebihan.
  • Mengelola kepatuhan: memverifikasi secara proaktif bahwa aset AI dalam deployment Anda mematuhi standar keamanan yang relevan. Paket layanan Standard mencakup temuan keamanan dasar dengan Security Essentials, sedangkan paket layanan Premium dan Enterprise mencakup kepatuhan framework lanjutan.
  • Mendeteksi dan mengelola ancaman: mendeteksi dan merespons potensi ancaman terhadap sistem dan aset AI Anda secara tepat waktu.

Kasus penggunaan AI Protection

AI Protection membantu organisasi meningkatkan keamanan dengan mengidentifikasi dan mengurangi ancaman serta risiko yang terkait dengan sistem AI dan data sensitif. Kasus penggunaan berikut adalah contoh cara AI Protection dapat digunakan di berbagai organisasi:

  • Lembaga jasa keuangan: data keuangan pelanggan

    Lembaga jasa keuangan besar menggunakan model AI yang memproses data keuangan sensitif.

    • Tantangan: memproses data keuangan yang sangat sensitif dengan model AI menimbulkan beberapa risiko, termasuk risiko pelanggaran data, pemindahan data yang tidak sah selama pelatihan atau inferensi, dan kerentanan dalam infrastruktur AI yang mendasarinya.
    • Kasus penggunaan: AI Protection terus memantau alur kerja AI untuk menemukan aktivitas mencurigakan, berupaya mendeteksi akses data yang tidak sah dan perilaku model yang anomali, melakukan klasifikasi data sensitif, dan membantu meningkatkan kepatuhan Anda terhadap peraturan seperti PCI DSS dan GDPR.

  • Penyedia layanan kesehatan: privasi dan kepatuhan pasien

    Penyedia layanan kesehatan besar mengelola rekam medis elektronik dan menggunakan AI untuk diagnosis dan perencanaan perawatan, yang menangani Informasi Kesehatan Terlindungi (PHI).

    • Tantangan: PHI yang dianalisis oleh model AI tunduk pada peraturan ketat seperti HIPAA. Risiko mencakup PHI yang tidak sengaja terekspos melalui kesalahan konfigurasi atau serangan berbahaya yang menargetkan sistem AI untuk data pasien.
    • Kasus penggunaan: AI Protection mengidentifikasi dan memberikan pemberitahuan tentang potensi pelanggaran HIPAA, mendeteksi akses PHI yang tidak sah oleh model atau pengguna, menandai layanan AI yang rentan dan berpotensi salah konfigurasi, serta memantau kebocoran data.

  • Perusahaan manufaktur dan robotika: kekayaan intelektual eksklusif

    Perusahaan manufaktur yang berspesialisasi dalam robotika dan otomatisasi canggih sangat bergantung pada AI untuk mengoptimalkan lini produksi dan kontrol robotik, dengan kekayaan intelektual (IP) penting yang disematkan dalam algoritma AI dan data manufakturnya.

    • Tantangan: algoritma AI eksklusif dan data operasional sensitif rentan terhadap pencurian oleh ancaman orang dalam atau pihak luar, yang berpotensi menyebabkan kerugian kompetitif atau gangguan operasional.
    • Kasus penggunaan: AI Protection memantau akses tidak sah ke model AI dan repositori kode, mendeteksi upaya untuk mengeksfiltrasi model terlatih dan pola akses data yang tidak biasa, serta menandai kerentanan di lingkungan pengembangan AI untuk mencegah pencurian IP.

Layanan deteksi di AI Protection

Bagian berikut menjelaskan aturan dan layanan deteksi yang membuat temuan saat Anda mengaktifkan AI Protection. Paket layanan Security Command Center dan cakupan aktivasi (tingkat organisasi atau tingkat project) menentukan layanan deteksi mana yang didukung Security Command Center dan temuan yang dibuat. Security Command Center otomatis mengaktifkan beberapa layanan deteksi, tetapi Anda harus mengonfigurasi layanan lainnya secara manual. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi AI Protection.

Layanan AI Discovery

Ini adalah layanan bawaan yang menggunakan data Cloud Monitoring untuk menemukan model AI dan menentukan apakah Model Armor melindungi model. Pada paket layanan Standard AI Discovery tidak mendukung deteksi model Gemini.

Untuk mengetahui informasi tentang temuan yang dibuat oleh layanan ini, lihat Temuan layanan AI Discovery.

Framework Compliance Manager

AI Protection menggunakan framework Compliance Manager yang di-deploy Security Command Center secara otomatis dalam mode detektif.

Framework bawaan Compliance Manager

AI Protection mencakup framework berikut. Saat Anda mengaktifkan AI Protection, Security Command Center akan otomatis mengaktifkan framework ini di organisasi atau project Anda.

Bergantung pada paket layanan Anda, Anda dapat mengonfigurasi tambahan Compliance Manager framework dan kontrol cloud. Untuk mengetahui informasi selengkapnya tentang Compliance Manager, lihat Compliance Manager.

Framework kustom Compliance Manager

Anda dapat membuat framework kustom dengan membuat salinan framework bawaan yang tersedia di paket layanan Anda.

  • Penyesuaian: Anda dapat menambahkan atau menghapus kontrol cloud di framework kustom untuk mencocokkan kebijakan keamanan Anda.
  • Aplikasi yang ditargetkan: Anda dapat menerapkan framework kustom ke organisasi, folder, atau project tertentu. Misalnya, Anda dapat menerapkan kontrol yurisdiksi tertentu ke folder tertentu untuk memastikan data tetap berada dalam wilayah geografis tertentu.
  • Batasan: Anda tidak dapat menetapkan framework AI Protection ke aplikasi.

Aturan Event Threat Detection untuk aset Gemini Enterprise Agent Platform

Event Threat Detection mendeteksi beberapa potensi ancaman yang melibatkan aset Gemini Enterprise Agent Platform, seperti aktivitas akun layanan yang anomali, perubahan izin sensitif, dan penyalahgunaan identitas agentic.

Kategori temuan yang berlaku untuk aset AI mencakup hal berikut:

  • Persistensi: Metode AI API Baru
  • Persistensi: Geografi Baru untuk Layanan AI
  • Eskalasi Akses: Peniruan Identitas Akun Layanan yang Anomali untuk Aktivitas Admin AI
  • Eskalasi Akses: Peniru Identitas Akun Layanan yang Anomali untuk Akses Data AI
  • Eskalasi Akses: Delegasi Akun Layanan Multilangkah yang Anomali untuk Aktivitas Admin AI
  • Eskalasi Akses: Delegasi Akun Layanan Multilangkah yang Anomali untuk Akses Data AI
  • Eskalasi Akses: Peniru Identitas Akun Layanan yang Anomali untuk Aktivitas Admin AI
  • Akses Awal: Aktivitas Akun Layanan yang Tidak Aktif di Layanan AI
  • Persistensi: Pemberian IAM Tidak Wajar ke Identitas Agentic
  • Akses Kredensial: Kredensial Identitas Agentic Digunakan di Luar Google Cloud
  • Persistensi: Izin AI Sensitif Ditambahkan ke Peran Kustom
  • Persistensi: Peran Sensitif Diberikan oleh Agen AI
  • Persistensi: Peran Sensitif Diberikan ke Agen AI Eksternal
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Project Diberikan ke Agen AI
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Folder Diberikan ke Agen AI
  • Penghindaran Pertahanan: Peran Pembuat Token Tingkat Organisasi Diberikan ke Agen AI

Untuk mengetahui daftar lengkap temuan Event Threat Detection yang berlaku untuk aset AI, lihat Ringkasan Event Threat Detection.

Agent Platform Threat Detection untuk Agent Runtime

Agent Platform Threat Detection (Pratinjau) menyediakan deteksi ancaman runtime untuk agen yang di-deploy ke Agent Runtime. Layanan ini memantau agen yang berjalan untuk menemukan potensi serangan dan membuat temuan di Security Command Center.

Agent Platform Threat Detection membuat temuan untuk Agent Runtime, termasuk kategori berikut:

  • Perintah dan Kontrol: Alat Steganografi Terdeteksi
  • Akses Kredensial: Find Google Cloud Credentials
  • Akses Kredensial: Pengintaian Kunci GPG
  • Akses Kredensial: Menelusuri Kunci Pribadi atau Sandi
  • Penghindaran Pertahanan: Command Line File ELF Base64
  • Penghindaran Pertahanan: Skrip Python Berenkode Base64 Dieksekusi
  • Penghindaran Pertahanan: Skrip Shell Berenkode Base64 Dieksekusi
  • Penghindaran Pertahanan: Meluncurkan Alat Compiler Kode Di Penampung
  • Eksekusi: Eksekusi Kode Jarak Jauh Netcat di Penampung
  • Eksekusi: Kemungkinan Eksekusi Perintah Arbitrer melalui CUPS (CVE-2024-47177)
  • Eksekusi: Kemungkinan Eksekusi Perintah Jarak Jauh Terdeteksi
  • Eksekusi: Program Berjalan dengan Env Proxy HTTP yang Tidak Diizinkan
  • Eksekusi: Reverse Shell Socat Terdeteksi
  • Eksekusi: Objek Bersama OpenSSL Mencurigakan Dimuat
  • Eksfiltrasi: Meluncurkan Alat Salin File Jarak Jauh di Penampung
  • Dampak: Mendeteksi Cmdline Berbahaya
  • Dampak: Menghapus Data Massal dari Disk
  • Dampak: Aktivitas penambangan kripto mencurigakan menggunakan Protokol Stratum
  • Eskalasi Akses: Penyalahgunaan Sudo Untuk Eskalasi Akses (CVE-2019-14287)
  • Eskalasi Akses: Kerentanan Eskalasi Akses Lokal Polkit (CVE-2021-4034)
  • Eskalasi Akses: Potensi Eskalasi Akses Sudo (CVE-2021-3156)
  • Eksekusi: Python Berbahaya Dieksekusi
  • Eksekusi: Escape Penampung
  • Eksekusi: Eksekusi Alat Serangan Kubernetes
  • Eksekusi: Eksekusi Alat Pengintaian Lokal
  • Dampak: Skrip Berbahaya Dieksekusi
  • Dampak: URL Berbahaya Teramati
  • Eksekusi: Shell Turunan yang Tidak Diharapkan

Pelajari lebih lanjut Agent Platform Threat Detection.

Agent Platform Vulnerability Assessment

Agent Platform Vulnerability Assessment (Pratinjau) mengidentifikasi kerentanan dan secret teks biasa, seperti kredensial, kunci, token akses, atau sertifikat, dalam image penampung Gemini Enterprise Agent Platform.

Untuk mengetahui informasi selengkapnya, lihat Agent Platform Vulnerability Assessment di "Layanan Deteksi".

Notebook Security Scanner

Notebook Security Scanner (Pratinjau) memindai notebook Colab Enterprise untuk mendeteksi kerentanan dalam paket Python.

Untuk mengetahui informasi selengkapnya, lihat Notebook Security Scanner di "Layanan Deteksi".

Sensitive Data Protection

Layanan penemuan Sensitive Data Protection adalah layanan terkelola sepenuhnya Google Cloud yang membantu Anda menemukan, mengklasifikasikan, dan melindungi data sensitif Anda. Anda dapat menggunakan Sensitive Data Protection untuk menentukan apakah Anda menyimpan informasi sensitif atau informasi identitas pribadi (PII).

Untuk mengetahui informasi selengkapnya, lihat Temuan Sensitive Data Protection di "Layanan Deteksi".

Model Armor

Setelah mengaktifkan Model Armor dan mengonfigurasi Model Armor untuk berintegrasi dengan satu atau beberapa komponen terkait AI, Anda dapat menyelidiki temuan Model Armor di Security Command Center.

Pada paket layanan Security Command Center Standard, AI Protection tidak mendukung Gemini.

Untuk mengonfigurasi Model Armor, lihat Membuat dan mengelola template.

Risk Engine

Risk Engine adalah fitur di Security Command Center yang menilai eksposur risiko deployment cloud Anda, menetapkan skor eksposur serangan ke temuan kerentanan dan resource bernilai tinggi Anda, serta membuat diagram jalur yang dapat diambil oleh calon penyerang untuk mengakses resource bernilai tinggi Anda.

Untuk mengetahui informasi selengkapnya, lihat Risk Engine di "Layanan Deteksi".

Resource yang didukung di AI Protection

AI Protection menemukan aset menggunakan mekanisme berikut:

  • Aset AI deklaratif: aset yang dilacak oleh alat pengelolaan siklus proses AI (seperti Gemini Enterprise Agent Platform).
  • Aset AI yang disimpulkan: aset tujuan umum (seperti aset komputasi dan penyimpanan) yang memproses data atau workload AI.
  • Model-as-a-Service (khusus API): aset yang melakukan panggilan terprogram ke model AI pihak pertama atau pihak ketiga.

Bagian ini menentukan inventaris dan aset AI yang didukung yang dapat diamankan oleh AI Protection.

  • Aplikasi penelusuran Gemini Enterprise &Agent: ini adalah sistem AI yang dapat memahami lingkungan, membuat keputusan, dan mengambil tindakan untuk mencapai sasaran tertentu.
  • Endpoint: workload aplikasi AI berkisar dari alat internal yang bertujuan untuk meningkatkan produktivitas karyawan hingga solusi yang ditujukan untuk konsumen yang dirancang untuk meningkatkan pengalaman pengguna dan mendorong bisnis. Contohnya mencakup agen AI, asisten virtual, chatbot AI percakapan, dan rekomendasi yang dipersonalisasi. AI Protection mengidentifikasi hal ini sebagai endpoint Agent Platform di tab Resource AI pada halaman Aset.
  • Sumber data: sumber data yang didukung mencakup tabel BigQuery, Cloud Storage, set data Agent Platform, dan datastore Gemini Enterprise.
  • Model: AI Protection mengidentifikasi model AI sebagai model AI dasar, model AI yang disesuaikan, model AI pihak pertama standar, dan model AI kustom. Contohnya mencakup hal berikut:
    • Gemini (tersedia di paket layanan Premium dan Enterprise (Tidak Digunakan Lagi))
    • Llama
    • model terjemahan
    • Model kustom untuk tugas tertentu
  • Aset AI: aset AI berkontribusi pada pipeline operasi machine learning dan digunakan oleh workload AI. Jenis aset AI mencakup hal berikut:
  • Server Model Context Protocol (MCP): AI Protection mengidentifikasi server MCP yang dikatalogkan di Agent Registry. Untuk menggunakan fitur ini, Anda harus mengonfigurasi App Hub API di setiap project yang menghosting server MCP.

Dampak dari perubahan paket layanan

Jika Anda mendowngrade paket layanan dari Premium atau Enterprise ke Standard, downgrade tersebut akan memengaruhi kemampuan AI Protection Anda sebagai berikut:

  • Layanan deteksi: Security Command Center menonaktifkan layanan deteksi dan framework Compliance Manager yang tidak didukung oleh paket Standard. Untuk mengetahui informasi selengkapnya, lihat Mengelola paket layanan di Compliance Manager.
  • Fitur investigasi: Anda akan kehilangan akses ke fitur investigasi lanjutan, seperti simulasi jalur serangan untuk aset AI, penilaian kerentanan agen, dan deteksi agen yang memiliki hak istimewa berlebihan.
  • Temuan menjadi tidak aktif: temuan yang dibuat oleh framework Compliance Manager yang tidak didukung di paket Standard akan menjadi tidak aktif. Untuk mengetahui informasi selengkapnya, lihat Mengelola paket layanan di Compliance Manager.

Jika Anda mengupgrade kembali ke paket Premium atau Enterprise, Security Command Center akan memulihkan fitur lanjutan, tetapi tidak otomatis memulihkan deployment framework yang dihapus selama downgrade. Anda harus men-deploy ulang framework secara manual.

Langkah berikutnya