AI Protection membantu Anda mengelola postur keamanan beban kerja AI dengan mendeteksi ancaman dan membantu Anda memitigasi risiko terhadap inventaris aset AI Anda. Dokumen ini memberikan ringkasan umum tentang Perlindungan AI, termasuk manfaat dan beberapa konsep utamanya. AI Protection tersedia dengan aktivasi Security Command Center tingkat organisasi.
Untuk paket layanan Premium dan Enterprise (Tidak Digunakan Lagi), saat Security Command Center diaktifkan di tingkat organisasi, AI Protection membantu memberikan tampilan komprehensif tentang keamanan AI di seluruh lingkungan Anda. Google Cloud Dasbor AI Protection dalam konsol Google Cloud menampilkan serangkaian widget dan fitur yang konsisten, dengan data yang digabungkan dari semua project dan resource dalam organisasi.
Kemampuan AI Protection
AI Protection membantu Anda mengelola ancaman dan risiko terhadap sistem AI Anda dengan cara berikut:
- Menilai inventaris aset AI Anda: Menilai dan memahami sistem AI dan aset AI Anda menggunakan dasbor Keamanan AI dan tab sumber daya AI, termasuk hal berikut:
- Mengidentifikasi kerentanan: Mengidentifikasi kerentanan software (CVE) dalam workload agentic yang di-deploy dengan Agent Runtime.
- Mengidentifikasi risiko: Mengidentifikasi risiko agen dan dampaknya pada ekosistem berdasarkan Simulasi Jalur Serangan dan aturan grafik keamanan yang telah ditentukan sebelumnya, dengan agen dan server MCP sebagai resource bernilai tinggi.
- Mendeteksi agen dengan hak istimewa berlebih: Mendeteksi agen Agent Runtime yang diberi izin berlebih. (Pratinjau)
- Mengelola risiko dan kepatuhan: Kelola risiko secara proaktif terhadap aset AI Anda dan verifikasi bahwa deployment AI Anda mematuhi standar keamanan yang relevan.
- Memitigasi risiko hukum dan keuangan: Mengurangi risiko keuangan, reputasi, dan hukum yang terkait dengan pelanggaran keamanan dan ketidakpatuhan terhadap peraturan.
- Mendeteksi dan mengelola ancaman: Mendeteksi dan merespons potensi ancaman terhadap sistem dan aset AI Anda secara tepat waktu.
- Melihat satu dasbor: Kelola semua risiko dan ancaman terkait AI dari satu dasbor terpusat.
Kasus penggunaan untuk AI Protection
AI Protection membantu organisasi meningkatkan keamanan mereka dengan mengidentifikasi dan memitigasi ancaman serta risiko yang terkait dengan sistem AI dan data sensitif. Kasus penggunaan berikut adalah contoh cara AI Protection dapat digunakan di berbagai organisasi:
Institusi jasa keuangan: data keuangan pelanggan
Sebuah institusi jasa keuangan besar menggunakan model AI yang memproses data keuangan sensitif.
- Tantangan: Memproses data keuangan yang sangat sensitif dengan model AI menimbulkan beberapa risiko, termasuk risiko pelanggaran data, pemindahan data yang tidak sah selama pelatihan atau inferensi, dan kerentanan dalam infrastruktur AI yang mendasarinya.
- Kasus penggunaan: AI Protection terus memantau alur kerja AI untuk menemukan aktivitas mencurigakan, berupaya mendeteksi akses data yang tidak sah dan perilaku model yang tidak normal, melakukan klasifikasi data sensitif, serta membantu meningkatkan kepatuhan Anda terhadap peraturan seperti PCI DSS dan GDPR.
Penyedia layanan kesehatan: privasi dan kepatuhan pasien
Penyedia layanan kesehatan besar mengelola rekam medis elektronik dan menggunakan AI untuk diagnosis dan perencanaan perawatan, yang menangani Informasi Kesehatan Terlindungi (PHI).
- Tantangan: PHI yang dianalisis oleh model AI tunduk pada peraturan ketat seperti HIPAA. Risiko mencakup eksposur PHI yang tidak disengaja melalui kesalahan konfigurasi atau serangan berbahaya yang menargetkan sistem AI untuk data pasien.
- Kasus penggunaan: AI Protection mengidentifikasi dan memberikan pemberitahuan tentang potensi pelanggaran HIPAA, mendeteksi akses PHI yang tidak sah oleh model atau pengguna, menandai layanan AI yang rentan dan berpotensi salah konfigurasi, serta memantau kebocoran data.
Perusahaan manufaktur dan robotika: kekayaan intelektual eksklusif
Perusahaan manufaktur yang mengkhususkan diri dalam robotika dan otomatisasi canggih sangat mengandalkan AI untuk mengoptimalkan lini produksi dan kontrol robot, dengan kekayaan intelektual (IP) penting yang disematkan dalam algoritma AI dan data manufakturnya.
- Tantangan: Algoritma AI eksklusif dan data operasional sensitif rentan terhadap pencurian oleh orang dalam maupun pihak luar, yang berpotensi menyebabkan kerugian kompetitif atau gangguan operasional.
- Kasus penggunaan: AI Protection memantau akses tidak sah ke model AI dan repositori kode, mendeteksi upaya untuk mengeksfiltrasi model terlatih dan pola akses data yang tidak biasa, serta menandai kerentanan di lingkungan pengembangan AI untuk mencegah pencurian IP.
Aturan Event Threat Detection untuk aset Gemini Enterprise Agent Platform
Event Threat Detection mendeteksi beberapa potensi ancaman yang melibatkan aset Gemini Enterprise Agent Platform, seperti aktivitas akun layanan yang tidak normal, perubahan izin sensitif, dan penyalahgunaan identitas agentik.
Kategori temuan yang berlaku untuk aset AI mencakup hal berikut:
- Persistence: Metode AI API Baru
- Persistence: Geografi Baru untuk Layanan AI
- Peningkatan Hak Istimewa: Peniruan Identitas Akun Layanan yang Tidak Normal untuk Aktivitas Admin AI
- Eskalasi Hak Istimewa: Peniru Identitas Akun Layanan yang Tidak Normal untuk Akses Data AI
- Peningkatan Hak Istimewa: Delegasi Akun Layanan Multilangkah yang Tidak Normal untuk Aktivitas Admin AI
- Peningkatan Hak Istimewa: Delegasi Akun Layanan Multilangkah yang Tidak Normal untuk Akses Data AI
- Peningkatan Hak Istimewa: Peniru Identitas Akun Layanan yang Tidak Normal untuk Aktivitas Admin AI
- Akses Awal: Aktivitas Akun Layanan yang Tidak Aktif di Layanan AI
- Persistensi: Pemberian IAM Tidak Wajar ke Identitas Agentik
- Akses Kredensial: Kredensial Identitas Agentik yang Digunakan di Luar Google Cloud
- Persistence: Izin AI Sensitif Ditambahkan ke Peran Khusus
- Persistensi: Pemberian Peran Sensitif oleh Agen AI
- Persistensi: Peran Sensitif Diberikan kepada Agen AI Eksternal
- Penghindaran Pertahanan: Peran Pembuat Token Tingkat Project Diberikan kepada Agen AI
- Penghindaran Pertahanan: Peran Pembuat Token Tingkat Folder Diberikan kepada Agen AI
- Penghindaran Pertahanan: Peran Pembuat Token Tingkat Organisasi Diberikan kepada Agen AI
Untuk mengetahui daftar lengkap temuan Event Threat Detection yang berlaku untuk aset AI, lihat Layanan deteksi.
Agent Platform Threat Detection untuk Agent Runtime
Agent Platform Threat Detection menyediakan deteksi ancaman runtime untuk agen yang di-deploy ke Agent Runtime. Agent ini memantau agen yang sedang berjalan untuk mendeteksi potensi serangan dan membuat temuan di Security Command Center.
Agent Platform Threat Detection dapat membuat temuan untuk Agent Runtime, termasuk kategori berikut:
- Command and Control: Alat Steganografi Terdeteksi
- Akses Kredensial: Temukan Google Cloud Kredensial
- Akses Kredensial: Pengintaian Kunci GPG
- Akses Kredensial: Menelusuri Kunci Pribadi atau Sandi
- Penghindaran Pertahanan: Command Line File ELF Base64
- Penghindaran Pertahanan: Skrip Python yang Berenkode Base64 Dieksekusi
- Penghindaran Pertahanan (Defense Evasion): Skrip Shell Berenkode Base64 Dieksekusi
- Penghindaran Pertahanan: Meluncurkan Alat Compiler Kode Dalam Penampung
- Eksekusi: Netcat Remote Code Execution di Container
- Eksekusi: Kemungkinan Eksekusi Perintah Arbitrer melalui CUPS (CVE-2024-47177)
- Eksekusi: Kemungkinan Eksekusi Perintah Jarak Jauh Terdeteksi
- Eksekusi: Program Run dengan Lingkungan Proxy HTTP yang Tidak Diizinkan
- Eksekusi: Socat Reverse Shell Terdeteksi
- Eksekusi: Objek Bersama OpenSSL yang Mencurigakan Dimuat
- Exfiltration: Meluncurkan Alat Penyalinan File Jarak Jauh di Container
- Dampak: Mendeteksi Cmdline Berbahaya
- Dampak: Menghapus Data Massal dari Disk
- Dampak: Aktivitas penambangan kripto mencurigakan menggunakan Stratum Protocol
- Eskalasi Akses: Penyalahgunaan Sudo untuk Eskalasi Akses (CVE-2019-14287)
- Eskalasi Akses: Kerentanan Eskalasi Akses Lokal Polkit (CVE-2021-4034)
- Eskalasi Akses: Potensi Eskalasi Akses Sudo (CVE-2021-3156)
- Eksekusi: Python berbahaya dieksekusi
- Eksekusi: Container Escape
- Eksekusi: Eksekusi Alat Serangan Kubernetes
- Eksekusi: Eksekusi Alat Pengintaian Lokal
- Dampak: Skrip Berbahaya Dieksekusi
- Dampak: URL Berbahaya Teramati
- Eksekusi: Child Shell yang Tidak Terduga
Untuk mengetahui daftar lengkap temuan Deteksi Ancaman Platform Agen, lihat Layanan deteksi.
Framework Perlindungan AI
Perlindungan AI menggunakan framework yang mencakup kontrol cloud spesifik yang di-deploy secara otomatis dalam mode detektif. Mode detektif berarti kontrol cloud diterapkan ke resource yang ditentukan untuk tujuan pemantauan. Setiap pelanggaran akan terdeteksi dan pemberitahuan akan dibuat. Anda menggunakan framework dan kontrol cloud untuk menentukan persyaratan Perlindungan AI dan menerapkan persyaratan tersebut ke lingkungan Google Cloud Anda. Perlindungan AI mencakup framework Default, yang menentukan kontrol dasar yang direkomendasikan untuk Perlindungan AI. Saat Anda mengaktifkan AI Protection, framework default akan otomatis diterapkan ke organisasi Google Cloud dalam mode detektif.
Jika diperlukan, Anda dapat membuat salinan framework untuk membuat framework Perlindungan AI kustom. Anda dapat menambahkan kontrol cloud ke framework kustom dan menerapkan framework kustom ke organisasi, folder, atau project. Misalnya, Anda dapat membuat framework kustom yang menerapkan kontrol yurisdiksi tertentu ke folder tertentu untuk memastikan bahwa data dalam folder tersebut tetap berada di wilayah geografis tertentu.
Kontrol cloud dalam framework Perlindungan AI default
Untuk mengetahui informasi selengkapnya tentang kontrol cloud yang digunakan framework AI Protection, lihat Dasar-Dasar AI yang Direkomendasikan Google - Vertex AI.
Area fungsional yang didukung untuk AI Protection
Bagian ini mendefinisikan area fungsional yang dapat diamankan oleh AI Protection.
- Beban kerja AI: Beban kerja aplikasi AI berkisar dari alat internal yang bertujuan untuk meningkatkan produktivitas karyawan hingga solusi yang ditujukan untuk konsumen yang dirancang untuk meningkatkan pengalaman pengguna dan mendorong bisnis. Contohnya mencakup agen AI, asisten virtual, chatbot AI percakapan, dan rekomendasi yang dipersonalisasi.
- Agen AI: Agen AI adalah sistem AI yang dapat memahami lingkungan, membuat keputusan, dan mengambil tindakan untuk mencapai sasaran tertentu.
- Model AI: Model AI diklasifikasikan ke dalam model AI dasar, model AI yang di-fine-tune, model AI pihak pertama standar, dan model AI kustom. Contohnya mencakup Gemini, Llama, model terjemahan, dan model kustom untuk tugas tertentu.
- Aset AI: Aset AI berkontribusi pada pipeline operasi machine learning
dan digunakan oleh workload AI. Jenis aset AI mencakup:
- Aset AI deklaratif: Alat pengelolaan siklus proses AI, seperti Gemini Enterprise Agent Platform, melacak aset ini.
- Aset AI yang disimpulkan: Aset serbaguna, seperti aset komputasi dan penyimpanan, yang digunakan untuk memproses data atau workload AI.
- Model-as-a-Service (khusus API): Aset yang memiliki panggilan terprogram ke model AI pihak pertama atau pihak ketiga.
- Aset AI bayangan: Aset dan beban kerja AI yang tidak disetujui atau tidak dikelola. Resource penggunaan AI tanpa pengawasan tidak didukung di Security Command Center di konsol Google Cloud .