Ringkasan Perlindungan AI

AI Protection membantu Anda mengelola postur keamanan beban kerja AI dengan mendeteksi ancaman dan membantu Anda memitigasi risiko pada inventaris aset AI Anda. Dokumen ini memberikan ringkasan umum tentang Perlindungan AI, termasuk manfaat dan beberapa konsep utamanya. Perlindungan AI tersedia dengan aktivasi Security Command Center tingkat organisasi.

Untuk tingkat layanan Premium dan Enterprise, saat Security Command Center diaktifkan di tingkat organisasi, AI Protection membantu memberikan tampilan komprehensif tentang keamanan AI di seluruh lingkungan Anda. Google Cloud Dasbor AI Protection dalam konsol Google Cloud menampilkan serangkaian widget dan fitur yang konsisten, dengan data yang digabungkan dari semua project dan resource dalam organisasi.

Kemampuan Perlindungan AI

AI Protection membantu Anda mengelola ancaman dan risiko terhadap sistem AI Anda dengan cara berikut:

  • Inventaris aset AI di seluruh organisasi: Membantu Anda menemukan, menilai, dan mengelola sistem dan aset AI di semua project, termasuk model, set data, endpoint, Vertex AI, Cloud Storage, dan BigQuery.
  • Pengelolaan risiko dan kerentanan terintegrasi: Membantu Anda mengidentifikasi, menganalisis, dan mengelola kerentanan, kesalahan konfigurasi, ancaman, dan risiko khusus AI pada aset AI Anda dengan konteks organisasi yang lengkap.
  • Dukungan kepatuhan: Membantu Anda memverifikasi kepatuhan terhadap standar keamanan yang relevan menggunakan kontrol detektif dalam framework Perlindungan AI.
  • Visibilitas keamanan data: Terintegrasi dengan layanan seperti Pengelolaan Postur Keamanan Data untuk memberikan insight tentang sensitivitas data, silsilah, dan risiko yang terkait dengan workload AI Anda.
  • Pengelolaan keamanan AI terpadu: Membantu memantau dan menerapkan kebijakan keamanan AI serta praktik terbaik secara konsisten di seluruh organisasi Anda dari satu dasbor terpusat. Perlindungan AI juga membantu Anda mendeteksi dan merespons potensi ancaman, kerentanan, dan kesalahan konfigurasi.
  • Dukungan kesadaran risiko: Berkontribusi dalam meminimalkan risiko finansial, reputasi, dan hukum yang terkait dengan pelanggaran keamanan dan ketidakpatuhan terhadap peraturan dalam deployment AI Anda.

Kasus penggunaan untuk Perlindungan AI

AI Protection membantu organisasi meningkatkan keamanan mereka dengan mengidentifikasi dan memitigasi ancaman dan risiko yang terkait dengan sistem AI dan data sensitif. Kasus penggunaan berikut adalah contoh cara AI Protection dapat digunakan di berbagai organisasi:

  • Lembaga jasa keuangan: data keuangan pelanggan

    Institusi jasa keuangan besar menggunakan model AI yang memproses data keuangan sensitif.

    • Tantangan: Memproses data keuangan yang sangat sensitif dengan model AI menimbulkan beberapa risiko, termasuk risiko pelanggaran data, pemindahan data yang tidak sah selama pelatihan atau inferensi, dan kerentanan dalam infrastruktur AI yang mendasarinya.
    • Kasus penggunaan: Perlindungan AI terus memantau alur kerja AI untuk mendeteksi aktivitas mencurigakan, berupaya mendeteksi akses data yang tidak sah dan perilaku model yang tidak normal, melakukan klasifikasi data sensitif, serta membantu meningkatkan kepatuhan Anda terhadap peraturan seperti PCI DSS dan GDPR.

  • Penyedia layanan kesehatan: privasi dan kepatuhan pasien

    Penyedia layanan kesehatan besar mengelola catatan kesehatan elektronik dan menggunakan AI untuk diagnosis dan perencanaan perawatan, yang menangani Informasi Kesehatan Terlindungi (PHI).

    • Tantangan: PHI yang dianalisis oleh model AI tunduk pada peraturan yang ketat seperti HIPAA. Risiko mencakup eksposur PHI yang tidak disengaja melalui kesalahan konfigurasi atau serangan berbahaya yang menargetkan sistem AI untuk data pasien.
    • Kasus penggunaan: Perlindungan AI mengidentifikasi dan memberikan pemberitahuan tentang potensi pelanggaran HIPAA, mendeteksi akses PHI yang tidak sah oleh model atau pengguna, menandai layanan AI yang rentan dan berpotensi salah konfigurasi, serta memantau kebocoran data.

  • Perusahaan manufaktur dan robotik: kekayaan intelektual eksklusif

    Perusahaan manufaktur yang mengkhususkan diri dalam robotika dan otomatisasi canggih sangat mengandalkan AI untuk mengoptimalkan lini produksi dan kontrol robotik, dengan kekayaan intelektual (IP) penting yang disematkan dalam algoritma AI dan data manufakturnya.

    • Tantangan: Algoritma AI eksklusif dan data operasional sensitif rentan terhadap pencurian dari ancaman orang dalam atau musuh eksternal, yang berpotensi menyebabkan kerugian kompetitif atau gangguan operasional.
    • Kasus penggunaan: AI Protection memantau akses tidak sah ke model AI dan repositori kode, mendeteksi upaya untuk mengekstraksi model terlatih dan pola akses data yang tidak biasa, serta menandai kerentanan di lingkungan pengembangan AI untuk mencegah pencurian IP.

Aturan Event Threat Detection untuk aset Vertex AI

Aturan Event Threat Detection berikut menjalankan deteksi pada aset Vertex AI:

  • Persistence: Metode AI API Baru
  • Persistence: Geografi Baru untuk Layanan AI
  • Peningkatan Hak Istimewa: Peniruan Identitas Akun Layanan yang Tidak Normal untuk Aktivitas Admin AI
  • Eskalasi Hak Istimewa: Peniru Identitas Akun Layanan yang Tidak Normal untuk Akses Data AI
  • Peningkatan Hak Istimewa: Delegasi Akun Layanan Multilangkah yang Anomali untuk Aktivitas Admin AI
  • Eskalasi Hak Istimewa: Delegasi Akun Layanan Multilangkah yang Tidak Normal untuk Akses Data AI
  • Peningkatan Hak Istimewa: Peniru Identitas Akun Layanan yang Tidak Normal untuk Aktivitas Admin AI
  • Akses Awal: Aktivitas Akun Layanan Tidak Aktif di Layanan AI

Untuk mengetahui informasi selengkapnya tentang Event Threat Detection, lihat Ringkasan Event Threat Detection.

Framework Perlindungan AI

Perlindungan AI menggunakan framework yang mencakup kontrol cloud spesifik yang di-deploy secara otomatis dalam mode detektif. Mode detektif berarti kontrol cloud diterapkan ke resource yang ditentukan untuk tujuan pemantauan. Setiap pelanggaran akan terdeteksi dan pemberitahuan akan dibuat. Anda menggunakan framework dan kontrol cloud untuk menentukan persyaratan Perlindungan AI dan menerapkan persyaratan tersebut ke lingkungan Google Cloud Anda. AI Protection mencakup framework Default, yang menentukan kontrol dasar yang direkomendasikan untuk AI Protection. Saat Anda mengaktifkan Perlindungan AI, framework default akan otomatis diterapkan ke organisasi dalam mode detektif. Google Cloud

Jika diperlukan, Anda dapat membuat salinan framework untuk membuat framework Perlindungan AI kustom. Anda dapat menambahkan kontrol cloud ke framework kustom dan menerapkan framework kustom ke organisasi, folder, atau project. Misalnya, Anda dapat membuat framework kustom yang menerapkan kontrol yurisdiksi tertentu ke folder tertentu untuk memastikan bahwa data dalam folder tersebut tetap berada di wilayah geografis tertentu.

Kontrol cloud dalam framework Perlindungan AI default

Untuk mengetahui informasi selengkapnya tentang kontrol cloud yang digunakan framework AI Protection, lihat Dasar-Dasar AI yang Direkomendasikan Google - Vertex AI.

Area fungsional yang didukung untuk AI Protection

Bagian ini mendefinisikan area fungsional yang dapat diamankan oleh Perlindungan AI.

  • Beban kerja AI: Beban kerja aplikasi AI berkisar dari alat internal yang bertujuan untuk meningkatkan produktivitas karyawan hingga solusi yang berfokus pada konsumen yang dirancang untuk meningkatkan pengalaman pengguna dan mendorong bisnis. Contohnya mencakup agen AI, asisten virtual, chatbot AI percakapan, dan rekomendasi yang dipersonalisasi.
  • Agen AI: Agen AI adalah sistem AI yang dapat memahami lingkungannya, membuat keputusan, dan mengambil tindakan untuk mencapai sasaran tertentu.
  • Model AI: Model AI diklasifikasikan ke dalam model AI dasar, model AI yang di-fine-tune, model AI pihak pertama standar, dan model AI kustom. Contohnya mencakup Gemini, Llama, model terjemahan, dan model kustom untuk tugas tertentu.
  • Aset AI: Aset AI berkontribusi pada pipeline operasi machine learning dan digunakan oleh workload AI. Jenis aset AI mencakup:
    • Aset AI deklaratif: Alat pengelolaan siklus proses AI, seperti Vertex AI, melacak aset ini.
    • Aset AI yang disimpulkan: Aset serbaguna, seperti aset komputasi dan penyimpanan, yang digunakan untuk memproses data atau workload AI.
    • Model-as-a-Service (khusus API): Aset yang memiliki panggilan terprogram ke model AI pihak pertama atau pihak ketiga.

Menggunakan dasbor Keamanan AI

Dasbor Keamanan AI memungkinkan Anda memvisualisasikan inventaris aset AI organisasi Anda dan meninjau mitigasi yang diusulkan untuk risiko dan ancaman.

Mengakses dasbor Keamanan AI

Untuk mengakses dasbor Keamanan AI, buka halaman Ringkasan risiko > Keamanan AI di konsol Google Cloud :

Premium

Buka Keamanan AI

Enterprise

Buka Keamanan AI

Untuk mengetahui informasi selengkapnya, lihat Dasbor Keamanan AI.

Memahami pengelolaan risiko untuk sistem AI

Bagian ini memberikan informasi tentang potensi risiko yang terkait dengan sistem AI. Anda dapat melihat risiko teratas dalam inventaris AI Anda.

Anda dapat mengklik masalah apa pun untuk membuka panel detail yang memberikan visualisasi masalah.

Melihat ancaman AI

Bagian ini memberikan insight tentang ancaman yang terkait dengan sistem AI. Anda dapat melihat 5 ancaman terbaru teratas yang terkait dengan resource AI Anda.

Di halaman ini, Anda dapat melakukan hal berikut:

  • Klik Lihat semua untuk melihat ancaman yang terkait dengan sumber daya AI Anda.
  • Klik ancaman apa pun untuk melihat detail lebih lanjut tentang ancaman tersebut.

Memvisualisasikan inventaris AI Anda

Anda dapat melihat visualisasi inventaris AI di dasbor yang memberikan ringkasan project yang melibatkan AI generatif, model pihak pertama dan pihak ketiga yang sedang digunakan, serta set data yang digunakan dalam pelatihan model pihak ketiga.

Di halaman ini, Anda dapat melakukan hal berikut:

  • Untuk melihat halaman detail inventaris, klik salah satu node dalam visualisasi.
  • Untuk melihat listingan mendetail dari setiap aset (seperti model dasar dan model buatan khusus), klik tooltip.
  • Untuk membuka tampilan mendetail model, klik model. Tampilan ini menampilkan detail seperti endpoint tempat model dihosting dan set data yang digunakan untuk melatih model. Jika Sensitive Data Protection diaktifkan, tampilan set data juga menampilkan apakah set data berisi data sensitif.

Ringkasan temuan framework AI

Bagian ini membantu Anda menilai dan mengelola temuan dari kebijakan keamanan data dan framework AI, serta mencakup hal berikut:

  • Temuan: Bagian ini menampilkan ringkasan temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data. Klik Lihat semua temuan atau klik jumlah di setiap kategori temuan untuk melihat detail tentang temuan. Klik temuan untuk menampilkan informasi tambahan tentang temuan tersebut.
  • Data sensitif di set data Vertex AI: Bagian ini menampilkan ringkasan temuan berdasarkan data sensitif dalam set data seperti yang dilaporkan oleh Sensitive Data Protection. Untuk mengetahui informasi selengkapnya, lihat Pengantar Vertex AI.

Memeriksa temuan Model Armor

Grafik menampilkan jumlah total perintah atau respons yang dipindai oleh Model Armor dan jumlah masalah yang dideteksi oleh Model Armor. Selain itu, bagian ini menampilkan statistik ringkasan untuk berbagai jenis masalah yang terdeteksi, seperti injeksi perintah, deteksi pelarian dari batasan, dan deteksi data sensitif.

Informasi ini diisi berdasarkan metrik yang dipublikasikan Model Armor ke Cloud Monitoring. Untuk mengetahui informasi selengkapnya, lihat Ringkasan Model Armor.

Langkah berikutnya