Prinsip ini dalam pilar keamanan dari Google Cloud Well-Architected Framework memberikan rekomendasi untuk membantu Anda mengamankan sistem AI. Rekomendasi ini selaras dengan Secure AI Framework (SAIF) Google, yang memberikan pendekatan praktis untuk mengatasi masalah keamanan dan risiko sistem AI. SAIF adalah framework konseptual yang bertujuan untuk menyediakan standar di seluruh industri untuk membangun dan men-deploy AI secara bertanggung jawab.
Ringkasan prinsip
Untuk membantu memastikan bahwa sistem AI Anda memenuhi persyaratan keamanan, privasi, dan kepatuhan, Anda harus mengadopsi strategi holistik yang dimulai dengan desain awal dan diperluas ke deployment dan operasi. Anda dapat menerapkan strategi holistik ini dengan menerapkan enam elemen inti SAIF.
Google menggunakan AI untuk meningkatkan langkah-langkah keamanan, seperti mengidentifikasi ancaman, mengotomatiskan tugas keamanan, dan meningkatkan kemampuan deteksi, sambil tetap melibatkan manusia dalam proses pengambilan keputusan penting.
Google menekankan pendekatan kolaboratif untuk meningkatkan keamanan AI. Pendekatan ini melibatkan kerja sama dengan pelanggan, industri, dan pemerintah untuk meningkatkan panduan SAIF dan menawarkan resource praktis yang dapat ditindaklanjuti.
Rekomendasi untuk menerapkan prinsip ini dikelompokkan dalam bagian berikut:
Rekomendasi untuk menggunakan AI secara aman
Untuk menggunakan AI secara aman, Anda memerlukan kontrol keamanan dasar dan kontrol keamanan khusus AI. Bagian ini memberikan ringkasan rekomendasi untuk memastikan bahwa deployment AI dan ML Anda memenuhi persyaratan keamanan, privasi, dan kepatuhan organisasi Anda. Untuk mengetahui ringkasan prinsip dan rekomendasi arsitektur yang khusus untuk workload AI dan ML di Google Cloud, lihat perspektif AI dan ML di Well-Architected Framework.
Menentukan sasaran dan persyaratan yang jelas untuk penggunaan AI
Rekomendasi ini relevan dengan area fokus berikut:
- Tata kelola, risiko, dan kepatuhan cloud
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF tentang memahami risiko sistem AI dalam konteks proses bisnis. Saat Anda mendesain dan mengembangkan sistem AI, penting untuk memahami sasaran bisnis, risiko, dan persyaratan kepatuhan spesifik Anda.
Menjaga keamanan data dan mencegah kehilangan atau penanganan yang salah
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF berikut:
- Memperluas fondasi keamanan yang kuat ke ekosistem AI. Elemen ini mencakup pengumpulan data, penyimpanan, kontrol akses, dan perlindungan terhadap data poisoning.
- Memahami risiko sistem AI. Menekankan keamanan data untuk mendukung sasaran bisnis dan kepatuhan.
Menjaga keamanan pipeline AI dan ketahanan terhadap gangguan
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF berikut:
- Memperluas fondasi keamanan yang kuat ke ekosistem AI. Sebagai elemen utama dalam membangun sistem AI yang aman, amankan kode dan artefak model Anda.
- Menyesuaikan kontrol untuk mempercepat feedback loop. Karena penting untuk mitigasi dan respons insiden, lacak aset dan eksekusi pipeline Anda.
Men-deploy aplikasi di sistem yang aman menggunakan alat dan artefak yang aman
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Penggunaan sistem yang aman serta alat dan artefak yang divalidasi dalam aplikasi berbasis AI selaras dengan elemen SAIF tentang memperluas fondasi keamanan yang kuat ke ekosistem dan rantai pasokan AI. Rekomendasi ini dapat diatasi melalui langkah-langkah berikut:
- Menerapkan lingkungan yang aman untuk pelatihan dan deployment ML
- Menggunakan image container yang divalidasi
- Menerapkan panduan Supply-chain Levels for Software Artifacts (SLSA)
Melindungi dan memantau input
Rekomendasi ini relevan dengan area fokus berikut:
- Logging, audit, dan pemantauan
- Operasi keamanan
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF tentang memperluas deteksi dan respons untuk menghadirkan AI ke sistem pertahanan organisasi. Untuk mencegah masalah, penting untuk mengelola perintah untuk sistem AI generatif, memantau input, dan mengontrol akses pengguna.
Rekomendasi untuk tata kelola AI
Semua rekomendasi di bagian ini relevan dengan area fokus berikut: Tata kelola, risiko, dan kepatuhan cloud.
Google Cloud menawarkan serangkaian alat dan layanan yang andal yang dapat Anda gunakan untuk membangun sistem AI yang bertanggung jawab dan etis. Kami juga menawarkan framework kebijakan, prosedur, dan pertimbangan etis yang dapat memandu pengembangan, deployment, dan penggunaan sistem AI.
Seperti yang tercermin dalam rekomendasi kami, pendekatan Google untuk tata kelola AI dipandu oleh prinsip-prinsip berikut:
- Keadilan
- Transparansi
- Akuntabilitas
- Privasi
- Keamanan
Menggunakan indikator keadilan
Gemini Enterprise Agent Platform dapat mendeteksi bias selama pengumpulan data atau proses evaluasi pascapelatihan. Agent Platform menyediakan metrik evaluasi model seperti data bias dan model bias untuk membantu Anda mengevaluasi bias pada model.
Metrik ini terkait dengan keadilan di berbagai kategori seperti ras, gender, dan kelas. Namun, menginterpretasikan penyimpangan statistik bukanlah tugas yang mudah, karena perbedaan antar-kategori mungkin bukan hasil dari bias atau sinyal bahaya.
Menggunakan Vertex Explainable AI
Untuk memahami cara model AI membuat keputusan, gunakan Vertex Explainable AI. Fitur ini membantu Anda mengidentifikasi potensi bias yang mungkin tersembunyi dalam logika model.
Fitur penjelasan ini terintegrasi dengan BigQuery ML dan Vertex Explainable AI, yang memberikan penjelasan berbasis fitur. Anda dapat melakukan penjelasan di BigQuery ML atau mendaftarkan model di Agent Platform dan melakukan penjelasan di Agent Platform.
Melacak silsilah data
Lacak asal dan transformasi data yang digunakan dalam sistem AI Anda. Pelacakan ini membantu Anda memahami perjalanan data dan mengidentifikasi potensi sumber bias atau error.
Silsilah data adalah fitur Knowledge Catalog yang memungkinkan Anda melacak bagaimana data bergerak melalui sistem Anda: dari mana data berasal, ke mana data diteruskan, dan transformasi apa yang diterapkan padanya.
Menetapkan akuntabilitas
Tetapkan tanggung jawab yang jelas untuk pengembangan, deployment, dan hasil sistem AI Anda.
Gunakan Cloud Logging untuk mencatat peristiwa dan keputusan utama yang dibuat oleh sistem AI Anda. Log memberikan jalur audit untuk membantu Anda memahami performa sistem dan mengidentifikasi area yang perlu ditingkatkan.
Gunakan Error Reporting untuk menganalisis error yang dibuat oleh sistem AI secara sistematis. Analisis ini dapat mengungkapkan pola yang mengarah ke bias yang mendasarinya atau area yang perlu ditingkatkan lebih lanjut pada model.
Menerapkan privasi diferensial
Selama pelatihan model, tambahkan derau ke data agar sulit mengidentifikasi titik data individual, tetapi tetap memungkinkan model untuk belajar secara efektif. Dengan SQL di BigQuery, Anda dapat mengubah hasil kueri dengan agregasi pribadi diferensial .