Prinsip dalam pilar keamanan Google Cloud Well-Architected Framework ini memberikan rekomendasi untuk membantu Anda mengamankan sistem AI. Rekomendasi ini selaras dengan Secure AI Framework (SAIF) Google, yang memberikan pendekatan praktis untuk mengatasi masalah keamanan dan risiko sistem AI. SAIF adalah framework konseptual yang bertujuan untuk menyediakan standar di seluruh industri untuk membangun dan men-deploy AI secara bertanggung jawab.
Ringkasan prinsip
Untuk membantu memastikan bahwa sistem AI Anda memenuhi persyaratan keamanan, privasi, dan kepatuhan, Anda harus mengadopsi strategi holistik yang dimulai dari desain awal hingga deployment dan operasi.
Google menggunakan AI untuk meningkatkan langkah-langkah keamanan, seperti mengidentifikasi ancaman, mengotomatiskan tugas keamanan, dan meningkatkan kemampuan deteksi, sekaligus tetap melibatkan manusia dalam pengambilan keputusan penting.
Google menekankan pendekatan kolaboratif untuk meningkatkan keamanan AI. Pendekatan ini melibatkan kemitraan dengan pelanggan, industri, dan pemerintah untuk meningkatkan pedoman SAIF dan menawarkan referensi yang praktis dan dapat ditindaklanjuti.
Rekomendasi untuk menerapkan prinsip ini dikelompokkan dalam bagian berikut:
Rekomendasi untuk menggunakan AI dengan aman
Untuk menggunakan AI dengan aman, Anda memerlukan kontrol keamanan dasar dan kontrol keamanan khusus AI. Bagian ini memberikan ringkasan rekomendasi untuk memastikan bahwa deployment AI dan ML Anda memenuhi persyaratan keamanan, privasi, dan kepatuhan organisasi Anda. Untuk ringkasan prinsip dan rekomendasi arsitektur yang khusus untuk workload AI dan ML di Google Cloud, lihat Perspektif AI dan ML dalam Well-Architected Framework.
Menentukan sasaran dan persyaratan yang jelas untuk penggunaan AI
Rekomendasi ini relevan dengan area fokus berikut:
- Tata kelola, risiko, dan kepatuhan cloud
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF tentang memahami risiko sistem AI dalam konteks proses bisnis. Saat Anda mendesain dan mengembangkan sistem AI, penting untuk memahami sasaran bisnis, risiko, dan persyaratan kepatuhan spesifik Anda.
Menjaga keamanan data dan mencegah kehilangan atau kesalahan penanganan
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF berikut:
- Memperluas fondasi keamanan yang kuat ke ekosistem AI. Elemen ini mencakup pengumpulan data, penyimpanan, kontrol akses, dan perlindungan terhadap peracunan data.
- Memahami risiko sistem AI dalam konteks proses bisnis. Menekankan keamanan data untuk mendukung tujuan bisnis dan kepatuhan.
Menjaga keamanan dan ketahanan pipeline AI terhadap modifikasi tidak sah
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF berikut:
- Memperluas fondasi keamanan yang kuat ke ekosistem AI. Sebagai elemen kunci dalam membangun sistem AI yang aman, amankan kode dan artefak model Anda.
- Menyesuaikan kontrol untuk feedback loop yang lebih cepat. Karena penting untuk mitigasi dan respons insiden, lacak aset dan operasi pipeline Anda.
Men-deploy aplikasi di sistem yang aman menggunakan alat dan artefak yang aman
Rekomendasi ini relevan dengan area fokus berikut:
- Keamanan infrastruktur
- Pengelolaan akses dan identitas
- Keamanan data
- Keamanan aplikasi
- Keamanan AI dan ML
Penggunaan sistem yang aman serta alat dan artefak yang divalidasi dalam aplikasi berbasis AI selaras dengan elemen SAIF tentang perluasan fondasi keamanan yang kuat ke ekosistem dan supply chain AI. Rekomendasi ini dapat diatasi melalui langkah-langkah berikut:
- Menerapkan lingkungan yang aman untuk pelatihan dan deployment ML
- Menggunakan image container yang divalidasi
- Menerapkan panduan Supply-chain Levels for Software Artifacts (SLSA)
Melindungi dan memantau input
Rekomendasi ini relevan dengan area fokus berikut:
- Logging, audit, dan pemantauan
- Operasi keamanan
- Keamanan AI dan ML
Rekomendasi ini selaras dengan elemen SAIF tentang perluasan deteksi dan respons untuk membawa AI ke dalam ranah ancaman organisasi. Untuk mencegah masalah, sangat penting untuk mengelola perintah untuk sistem AI generatif, memantau input, dan mengontrol akses pengguna.
Rekomendasi untuk tata kelola AI
Semua rekomendasi di bagian ini relevan dengan area fokus berikut: Tata kelola, risiko, dan kepatuhan cloud.
Google Cloud menawarkan serangkaian alat dan layanan yang andal yang dapat Anda gunakan untuk membangun sistem AI yang bertanggung jawab dan etis. Kami juga menawarkan framework kebijakan, prosedur, dan pertimbangan etis yang dapat memandu pengembangan, deployment, dan penggunaan sistem AI.
Seperti yang tercermin dalam rekomendasi kami, pendekatan Google untuk tata kelola AI dipandu oleh prinsip-prinsip berikut:
- Keadilan
- Transparansi
- Akuntabilitas
- Privasi
- Keamanan
Menggunakan indikator keadilan
Gemini Enterprise Agent Platform dapat mendeteksi bias selama pengumpulan data atau proses evaluasi pascapelatihan. Agent Platform menyediakan metrik evaluasi model seperti bias data dan bias model untuk membantu Anda mengevaluasi bias pada model.
Metrik ini terkait dengan keadilan di berbagai kategori seperti ras, gender, dan kelas. Namun, menafsirkan penyimpangan statistik bukanlah hal yang mudah, karena perbedaan di berbagai kategori mungkin bukan akibat bias atau sinyal bahaya.
Menggunakan AI yang dapat dijelaskan
Untuk memahami cara model AI Anda membuat keputusan, gunakan teknik keterjelasan seperti atribusi fitur. Kejelasan membantu Anda mengidentifikasi potensi bias yang mungkin tersembunyi dalam logika model.
Misalnya, Anda dapat membuat penjelasan berbasis fitur di BigQuery ML dan penjelasan tabulasi di Agent Platform.
Melacak silsilah data
Lacak asal dan transformasi data yang digunakan dalam sistem AI Anda. Pelacakan ini membantu Anda memahami perjalanan data dan mengidentifikasi potensi sumber bias atau error.
Silsilah data adalah fitur Knowledge Catalog yang memungkinkan Anda melacak pergerakan data melalui sistem: dari mana asalnya, ke mana data diteruskan, dan transformasi apa yang diterapkan padanya.
Menetapkan akuntabilitas
Tetapkan tanggung jawab yang jelas atas pengembangan, deployment, dan hasil sistem AI Anda.
Gunakan Cloud Logging untuk mencatat peristiwa dan keputusan penting yang dibuat oleh sistem AI Anda. Log menyediakan jejak audit untuk membantu Anda memahami performa sistem dan mengidentifikasi area yang perlu ditingkatkan.
Gunakan Error Reporting untuk menganalisis error yang dibuat oleh sistem AI secara sistematis. Analisis ini dapat mengungkap pola yang menunjukkan bias yang mendasarinya atau area yang memerlukan penyempurnaan lebih lanjut pada model.
Menerapkan privasi diferensial
Selama pelatihan model, tambahkan derau ke data agar titik data individual sulit diidentifikasi, tetapi tetap memungkinkan model belajar secara efektif. Dengan SQL di BigQuery, Anda dapat mengubah hasil kueri dengan agregasi pribadi diferensial.