Model AI generatif seperti Gemini memerlukan tindakan keamanan yang kuat untuk mengurangi risiko seperti menghasilkan konten berbahaya, membocorkan informasi sensitif, atau disalahgunakan. Gemini Enterprise Agent Platform Google Cloud menyediakan serangkaian alat dan praktik untuk menerapkan keamanan holistik untuk model Gemini Anda.
Potensi risiko keamanan dan strategi mitigasi
Saat men-deploy model Gemini, penting untuk mengidentifikasi dan memitigasi berbagai potensi risiko. Pendekatan proaktif untuk memahami risiko ini memungkinkan penerapan langkah-langkah keamanan yang lebih efektif. Pendekatan berlapis pada keamanan sangat penting, karena dapat mengurangi atau mencegah:
- Risiko konten: Risiko ini dapat mencakup konten yang berbahaya, kata-kata tidak sopan dan seksualisasi, serta konten kekerasan dan menyeramkan.
- Risiko keamanan merek: Konten yang dihasilkan mungkin tidak sesuai dengan gaya bahasa atau nilai merek Anda, mungkin mendukung pesaing atau produk yang tidak pantas, atau menghasilkan konten yang dapat merusak reputasi.
- Risiko penyelarasan: Konten yang dihasilkan mungkin tidak relevan atau tidak akurat.
- Risiko keamanan dan privasi: Konten yang dihasilkan dapat membocorkan data pelatihan atau perintah yang sensitif, atau pengguna yang tidak bertanggung jawab dapat mencoba memaksa model untuk mengabaikan protokol keamanan atau berperilaku dengan cara yang tidak diinginkan.
Model yang kami deploy menawarkan berbagai fitur untuk mengatasi potensi masalah ini:
- Model default dan filter yang tidak dapat dikonfigurasi memberikan jaring pengaman umum.
- Petunjuk sistem memberikan panduan langsung kepada model tentang perilaku yang diinginkan dan topik yang harus dihindari.
- Filter konten memungkinkan Anda menetapkan nilai minimum tertentu untuk jenis bahaya umum.
- Gemini sebagai filter menawarkan checkpoint yang canggih dan dapat disesuaikan untuk masalah keamanan yang kompleks atau bernuansa yang mungkin terlewatkan oleh lapisan sebelumnya atau memerlukan evaluasi yang lebih peka konteks.
- Model Armor memberikan perlindungan tingkat perusahaan terhadap injeksi perintah dan jailbreak, bahaya konten, perlindungan data sensitif, serta deteksi malware dan Safe Browsing.
- DLP secara khusus mengatasi risiko kritis kebocoran data sensitif, jika model memiliki akses ke data sensitif. Fitur ini juga memungkinkan pembuatan daftar blokir kustom.
- Kredensial Konten menambahkan metadata C2PA yang ditandatangani secara kriptografis ke gambar yang dibuat menggunakan model Gemini 3 Pro Image, yang menunjukkan bahwa gambar tersebut dibuat oleh AI dan memberikan histori asal-usulnya yang dapat diverifikasi.
Alat keamanan yang tersedia di Gemini Enterprise Agent Platform untuk Gemini
Gemini Enterprise Agent Platform menawarkan beberapa alat untuk mengelola keamanan model Gemini Anda. Memahami cara kerja, pertimbangan, dan kasus penggunaan ideal masing-masing akan membantu Anda membangun solusi keamanan yang disesuaikan.
| Pendekatan | Cara kerjanya | Perlindungan yang diberikan | Risiko | Kapan digunakan |
|---|---|---|---|---|
| Setelan default: Gemini + filter yang tidak dapat dikonfigurasi | Model Gemini pada dasarnya dirancang dengan mengutamakan keamanan dan keadilan, bahkan saat dihadapkan pada perintah berniat jahat. Google telah berinvestasi dalam evaluasi keamanan yang komprehensif, termasuk untuk bias dan toksisitas. Setelan default mencakup lapisan perlindungan independen yang dirancang untuk mencegah pembuatan konten yang terkait dengan Materi Pelecehan Seksual terhadap Anak-Anak (CSAM) atau Konten yang Dilindungi Hak Cipta (Pengutipan). | Perlindungan dasar terhadap Materi pelecehan seksual terhadap anak-anak dan hak cipta (Pengutipan) | Keamanan default Gemini mungkin tidak memenuhi kebutuhan organisasi Anda. Model dapat berhalusinasi atau tidak mengikuti petunjuk. Penyerang yang sangat gigih mungkin masih berhasil melakukan jailbreak dan injeksi perintah | Alur kerja yang tidak diperkirakan akan menerima input berbahaya |
| Filter yang Dapat Dikonfigurasi |
Filter konten bawaan Gemini memberikan perlindungan tambahan terhadap
berbagai kategori konten berbahaya, seperti konten seksual, kebencian, pelecehan, atau
konten berbahaya. Anda dapat mengonfigurasi nilai minimum pemblokiran untuk setiap kategori bahaya
(misalnya, BLOCK_LOW_AND_ABOVE, BLOCK_MEDIUM_AND_ABOVE,
BLOCK_ONLY_HIGH) berdasarkan probabilitas dan/atau tingkat keparahan konten
berbahaya. Lapisan ini merupakan lapisan independen dari model sehingga kuat terhadap
jailbreak.
|
Kuat terhadap pelanggaran untuk kategori yang telah ditentukan, sensitivitas yang dapat disesuaikan | Tidak memiliki penyesuaian yang mendetail selain setelan nilai minimum untuk kategori yang telah ditentukan. Terkadang dapat memblokir konten yang tidak berbahaya (positif palsu) atau melewatkan beberapa konten berbahaya (negatif palsu). Hanya tersedia untuk pemfilteran respons, bukan pemfilteran perintah. | Memberikan tingkat keamanan dasar untuk aplikasi atau agen yang ditampilkan kepada pengguna. Jika sasaran Anda adalah memastikan keamanan konten dan brand, filter konten harus dipasangkan dengan petunjuk sistem. |
| Petunjuk Sistem | Anda dapat menginstruksikan model tentang pedoman keamanan konten dan merek Anda melalui petunjuk sistem atau preamble. Misalnya, Anda dapat memberi tahu model untuk "tidak menjawab pertanyaan terkait politik" atau untuk mematuhi pedoman gaya bahasa dan suara brand tertentu. Petunjuk sistem secara langsung memandu perilaku model. | Dapat disesuaikan untuk keamanan konten/merek, bisa sangat efektif. | Model dapat berhalusinasi atau tidak mengikuti petunjuk. Penyerang yang gigih mungkin masih berhasil melakukan jailbreak dan injeksi perintah | Aplikasi atau agen yang memerlukan kepatuhan terhadap pedoman merek tertentu atau kebijakan konten yang bernuansa. Jika sasaran Anda adalah memastikan keamanan konten dan merek, petunjuk sistem harus dipasangkan dengan filter konten. |
| Model Armor | Model Armor adalah layanan Google Cloud yang dirancang untuk meningkatkan keamanan dan keselamatan aplikasi AI Anda. Model Armor bekerja dengan menyaring perintah dan respons LLM secara proaktif, melindungi dari berbagai risiko, dan memastikan praktik AI yang bertanggung jawab. Baik Anda men-deploy AI di Google Cloud atau penyedia cloud lainnya, Model Armor dapat membantu Anda mencegah input berbahaya, memverifikasi keamanan konten, melindungi data sensitif, menjaga kepatuhan, dan menerapkan kebijakan keamanan dan keselamatan AI secara konsisten di seluruh aplikasi AI Anda. | Pemfilteran injeksi prompt dan jailbreak, filter konten, perlindungan data sensitif, serta deteksi malware dan Safe Browsing. | Biaya dan latensi. | Penawaran berbayar untuk pelanggan dengan kebutuhan perusahaan. |
| DLP untuk daftar blokir kustom dan Sensitive Data Protection | DLP API dapat memeriksa teks untuk mengidentifikasi dan mengklasifikasikan informasi sensitif berdasarkan berbagai detektor infoType bawaan dan kustom. Setelah diidentifikasi, Cloud DLP dapat menerapkan teknik de-identifikasi seperti penyuntingan, masking, atau tokenisasi. DLP API juga dapat digunakan untuk memblokir kata kunci. Perlindungan Input: Sebelum mengirim perintah atau data pengguna ke Gemini, Anda dapat meneruskan teks melalui DLP API untuk menyamarkan atau menyembunyikan informasi sensitif apa pun. Hal ini mencegah data sensitif diproses atau dicatat ke dalam log oleh model. Perlindungan Output: Jika ada risiko bahwa Gemini mungkin secara tidak sengaja menghasilkan atau mengungkapkan informasi sensitif (misalnya, jika Gemini meringkas dokumen sumber yang berisi PII), output model dapat dipindai oleh DLP API sebelum dikirim ke pengguna. | Pemfilteran yang andal untuk kata-kata tidak sopan atau kata-kata kustom. Pemfilteran yang andal untuk data sensitif. | Menambahkan latensi. Dapat menyebabkan pemblokiran berlebihan. | Perlindungan terhadap kebocoran data untuk agen yang memiliki akses ke data sensitif. |
| Gemini sebagai Filter | Anda dapat menggunakan Gemini untuk memfilter perintah dan respons untuk agen atau aplikasi Anda. Hal ini melibatkan panggilan kedua ke model Gemini yang cepat dan hemat biaya (seperti Gemini Flash atau Flash Lite) untuk mengevaluasi apakah input dari pengguna atau alat, atau output dari model Gemini utama Anda, aman. Model filter diberi petunjuk untuk memutuskan apakah konten aman atau tidak aman berdasarkan kebijakan yang Anda tentukan, termasuk keamanan konten, keamanan merek, dan ketidakselarasan agen. Fitur ini menawarkan perlindungan yang andal dan sangat dapat disesuaikan terhadap pelanggaran keamanan konten, masalah keamanan merek, penyimpangan model, dan halusinasi, serta dapat menganalisis teks, gambar, video, dan audio untuk pemahaman yang menyeluruh. | Sangat andal dan dapat disesuaikan untuk keamanan konten/merek, penyimpangan, halusinasi; pemahaman multimodal. | Biaya dan latensi tambahan. Kemungkinan negatif palsu yang sangat jarang terjadi. | Memberikan tingkat keamanan kustom untuk aplikasi atau agen yang ditampilkan kepada pengguna |
| Pendekatan berlapis: filter yang dapat dikonfigurasi + petunjuk sistem + DLP + Gemini sebagai filter | Sangat andal dan dapat disesuaikan untuk keamanan konten/merek, drift, halusinasi; pemahaman multimodal | Biaya dan latensi tambahan. | Memberikan tingkat keamanan yang kuat untuk aplikasi atau agen yang ditampilkan kepada pengguna, terutama jika diperkirakan akan ada penggunaan yang berbahaya dan merugikan | |
| Kredensial Konten C2PA | Untuk model yang didukung, Gemini Enterprise Agent Platform otomatis menambahkan Kredensial Konten yang ditandatangani secara kriptografis ke gambar yang dihasilkan, yang menunjukkan bahwa gambar tersebut dibuat oleh AI dan memberikan histori asal yang dapat diverifikasi sesuai dengan standar C2PA. Untuk mengetahui informasi selengkapnya, lihat Kredensial Konten. | Transparansi tentang asal-usul konten; membantu pengguna mengidentifikasi gambar buatan AI. | Penggunaan alat yang tidak mematuhi kebijakan dapat membahayakan keaslian file; tidak menjamin keandalan sumber media. | Kasus penggunaan pembuatan media, yang mengutamakan transparansi tentang asal dan histori file untuk kepercayaan pengguna. |
Evaluasi keamanan berkelanjutan
Evaluasi keamanan berkelanjutan sangat penting untuk sistem AI, karena lanskap AI dan metode penyalahgunaan terus berkembang. Evaluasi rutin membantu mengidentifikasi kerentanan, menilai efektivitas mitigasi, beradaptasi dengan risiko yang terus berkembang, memastikan keselarasan dengan kebijakan dan nilai, membangun kepercayaan, dan menjaga kepatuhan. Berbagai jenis evaluasi, termasuk evaluasi pengembangan, evaluasi jaminan, red teaming, evaluasi eksternal, dan pengujian tolok ukur, membantu mencapai hal ini. Cakupan evaluasi harus mencakup keamanan konten, keamanan merek, relevansi, bias dan keadilan, kebenaran, dan ketahanan terhadap serangan adversarial. Alat seperti layanan evaluasi AI generatif Gemini Enterprise Agent Platform dapat membantu dalam upaya ini, dengan menekankan bahwa peningkatan berulang berdasarkan temuan evaluasi sangat penting untuk pengembangan AI yang bertanggung jawab.