Model AI generatif seperti Gemini memerlukan langkah-langkah keamanan yang kuat untuk mengurangi risiko seperti pembuatan konten berbahaya, kebocoran informasi sensitif atau penyalahgunaan. Google Cloud's Gemini Enterprise Agent Platform menyediakan serangkaian alat dan praktik untuk menerapkan keamanan holistik bagi model Gemini Anda.
Potensi risiko keamanan dan strategi mitigasinya
Saat men-deploy model Gemini, Anda harus mengidentifikasi dan mengurangi berbagai potensi risiko. Pendekatan proaktif untuk memahami risiko ini memungkinkan penerapan langkah-langkah keamanan yang lebih efektif. Pendekatan berlapis pada keamanan sangat penting karena dapat mengurangi atau mencegah:
- Risiko konten: Risiko ini dapat mencakup konten yang berbahaya, kata-kata tidak sopan dan seksualisasi, serta konten kekerasan dan menyeramkan.
- Risiko keamanan merek: Konten yang dihasilkan mungkin tidak sesuai dengan nada atau nilai merek Anda, mungkin mendukung pesaing atau produk yang tidak pantas, atau menghasilkan konten yang dapat mengakibatkan kerusakan reputasi.
- Risiko keselarasan: Konten yang dihasilkan mungkin tidak relevan atau tidak akurat.
- Risiko keamanan dan privasi: Konten yang dihasilkan mungkin membocorkan data atau perintah pelatihan sensitif, atau pengguna yang tidak bertanggung jawab dapat mencoba memaksa model untuk mengganti protokol keamanan atau berperilaku dengan cara yang tidak diinginkan.
Model yang kami deploy menawarkan berbagai fitur untuk mengatasi potensi masalah ini:
- Model default dan filter yang tidak dapat dikonfigurasi memberikan jaring pengaman umum.
- Petunjuk sistem memberikan panduan langsung kepada model tentang perilaku dan topik yang disukai untuk dihindari.
- Filter konten memungkinkan Anda menetapkan nilai minimum tertentu untuk jenis bahaya umum.
- Gemini sebagai filter menawarkan pos pemeriksaan lanjutan yang dapat disesuaikan untuk masalah keamanan yang kompleks atau bernuansa yang mungkin terlewatkan oleh lapisan sebelumnya atau memerlukan evaluasi yang lebih sadar konteks.
- Model Armor memberikan perlindungan tingkat perusahaan terhadap injeksi perintah dan jailbreak, bahaya konten, perlindungan data sensitif, serta deteksi malware dan penjelajahan yang aman.
- DLP secara khusus menangani risiko kritis kebocoran data sensitif, jika model memiliki akses ke data sensitif. DLP juga memungkinkan kemampuan untuk membuat daftar blokir kustom.
- Kredensial Konten menambahkan metadata C2PA yang ditandatangani secara kriptografis ke gambar yang dihasilkan menggunakan model Gambar Gemini 3 Pro, yang menunjukkan bahwa gambar tersebut dibuat oleh AI dan memberikan histori asal yang dapat diverifikasi.
Alat keamanan yang tersedia di Gemini Enterprise Agent Platform untuk Gemini
Gemini Enterprise Agent Platform menawarkan beberapa alat untuk mengelola keamanan model Gemini Anda. Memahami cara kerja setiap alat, pertimbangannya, dan kasus penggunaan yang ideal akan membantu Anda membuat solusi keamanan yang disesuaikan.
| Pendekatan | Cara kerjanya | Perlindungan yang diberikan | Risiko | Kapan digunakan |
|---|---|---|---|---|
| Setelan default: Gemini + filter yang tidak dapat dikonfigurasi | Model Gemini pada dasarnya dirancang dengan mempertimbangkan keamanan dan keadilan, bahkan saat menghadapi perintah yang tidak bertanggung jawab. Google telah berinvestasi dalam evaluasi keamanan yang komprehensif termasuk untuk bias dan toksisitas. Setelan default mencakup lapisan perlindungan independen yang dirancang untuk mencegah pembuatan konten terkait Materi Pelecehan Seksual terhadap Anak-Anak (CSAM) atau Konten yang Dilindungi Hak Cipta (Pembacaan). | Perlindungan dasar terhadap Materi pelecehan seksual terhadap anak-anak dan hak cipta (Pembacaan) | Keamanan default Gemini mungkin tidak memenuhi kebutuhan organisasi Anda. Model dapat berhalusinasi atau tidak mengikuti petunjuk. Penyerang yang termotivasi mungkin masih berhasil melakukan jailbreak dan injeksi perintah | Alur kerja yang tidak mengharapkan input berbahaya |
| Filter yang Dapat Dikonfigurasi |
Filter konten bawaan Gemini memberikan perlindungan tambahan terhadap
berbagai kategori konten berbahaya, seperti konten seksual, kebencian, pelecehan, atau
berbahaya. Anda dapat mengonfigurasi nilai minimum pemblokiran untuk setiap kategori bahaya
(misalnya, BLOCK_LOW_AND_ABOVE, BLOCK_MEDIUM_AND_ABOVE,
BLOCK_ONLY_HIGH) berdasarkan probabilitas dan/atau tingkat keparahan konten berbahaya.
Filter ini merupakan lapisan independen dari model sehingga kuat terhadap
jailbreak.
|
Kuat terhadap pelanggaran untuk kategori yang telah ditentukan, sensitivitas yang dapat disesuaikan | Tidak memiliki penyesuaian mendetail di luar setelan nilai minimum untuk kategori yang telah ditentukan. Mungkin sesekali memblokir konten yang tidak berbahaya (positif palsu) atau melewatkan beberapa konten berbahaya konten (negatif palsu). Hanya tersedia untuk pemfilteran respons, bukan pemfilteran perintah. | Memberikan tingkat keamanan dasar untuk aplikasi atau agen yang digunakan pengguna. Jika tujuan Anda adalah memastikan keamanan konten dan merek, filter konten harus dipasangkan dengan petunjuk sistem. |
| Petunjuk Sistem | Anda dapat menginstruksikan model tentang pedoman keamanan merek dan konten Anda melalui petunjuk sistem atau pembukaan. Misalnya, Anda dapat memberi tahu model "jangan menjawab pertanyaan terkait politik" atau untuk mematuhi pedoman suara dan nada merek tertentu. Petunjuk sistem secara langsung memandu perilaku model. | Dapat disesuaikan untuk keamanan konten/merek, dapat sangat efektif. | Model dapat berhalusinasi atau tidak mengikuti petunjuk. Penyerang yang termotivasi mungkin masih berhasil melakukan jailbreak dan injeksi perintah | Aplikasi atau agen yang memerlukan kepatuhan terhadap pedoman merek tertentu atau kebijakan konten yang bernuansa Jika tujuan Anda adalah memastikan keamanan konten dan merek, petunjuk sistem harus dipasangkan dengan filter konten. |
| Model Armor | Model Armor adalah layanan yang dirancang untuk meningkatkan keamanan dan keselamatan aplikasi AI Anda. Google Cloud Model ini berfungsi dengan secara proaktif menyaring perintah dan respons LLM, melindungi dari berbagai risiko, dan memastikan praktik AI yang bertanggung jawab. Baik Anda men-deploy AI di Google Cloud maupun penyedia cloud lainnya, Model Armor dapat membantu Anda mencegah input berbahaya, memverifikasi keamanan konten, melindungi data sensitif, mempertahankan kepatuhan, dan menerapkan kebijakan keamanan dan keselamatan AI Anda secara konsisten di seluruh aplikasi AI Anda. | Pemfilteran injeksi perintah dan jailbreak, filter konten, perlindungan data sensitif, serta deteksi malware dan penjelajahan yang aman. | Biaya dan latensi. | Penawaran berbayar untuk pelanggan dengan kebutuhan perusahaan. |
| DLP untuk daftar blokir kustom dan Perlindungan data sensitif | DLP API dapat memeriksa teks untuk mengidentifikasi dan mengklasifikasikan informasi sensitif berdasarkan berbagai detektor infoType yang telah ditentukan dan kustom. Setelah diidentifikasi, DLP API dapat menerapkan teknik de-identifikasi seperti penyamaran, masking, atau tokenisasi. DLP API juga dapat digunakan untuk memblokir kata kunci. Perlindungan Input: Sebelum mengirim perintah atau data pengguna ke Gemini, Anda dapat meneruskan teks melalui DLP API untuk menyamarkan atau menyembunyikan informasi sensitif apa pun. Hal ini mencegah data sensitif diproses atau dicatat oleh model. Perlindungan Output: Jika ada risiko bahwa Gemini mungkin secara tidak sengaja membuat atau mengungkapkan informasi sensitif (misalnya, jika Gemini meringkas dokumen sumber yang berisi PII), output model dapat dipindai oleh DLP API sebelum dikirim ke pengguna. | Pemfilteran yang kuat untuk kata-kata kotor atau kata-kata kustom. Pemfilteran yang kuat untuk data sensitif data. | Menambahkan latensi. Dapat menyebabkan pemblokiran berlebihan. | Perlindungan kehilangan data untuk agen yang memiliki akses ke data sensitif. |
| Gemini sebagai Filter | Anda dapat menggunakan Gemini untuk memfilter perintah dan respons untuk agen atau aplikasi Anda. Hal ini melibatkan pembuatan panggilan kedua ke model Gemini yang cepat dan hemat biaya (seperti Gemini Flash atau Flash Lite) untuk mengevaluasi apakah input dari pengguna atau alat, atau output dari model Gemini utama Anda, aman. Model filter diberi petunjuk untuk memutuskan apakah konten aman atau tidak aman berdasarkan kebijakan yang Anda tentukan, termasuk keamanan konten, keamanan merek, dan ketidakselarasan agen. Hal ini menawarkan perlindungan yang kuat dan sangat dapat disesuaikan terhadap pelanggaran keamanan konten, masalah keamanan merek, penyimpangan model, dan halusinasi dan dapat menganalisis teks, gambar, video, dan audio untuk pemahaman holistik. | Sangat kuat dan dapat disesuaikan untuk keamanan konten/merek, penyimpangan, halusinasi; pemahaman multimodal. | Biaya dan latensi tambahan. Peluang negatif palsu yang sangat jarang terjadi. | Memberikan tingkat keamanan kustom untuk aplikasi atau agen yang digunakan pengguna |
| Pendekatan berlapis: filter yang dapat dikonfigurasi + petunjuk sistem + DLP + Gemini sebagai filter | Sangat kuat dan dapat disesuaikan untuk keamanan konten/merek, penyimpangan, halusinasi; pemahaman multimodal | Biaya dan latensi tambahan. | Memberikan tingkat keamanan yang kuat untuk aplikasi atau agen yang digunakan pengguna, terutama jika penggunaan yang tidak bertanggung jawab dan berbahaya diperkirakan | |
| Kredensial Konten C2PA | Untuk model yang didukung, Gemini Enterprise Agent Platform secara otomatis menambahkan Kredensial Konten yang ditandatangani secara kriptografis ke gambar yang dihasilkan, yang menunjukkan bahwa gambar tersebut dibuat oleh AI dan memberikan histori asal yang dapat diverifikasi sesuai dengan standar C2PA. Untuk mengetahui informasi selengkapnya, lihat Kredensial Konten. | Transparansi tentang asal konten; membantu pengguna mengidentifikasi gambar buatan AI. | Penggunaan alat yang tidak sesuai dapat membahayakan keaslian file; tidak menjamin kepercayaan sumber media. | Kasus penggunaan pembuatan media, yang transparansi tentang asal dan histori file penting untuk kepercayaan pengguna. |
Evaluasi keamanan berkelanjutan
Evaluasi keamanan berkelanjutan sangat penting untuk sistem AI, karena lanskap AI dan metode penyalahgunaan terus berkembang. Evaluasi rutin membantu mengidentifikasi kerentanan, menilai efektivitas mitigasi, beradaptasi dengan risiko yang terus berkembang, memastikan keselarasan dengan kebijakan dan nilai, membangun kepercayaan, dan mempertahankan kepatuhan. Berbagai jenis evaluasi, termasuk evaluasi pengembangan, evaluasi jaminan, red teaming, evaluasi eksternal, dan pengujian tolok ukur, membantu mencapai hal ini. Cakupan evaluasi harus mencakup keamanan konten, keamanan merek, relevansi, bias dan keadilan, kebenaran, dan ketahanan terhadap serangan yang tidak bertanggung jawab. Alat seperti layanan evaluasi AI Generatif Gemini Enterprise Agent Platform dapat membantu upaya ini, dengan menekankan bahwa peningkatan berulang berdasarkan temuan evaluasi sangat penting untuk pengembangan AI yang bertanggung jawab.