Model bahasa besar (LLM) dapat menerjemahkan bahasa, meringkas teks, menghasilkan penulisan kreatif, menghasilkan kode, mendukung chatbot dan asisten virtual, serta melengkapi mesin telusur dan sistem rekomendasi. Namun, kemampuan dan penggunaannya yang terus berkembang berpotensi menimbulkan penerapan yang salah, penyalahgunaan, dan konsekuensi yang tidak diinginkan atau tidak terduga. LLM dapat menghasilkan output yang tidak Anda harapkan, termasuk teks yang menyinggung, tidak sensitif, atau salah secara faktual.
Fleksibilitas LLM mempersulit dalam memprediksi dengan tepat jenis output yang tidak diinginkan atau tidak terduga yang mungkin dihasilkan. Mengingat risiko dan kompleksitas ini, API AI generatif Gemini Enterprise Agent Platform dirancang dengan mempertimbangkan Prinsip AI Google. Namun, penting bagi developer untuk memahami dan menguji model mereka agar dapat di-deploy dengan aman dan bertanggung jawab. Untuk membantu developer, Vertex AI Studio memiliki pemfilteran konten bawaan, dan API AI generatif kami memiliki pemberian skor atribut keamanan untuk membantu pelanggan menguji filter keamanan Google dan menentukan nilai minimum keyakinan yang tepat untuk kasus penggunaan dan bisnis mereka. Untuk mempelajari cara menggunakan filter dan atribut keamanan untuk API, lihat Gemini API di Agent Platform.
Saat API generatif kami diintegrasikan ke dalam konteks dan kasus penggunaan unik Anda, pertimbangan responsible AI tambahan dan batasan mungkin perlu dipertimbangkan. Kami mendorong pelanggan untuk mempromosikan praktik yang direkomendasikan untuk keadilan, interpretabilitas, privasi, dan keamanan. Pelanggan juga tetap bertanggung jawab untuk mematuhi Google CloudKebijakan Penggunaan yang Dapat Diterima (AUP) Google, Kebijakan Penggunaan Terlarang untuk AI Generatif, dan Persyaratan Khusus Layanan lainnya atau persyaratan yang relevan untuk penggunaan layanan AI/ML dan AI Generatif.
Batasan model
Keterbatasan yang dapat Anda alami saat menggunakan model AI generatif meliputi (tetapi tidak terbatas pada):
Kasus khusus: Kasus khusus mengacu pada situasi yang tidak biasa, jarang, atau luar biasa yang tidak terwakili dengan baik dalam data pelatihan. Kasus-kasus ini dapat menyebabkan keterbatasan dalam performa model, seperti keyakinan berlebihan model, salah tafsir konteks, atau output yang tidak sesuai.
Halusinasi, perujukan, dan faktualitas model: Model AI generatif memerlukan konteks yang didasarkan pada informasi dunia nyata, properti fisik, dan pemahaman yang akurat tentang data spesifik Anda untuk mengurangi kemungkinan model menghasilkan output yang tidak akurat, tidak relevan, atau tidak masuk akal. Untuk mempelajari lebih lanjut perujukan di Agent Platform, lihat Ringkasan perujukan.
Kualitas dan penyesuaian data: Kualitas, akurasi, dan bias prompt atau data yang dimasukkan ke dalam model dapat memberikan dampak yang signifikan terhadap kualitas responsnya. Jika pengguna memasukkan data atau perintah yang tidak akurat atau salah, model dapat memiliki performa yang kurang optimal atau output model yang salah.
Amplifikasi bias: Model AI generatif dapat secara tidak sengaja memperkuat bias yang sudah ada dalam data pelatihannya, sehingga menghasilkan output yang dapat semakin memperkuat prasangka sosial dan perlakuan yang tidak setara terhadap kelompok tertentu.
Kualitas bahasa: Meskipun model menghasilkan kemampuan multibahasa yang mengesankan pada tolok ukur yang kami evaluasi, sebagian besar tolok ukur kami (termasuk semua evaluasi keadilan) menggunakan bahasa Inggris. Untuk mengetahui informasi selengkapnya, lihat blog Google Research.
- Model AI generatif dapat memberikan kualitas layanan yang tidak konsisten kepada pengguna yang berbeda. Misalnya, pembuatan teks mungkin tidak efektif untuk beberapa dialek atau varietas bahasa karena data pelatihan kurang terwakili. Performa dapat lebih buruk untuk bahasa non-Inggris atau variasi bahasa Inggris dengan representasi yang lebih sedikit.
Tolok ukur keadilan dan subgrup: Analisis keadilan Tim Riset Google terhadap model AI generatif kami tidak memberikan informasi lengkap mengenai berbagai potensi risiko. Misalnya, kami berfokus pada bias terkait sumbu gender, ras, etnis, dan agama, tetapi hanya melakukan analisis pada output model dan data berbahasa Inggris. Untuk mengetahui informasi selengkapnya, lihat blog Google Research.
Keahlian domain terbatas: Model AI generatif mungkin tidak memiliki kedalaman informasi yang diperlukan untuk memberikan respons yang akurat dan mendetail tentang topik yang sangat khusus atau teknis, sehingga menghasilkan informasi yang bersifat dangkal atau salah. Untuk kasus penggunaan khusus yang kompleks, model harus disesuaikan dengan data khusus domain, dan harus ada pengawasan manusia yang memadai dalam konteks dengan potensi untuk secara material memengaruhi hak individu.
Panjang dan struktur input dan output: Model AI generatif memiliki batas token input dan output maksimum. Jika input atau output melebihi batas ini, pengklasifikasi keamanan kami tidak diterapkan, yang pada akhirnya dapat menyebabkan performa model yang buruk. Meskipun model yang dihosting di Agent Platform dirancang untuk menangani berbagai format teks, performanya dapat terpengaruh jika data input memiliki struktur yang tidak biasa atau kompleks.
Praktik yang direkomendasikan
Untuk memanfaatkan teknologi ini dengan aman dan bertanggung jawab, penting juga untuk mempertimbangkan risiko lain yang spesifik untuk kasus penggunaan, pengguna, dan konteks bisnis Anda, selain memanfaatkan perlindungan teknis bawaan.
Anda sebaiknya melakukan langkah-langkah berikut ini:
- Menilai risiko keamanan aplikasi Anda.
- Melakukan pengujian keamanan yang sesuai dengan kasus penggunaan Anda.
- Mengonfigurasi filter keamanan jika diperlukan.
- Meminta masukan pengguna dan memantau konten.
Memitigasi risiko dari output model yang dirender (Markdown dan HTML)
Jika aplikasi Anda otomatis merender output model, seperti Markdown atau HTML, di browser atau UI, Anda mungkin rentan terhadap serangan injeksi perintah tidak langsung dan eksfiltrasi data.
Untuk melindungi pengguna Anda, lakukan hal berikut:
- Membersihkan output: Gunakan pembersih HTML yang ketat (seperti DOMPurify) untuk menghapus artefak berbahaya sebelum merender.
- Terapkan CSP: Gunakan header Kebijakan Keamanan Konten (CSP) untuk memblokir pemuatan gambar eksternal (
img-src) dan eksekusi skrip yang tidak tepercaya (script-src). - Mengontrol pemuatan gambar: Nonaktifkan rendering otomatis gambar eksternal atau mewajibkan izin pengguna.
- Memperkuat link: Secara otomatis menambahkan
rel="noopener noreferrer"ke link yang dibuat.
Pemantauan penyalahgunaan
Google Cloud telah membuat proses yang dapat digunakan untuk membantu mendeteksi potensi penyalahgunaan dan pelanggaran persyaratan kami terkait penggunaan Layanan AI Generatif. Anda dapat mempelajari lebih lanjut proses ini, serta persyaratan yang lebih ketat khusus untuk model atau fitur yang ditetapkan sebagai "AI Canggih", dalam dokumentasi pemantauan penyalahgunaan kami.
Laporkan penyalahgunaan
Anda dapat melaporkan dugaan penyalahgunaan Layanan atau output yang dihasilkan yang berisi materi tidak pantas atau informasi tidak akurat menggunakan formulir berikut: Laporkan dugaan penyalahgunaan di Google Cloud.
Referensi lainnya
- Pelajari lebih lanjut rekomendasi Google untuk praktik Responsible AI.
- Membaca blog kami, Agenda bersama untuk progres responsible AI