Model bahasa besar (LLM) dapat menerjemahkan bahasa, meringkas teks, menghasilkan penulisan kreatif, menghasilkan kode, mendukung chatbot dan asisten virtual, serta melengkapi mesin telusur dan sistem rekomendasi. Namun, kemampuan dan penggunaannya yang terus berkembang berpotensi menimbulkan penerapan yang salah, penyalahgunaan, dan konsekuensi yang tidak terduga atau tidak diinginkan. LLM dapat menghasilkan output yang tidak Anda harapkan, termasuk teks yang menyinggung, tidak sensitif, atau salah secara faktual.
Fleksibilitas LLM mempersulit dalam memprediksi dengan tepat jenis output yang tidak diinginkan atau tidak terduga yang mungkin dihasilkan. Dengan adanya risiko dan kompleksitas ini, API AI generatif Gemini Enterprise Agent Platform dirancang dengan mempertimbangkan Prinsip AI Google in mind. Namun, penting bagi para developer untuk memahami dan menguji model mereka agar dapat men-deploy-nya dengan aman dan bertanggung jawab. Untuk membantu developer, Vertex AI Studio memiliki pemfilteran konten bawaan, dan API AI generatif kami memiliki pemberian skor atribut keamanan untuk membantu pelanggan menguji filter keamanan Google dan menentukan nilai minimum keyakinan yang tepat untuk kasus penggunaan dan bisnis mereka. Untuk mempelajari cara menggunakan filter dan atribut keamanan untuk API, lihat Gemini API di Agent Platform.
Saat API generatif kami diintegrasikan ke dalam konteks dan kasus penggunaan unik Anda, pertimbangan dan batasan responsible AI tambahan mungkin perlu dipertimbangkan. Kami mendorong pelanggan untuk mempromosikan praktik yang direkomendasikan untuk keadilan, interpretabilitas, privasi, dan keamanan recommended practices . Pelanggan juga tetap bertanggung jawab untuk mematuhi Google Cloud's Kebijakan Penggunaan yang Dapat Diterima (AUP), Kebijakan Penggunaan Terlarang untuk AI Generatif, dan Persyaratan Khusus Layananlainnya atau persyaratan yang relevan untuk penggunaan layanan AI/ML dan AI Generatif.
Keterbatasan model
Keterbatasan yang dapat Anda temui saat menggunakan model AI generatif meliputi (tetapi tidak terbatas pada):
Kasus khusus: Kasus khusus mengacu pada situasi yang tidak biasa, jarang, atau luar biasa yang tidak terwakili dengan baik dalam data pelatihan. Kasus-kasus ini dapat menyebabkan keterbatasan dalam performa model, seperti model memiliki keyakinan berlebihan, salah tafsir konteks, atau output yang tidak sesuai.
Halusinasi, grounding, dan faktualitas model: Model AI generatif memerlukan konteks yang didasarkan pada informasi dunia nyata, properti fisik, dan pemahaman yang akurat tentang data spesifik Anda untuk mengurangi kemungkinan model menghasilkan output yang tidak akurat, tidak relevan, atau tidak masuk akal. Untuk mempelajari grounding lebih lanjut di Agent Platform, lihat Ringkasan grounding.
Kualitas dan penyesuaian data: Kualitas, akurasi, dan bias prompt atau data yang dimasukkan ke dalam model dapat memberikan dampak yang signifikan terhadap kualitas responsnya. Jika pengguna memasukkan data atau perintah yang tidak akurat atau salah, model dapat memiliki performa yang kurang optimal atau output model yang salah.
Amplifikasi bias: Model AI generatif dapat secara tidak sengaja memperkuat bias yang sudah ada dalam data pelatihannya, sehingga menghasilkan output yang dapat semakin memperkuat prasangka sosial dan perlakuan yang tidak setara terhadap kelompok tertentu.
Kualitas bahasa: Meskipun model menghasilkan kemampuan multibahasa yang mengesankan pada tolok ukur yang kami evaluasi, sebagian besar tolok ukur kami (termasuk semua evaluasi keadilan) menggunakan bahasa Inggris. Untuk mengetahui informasi selengkapnya, lihat Google Research blog.
- Model AI generatif dapat memberikan kualitas layanan yang tidak konsisten kepada pengguna yang berbeda. Misalnya, pembuatan teks mungkin tidak efektif untuk beberapa dialek atau varietas bahasa karena data pelatihan kurang terwakili. Performa mungkin lebih buruk untuk bahasa non-Inggris atau variasi bahasa Inggris dengan representasi yang lebih sedikit.
Tolok ukur keadilan dan subgrup: Analisis keadilan Tim Riset Google terhadap model AI generatif kami tidak memberikan informasi lengkap mengenai berbagai potensi risiko. Misalnya, kami berfokus pada bias terkait sumbu gender, ras, etnis, dan agama, tetapi hanya melakukan analisis pada output model dan data berbahasa Inggris. Untuk mengetahui informasi selengkapnya, lihat Google Research blog.
Keahlian domain terbatas: Model AI generatif mungkin tidak memiliki informasi mendalam yang diperlukan untuk memberikan respons yang akurat dan mendetail tentang topik yang sangat khusus atau teknis, sehingga menghasilkan informasi yang bersifat dangkal atau salah. Untuk kasus penggunaan khusus yang kompleks, model harus disesuaikan dengan data khusus domain, dan harus ada pengawasan manusia yang memadai dalam konteks dengan potensi untuk secara material memengaruhi hak individu.
Panjang dan struktur input dan output: Model AI generatif memiliki batas token input dan output maksimum. Jika input atau output melebihi batas ini, pengklasifikasi keamanan kami tidak akan diterapkan, yang pada akhirnya dapat menyebabkan performa model yang buruk. Meskipun model yang dihosting di Agent Platform dirancang untuk menangani berbagai format teks, performanya dapat terpengaruh jika data input memiliki struktur yang tidak biasa atau kompleks.
Praktik yang direkomendasikan
Untuk memanfaatkan teknologi ini dengan aman dan bertanggung jawab, penting juga untuk mempertimbangkan risiko lain yang spesifik untuk kasus penggunaan, pengguna, dan konteks bisnis Anda, selain memanfaatkan perlindungan teknis bawaan.
Anda sebaiknya melakukan langkah-langkah berikut ini:
- Menilai risiko keamanan aplikasi Anda.
- Melakukan pengujian keamanan yang sesuai dengan kasus penggunaan Anda.
- Mengonfigurasi filter keamanan jika diperlukan.
- Meminta masukan pengguna dan memantau konten.
Pemantauan penyalahgunaan
Google Cloud telah membuat proses yang dapat digunakan untuk membantu mendeteksi potensi penyalahgunaan dan pelanggaran terhadap persyaratan kami terkait penggunaan Layanan AI Generatif. Anda dapat mempelajari proses ini lebih lanjut, serta persyaratan yang lebih ketat khusus untuk model atau fitur yang ditetapkan sebagai "AI Lanjutan", dalam dokumentasi pemantauan penyalahgunaankami.
Melaporkan penyalahgunaan
Anda dapat melaporkan dugaan penyalahgunaan Layanan atau output yang dihasilkan yang berisi materi tidak pantas atau informasi tidak akurat menggunakan formulir berikut: Laporkan dugaan penyalahgunaan di Google Cloud.
Referensi lainnya
- Mempelajari rekomendasi Google lebih lanjut untuk Praktik Responsible AI.
- Membaca blog kami, Agenda bersama untuk progres responsible AI