Google Cloud dengan Gemini dan AI yang bertanggung jawab

Produk Gemini di Google Cloud, seperti Gemini Code Assist, menggabungkan prinsip desain AI yang bertanggung jawab untuk membantu Anda memahami kemampuan, batasan, dan risiko AI generatif. Dengan memahami kontrol keamanan dan batas operasional ini, Anda dapat mengevaluasi dan men-deploy bantuan AI di seluruh alur kerja Anda.

Kemampuan dan risiko model bahasa besar

Model bahasa besar (LLM) dapat melakukan banyak tugas yang berguna seperti berikut:

  • Terjemahkan bahasa.
  • Meringkas teks.
  • Membuat kode dan tulisan kreatif.
  • Mendukung chatbot dan asisten virtual.
  • Melengkapi mesin telusur dan sistem rekomendasi.

Pada saat yang sama, kemampuan teknis LLM yang terus berkembang berpotensi menimbulkan penerapan yang salah, penyalahgunaan, dan konsekuensi yang tidak diinginkan atau tidak terduga.

LLM dapat menghasilkan output yang tidak Anda harapkan, termasuk teks yang menyinggung, tidak sensitif, atau salah secara faktual. Karena LLM sangat serbaguna, sulit untuk memprediksi dengan tepat jenis output yang tidak diinginkan atau tidak terduga yang mungkin dihasilkan.

Mengingat risiko dan kompleksitas ini, produk seperti Gemini Code Assist dirancang dengan mempertimbangkan prinsip AI Google. Namun, penting bagi pengguna untuk memahami beberapa batasan produk Gemini agar dapat menggunakannya dengan aman dan bertanggung jawab.

Batasan produk Gemini di Google Cloud

Beberapa batasan yang mungkin Anda alami saat menggunakan produk Gemini di Google Cloud mencakup (tetapi tidak terbatas pada) hal berikut:

  • Kasus ekstrem. Kasus khusus mengacu pada situasi yang tidak biasa, jarang, atau luar biasa yang tidak terwakili dengan baik dalam data pelatihan. Kasus-kasus ini dapat menyebabkan keterbatasan dalam output model Gemini, seperti model memiliki keyakinan berlebihan, salah tafsir konteks, atau output yang tidak sesuai.

  • Halusinasi, perujukan, dan faktualitas model. Model Gemini mungkin tidak memiliki grounding dan faktualitas dalam pengetahuan dunia nyata, properti fisik, atau pemahaman yang akurat. Keterbatasan ini dapat menyebabkan halusinasi model, di mana Gemini dapat menghasilkan output yang terdengar masuk akal, tetapi salah secara faktual, tidak relevan, tidak pantas, atau tidak masuk akal. Halusinasi juga dapat mencakup pembuatan link ke halaman web yang tidak ada dan tidak pernah ada. Untuk mengetahui informasi selengkapnya, lihat artikel Menulis perintah yang lebih baik untuk Gemini di Google Cloud.

  • Kualitas dan penyesuaian data. Kualitas, akurasi, dan bias data perintah yang dimasukkan ke produk Gemini di Google Cloud dapat memengaruhi performanya secara signifikan. Jika pengguna memasukkan perintah yang tidak akurat atau salah, Gemini mungkin memberikan respons yang kurang optimal atau salah.

  • Amplifikasi bias. Model bahasa dapat secara tidak sengaja memperkuat bias yang sudah ada dalam data pelatihannya, sehingga menghasilkan output yang dapat semakin memperkuat prasangka sosial dan perlakuan yang tidak setara terhadap kelompok tertentu.

  • Kualitas bahasa. Meskipun produk Gemini di Google Cloud menghasilkan kemampuan multibahasa yang mengesankan pada tolok ukur yang kami evaluasi, sebagian besar tolok ukur kami (termasuk semua evaluasi keadilan) menggunakan bahasa Inggris Amerika.

    Model bahasa mungkin memberikan kualitas layanan yang tidak konsisten kepada pengguna yang berbeda. Misalnya, pembuatan teks mungkin tidak efektif untuk beberapa dialek atau varietas bahasa karena kurang terwakili dalam data pelatihan. Performa mungkin lebih buruk untuk bahasa non-Inggris atau variasi bahasa Inggris dengan representasi yang lebih sedikit.

  • Tolok ukur dan subgrup keadilan. Analisis keadilan Tim Riset Google terhadap model Gemini tidak memberikan informasi lengkap mengenai berbagai potensi risiko. Misalnya, kami berfokus pada bias terkait sumbu gender, ras, etnis, dan agama, tetapi hanya melakukan analisis pada output model dan data berbahasa Inggris Amerika.

  • Keahlian domain terbatas. Model Gemini telah dilatih dengan Google Cloud teknologi, tetapi mungkin tidak memiliki pengetahuan mendalam yang diperlukan untuk memberikan respons yang akurat dan mendetail tentang topik yang sangat khusus atau teknis, sehingga menghasilkan informasi yang bersifat dangkal atau salah.

    Saat Anda menggunakan panel Gemini di konsol Google Cloud , Gemini tidak mengetahui konteks lingkungan spesifik Anda, sehingga tidak dapat menjawab pertanyaan seperti "Kapan terakhir kali saya membuat VM?"

    Dalam beberapa kasus, produk Gemini akan Google Cloud mengirim segmen konteks tertentu ke model untuk menerima respons yang spesifik per konteks—misalnya, saat Anda mengklik tombol Saran pemecahan masalah di halaman layanan Pelaporan Error.

Pemfilteran keamanan dan toksisitas Gemini

Perintah dan respons untuk produk Gemini di Google Cloud, seperti Gemini Code Assist, diperiksa terhadap daftar lengkap atribut keamanan sebagaimana berlaku untuk setiap kasus penggunaan. Atribut keamanan ini bertujuan untuk memfilter konten yang melanggar Kebijakan Penggunaan yang Dapat Diterima kami. Jika output dianggap berbahaya, respons akan diblokir.

Langkah berikutnya