Pengaman

Batasan adalah kumpulan pemeriksaan dan keseimbangan yang membantu melindungi dan menjaga aplikasi agen agar tetap aman dan terlindungi. Fitur ini memberikan batasan konten untuk input model dan output model. Setiap aplikasi agen dilengkapi dengan batas keamanan default, yang dapat Anda ubah agar sesuai dengan kebutuhan Anda. Untuk mengakses pembatas aplikasi agen Anda, klik tombol pembatas di sisi kanan pembuat agen.

Hasil

Setiap jenis pembatas berisi setelan hasil. Setelan ini mengontrol apa yang terjadi jika pengamanan dipicu. Anda dapat memilih dari jenis tindakan berikut:

  • Katakan persisnya: Berikan respons agen yang persis sama.

  • Menyerahkan kepada agen: Mengalihkan kontrol ke agen tertentu.

  • Buat respons: Berikan petunjuk untuk membuat respons. Default disediakan untuk Anda, yang dapat Anda ganti untuk menyesuaikan.

Perlindungan perintah

Penjaga perintah memberikan perlindungan dasar terhadap serangan berbasis perintah seperti "abaikan petunjuk Anda dan ...". Setelan berikut tersedia:

  • Aktifkan perlindungan perintah: Mengaktifkan atau menonaktifkan kartu perintah.
  • Hasil: Lihat Hasil
  • Kustom: Memberikan perintah keamanan kustom untuk menyaring kueri.

Daftar yang Tidak Disetujui

Daftar yang tidak diizinkan mencegah pengguna dan agen Anda menggunakan kata dan frasa tertentu. Saat Anda membuat daftar, setelan berikut tersedia:

  • Bagaimana cara agen Anda mencocokkan konten yang diblokir?: Dengan begitu, Anda dapat memilih metode pencocokan:
    • Seluruh kata: Mencocokkan seluruh kata.
    • Setiap sebutan: Mencocokkan konten yang berisi kata dan frasa.
    • Pola regex: Mencocokkan ekspresi reguler.
  • Blokir kata dan frasa: Daftar kata dan frasa yang diblokir, dengan setiap entri dipisahkan dengan koma.
  • Konten yang diblokir dari: Blokir konten dari salah satu atau keduanya:
    • Saat input pengguna
    • Pada respons agen
  • Hasil: Lihat Hasil
  • Detail: Berikan nama dan deskripsi opsional untuk daftar blokir ini.

Keamanan

Ini adalah batasan yang menerapkan praktik AI yang bertanggung jawab. Berikut adalah setelan yang tersedia:

  • Tingkat keamanan: Pilih tingkat keamanan:
    • Santai (Relaxed): Memprioritaskan pembuatan yang fleksibel dan latensi rendah. Jangan pernah berinteraksi dengan perintah yang tidak sah atau berbahaya. Selalu blokir konten yang jelas-jelas berbahaya.
    • Seimbang (Balanced): Memprioritaskan interaksi yang aman dan alami dengan pelanggan. Selalu hentikan konten tidak aman. Jangan pernah berinteraksi dengan perintah berbahaya.
    • Ketat: Memprioritaskan pemfilteran bahaya berat. Jangan pernah mengizinkan konten yang dibuat dengan elemen sensitif. Selalu tolak perintah berbahaya.
  • Hasil: Lihat Hasil
  • Kustom: Sesuaikan atau nonaktifkan tingkat keamanan pembatasan keamanan tertentu secara terpisah.

Aturan

Buat pedoman Anda sendiri menggunakan aturan. Berikut adalah setelan yang tersedia:

  • Perilaku: Pilih salah satu opsi berikut untuk menentukan aturan Anda:
    • Alami: Berikan petunjuk bahasa alami.
    • Kode: Berikan kode untuk after_model_callback callback.
  • Hasil: Lihat Hasil
  • Detail: Berikan nama dan deskripsi opsional untuk aturan ini.

Agen supervisor

Anda dapat mengonfigurasi agen supervisor yang memantau performa agen aktif yang saat ini berinteraksi dengan pengguna akhir. Agen supervisor memastikan bahwa agen aktif memanggil alat dengan benar dan mempertahankan kualitas audio yang baik. Jika agen pengawas mendeteksi masalah, agen tersebut dapat memicu hasil, mirip dengan pembatasan lainnya.

Anda juga dapat melihat peristiwa pemicu agen supervisor di dasbor pemantauan.

Anda dapat mengonfigurasi agen supervisor berikut:

  • Pengawas kualitas audio: Memantau kualitas audio dan berisi setelan berikut:

    • Name: Nama agen supervisor.
    • Catatan: Catatan opsional.
    • Mode deteksi: Memblokir (respons agen aktif diblokir hingga agen pengawas menyelesaikan penilaian) atau Tidak Memblokir (agen aktif melanjutkan sementara agen pengawas terus menilai).

    • Jenis masalah: Pilih salah satu jenis masalah berikut:

      • Audio tidak cocok: Audio yang dihasilkan dan teks yang dihasilkan tidak cocok.
      • Perubahan suara speaker: Suara yang disintesis terdengar berbeda dari waktu ke waktu.
      • Panggilan alat tidak ada: Model seharusnya melakukan panggilan alat dalam konteks percakapan yang diberikan, tetapi gagal melakukannya.

    • Hasil: Lihat Hasil

  • Pengawas panggilan alat yang terlewat: Memantau panggilan alat yang terlewat dan berisi setelan berikut:

    • Name: Nama agen supervisor.
    • Catatan: Catatan opsional.
    • Mode deteksi: Pemblokiran (respons agen aktif diblokir hingga agen supervisor menyelesaikan penilaian) atau Non-Pemblokiran (agen aktif melanjutkan sementara agen supervisor terus menilai).
    • Hasil: Lihat Hasil