ガードレール

ガードレールは、エージェント アプリケーションを保護し、安全性を維持するのに役立つ一連のチェックとバランスです。モデルの入力とモデル出力の両方について、コンテンツの制限が提供されます。各エージェント アプリケーションにはデフォルトのガードレールが用意されています。このガードレールは、必要に応じて変更できます。エージェント アプリケーションのガードレールにアクセスするには、エージェント ビルダーの右側にあるガードレール ボタンをクリックします。

結果

各タイプのガードレールには結果設定が含まれています。これは、ガードがトリガーされた場合の処理を制御します。次のタイプのアクションから選択できます。

  • 正確に発言: エージェントの正確な回答を提供します。

  • エージェントにハンドオフ: 特定のユーザーに制御を移行します。

  • 回答を生成する: 回答を生成する手順を指定します。デフォルトが用意されています。オーバーライドしてカスタマイズできます。

プロンプト ガード

プロンプト ガードは、「指示を無視して...」などのプロンプトベースの攻撃に対する基本的な保護を提供します。次の設定を使用できます。

  • プロンプト ガードを有効にする: プロンプト カードを有効または無効にします。
  • 結果: 結果を参照
  • カスタム: 選別クエリ用のカスタム セキュリティ プロンプトを指定します。

ブロックリスト

ブロックリストを使用すると、ユーザーとエージェントが特定の単語やフレーズを使用できなくなります。リストを作成する際は、次の設定を使用できます。

  • エージェントはブロックされたコンテンツをどのように照合すべきですか？: これにより、照合方法を選択できます。
    • 単語全体: 単語全体に一致します。
    • 言及あり: 単語やフレーズを含むコンテンツに一致します。
    • 正規表現パターン: 正規表現に一致します。
  • ブロックする単語とフレーズ: ブロックする単語とフレーズのリスト。各エントリはカンマで区切ります。
  • ブロックされたコンテンツの送信元: 次のいずれかまたは両方からのコンテンツをブロックします。
    • ユーザー入力時
    • エージェントの回答時
  • 結果: 結果を参照
  • 詳細: このブロックリストのオプションの名前と説明を指定します。

安全性

これらは、責任ある AI への取り組みを実施するガードレールです。次の設定を使用できます。

  • 安全性レベル: 安全性レベルを選択します。
    • Relaxed: 柔軟な生成と低レイテンシを優先します。違法または有害なプロンプトには絶対に対応しないでください。明示的に有害なコンテンツは常にブロックします。
    • バランス: お客様との安全で自然なやり取りを優先します。安全でないコンテンツは常に停止します。有害なプロンプトには絶対に対応しないでください。
    • 厳密: 有害なコンテンツのフィルタリングを優先します。機密情報を含む生成コンテンツは決して許可しないでください。有害なプロンプトには常に反論します。
  • 結果: 結果を参照
  • カスタム: 特定の安全ガードレールの安全レベルを個別に調整または無効にします。

ルール

ルールを使用して独自のガードレールを構築します。次の設定を使用できます。

  • 動作: 次のいずれかを選択してルールを定義します。
    • ナチュラル: 自然言語による指示を提供します。
    • コード: after_model_callback コールバックのコードを指定します。
  • 結果: 結果を参照
  • 詳細: このルールの名前と説明（省略可）を指定します。

スーパーバイザー エージェント

エンドユーザーと現在やり取りしているアクティブ エージェントのパフォーマンスをモニタリングするスーパーバイザー エージェントを構成できます。スーパーバイザー エージェントは、アクティブ エージェントがツールを適切に呼び出し、良好な音質を維持していることを確認します。スーパーバイザー エージェントが問題を検出すると、他のガードレールと同様に結果をトリガーできます。

モニタリング ダッシュボードで、スーパーバイザー エージェントのトリガー イベントを確認することもできます。

次のスーパーバイザー エージェントを構成できます。

  • 音質スーパーバイザー: 音質をモニタリングし、次の設定が含まれています。

    • 名前: スーパーバイザー エージェントの名前。
    • メモ: 省略可能なメモ。
    • 検出モード: ブロック（スーパーバイザー エージェントが評価を完了するまでアクティブ エージェントの応答がブロックされる）または非ブロック（スーパーバイザー エージェントが評価を継続している間、アクティブ エージェントが続行する）。

    • 問題の種類: 次のいずれかの問題の種類を選択します。

      • 音声の不一致: 生成された音声と生成されたテキストが一致しません。
      • 話者の変化: 合成音声の音質が時間とともに変化する。
      • ツール呼び出しがない: モデルは、会話のコンテキストでツール呼び出しを行うことになっていますが、失敗しました。

    • 結果: 結果を参照

  • Missed tool call supervisor: ツール呼び出しの失敗をモニタリングし、次の設定が含まれます。

    • 名前: スーパーバイザー エージェントの名前。
    • メモ: 省略可能なメモ。
    • 検出モード: ブロック（スーパーバイザー エージェントが評価を完了するまでアクティブ エージェントの応答がブロックされる）または非ブロック（スーパーバイザー エージェントが評価を継続している間、アクティブ エージェントが続行する）。
    • 結果: 結果を参照