テキストの分類と秘匿化

テキストの分類と秘匿化を使用するタイミング

一般的なユースケースは次のとおりです。

  • データベースの永続化の前にユーザー入力をサニタイズする: レコードをストレージまたはアプリケーション データベースに書き込む前に、自由形式のテキストから機密性の高い PII（社会保障番号、クレジット カード番号、運転免許証など）を秘匿化します。
  • カスタマー サービス トランスクリプトとログをサニタイズする: エージェントのレビューやトレーニング データの取り込みの前に、チャット履歴、サポート チケット、メール スレッドから個人を特定できる情報を削除します。
  • ダウンストリーム タグ付け用の機密性の高いエンティティを特定する: テキストを分類して infoType と可能性の評価を抽出し、この情報をカスタム ワークフローで使用して、リスクの高いメッセージを転送またはフラグ設定します。
  • 生成 AI プロンプトで機密データをマスクする: コンテンツを一般公開の LLM またはサードパーティの LLM に送信する前に、ユーザーのプロンプトから専有情報または規制対象情報を削除します。

テキスト分類

次のテキスト入力を考えてみましょう。

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

出力は見つかったもののリストであり、次のカテゴリに分類されます。

  • InfoType
  • Likelihood
  • Offset（InfoType である可能性のあるものが見つかった文字列中の位置）

出力例を下の表に示します。

InfoType Likelihood Offset
US_HEALTHCARE_NPI VERY_LIKELY 122
EMAIL_ADDRESS LIKELY 72
US_DRIVERS_LICENSE_NUMBER LIKELY 155
CANADA_BC_PHN VERY_UNLIKELY 122
UK_TAXPAYER_REFERENCE VERY_UNLIKELY 122
CANADA_PASSPORT VERY_UNLIKELY 155

テキストの自動秘匿化

自動秘匿化では、検出結果のリストを提供するのではなく、センシティブ データの一致が除去された出力が生成されます。

自動秘匿化における入力の例を次に示します。

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

プレースホルダ "***" を使用した出力例を次に示します。

Please update my records with the following information:
Email address: ***

National Provider Identifier: ***

Driver's license: ***

リソース

  • Sensitive Data Protection を使用してテキストを秘匿化する方法については、テキスト コンテンツの機密データを秘匿化するをご覧ください。
  • Sensitive Data Protection を使用してテキスト コンテンツ内のセンシティブ データを匿名化する方法（センシティブ データの「マスキング」、センシティブ データを「トークン」文字列に置き換える、ランダムに生成されたキーまたは事前に決定されたキーを使用してセンシティブ データを暗号化して置き換えるなど）の詳細については、テキスト コンテンツ内のセンシティブ データを匿名化するをご覧ください。