自動抽出の概要
このドキュメントでは、データを取り込み、処理、分析する機能を強化するために、データを自動的に抽出する方法の概要について説明します。
Google Security Operations は、事前構築済みのパーサー を使用して、統合データモデル(UDM)スキーマを使用してログデータを抽出して構造化します。これらのパーサーの管理とメンテナンスは、データの抽出が不完全である、管理するパーサーの数が増えている、ログ形式の進化に伴い頻繁な更新が必要であるなど、いくつかの制限があるため困難な場合があります。
これらの課題に対処するために、自動抽出機能を使用できます。この機能は、Google SecOps に取り込まれた JSON 形式と XML
形式のログから Key-Value ペアを自動的に抽出します。また、JSON メッセージを含む Syslog 形式の
ログもサポートしています。抽出されたデータは、extracted という UDM マップタイプのフィールドに保存されます。このデータは、UDM 検索クエリ、
ネイティブ ダッシュボード、YARA-L
ルールで使用できます。
抽出されたフィールドを使用する UDM 検索では、検索クエリのパフォーマンスを向上させるために、クエリに metadata.log_type を含めることをおすすめします。
自動抽出のメリットは、パーサーへの依存度が低くなることです。これにより、パーサーが存在しない場合や、ログの解析に失敗した場合でも、データを利用できます。
未加工ログからデータを解析して抽出する
解析: Google SecOps は、ログタイプに固有のパーサーを使用してログの解析を試みます(利用可能な場合)。特定のパーサーが存在しない場合や、パースが失敗した場合、Google SecOps は一般的なパーサーを使用して、取り込まれたタイムスタンプ、ログタイプ、メタデータ ラベルなどの基本情報を抽出します。
データ抽出: 自動抽出はデフォルトでは有効になっていません。有効にして、ログから抽出する特定のフィールド(データポイント)を選択します。
イベントの拡充: Google SecOps は、解析されたデータと カスタム形式のフィールドを組み合わせて、拡充されたイベントを作成し、より多くのコンテキストと詳細を提供します。
ダウンストリーム データ転送: これらの拡充されたイベントは、さらなる分析と処理のために他の システムに送信されます。
- パーサーがある場合: デフォルトの自動抽出は行われません。extractor を使用するで説明されているように、必要な特定のフィールドを明示的に有効にする必要があります。
- パーサーがない場合: 自動抽出が自動的に開始され、最初の 100 個のフィールドが抽出されます。
extractor を使用する
extractor を使用すると、サポートされているすべてのログソースからフィールドを抽出できます。また、 ログ管理を最適化するように設計されています。extractor を使用すると、イベントサイズを削減し、 解析効率を高め、データ抽出をより適切に制御できます。 これは、新しいログタイプの管理や処理時間の最小化に特に役立ちます。
extractor は、[SIEM 設定] メニューを使用するか、 [未加工ログ検索] を実行して作成できます。
extractor を作成する
次のいずれかの 方法で、[その他のフィールドの抽出] ペインに移動します。
-
[SIEM 設定] > [パーサー] をクリックして、次の操作を行います。
- 表示される [**パーサー**] テーブルで、パーサー(ログソース)を特定し、 [**メニュー**] > [**パーサーを拡張**] > [**その他のフィールドの抽出**] をクリックします。
- 未加工ログスキャンを使用して、
次の操作を行います。
- [ログソース] メニューから必要なログソース(パーサー)を選択します。
- 未加工ログの結果からログソースを選択して、 [イベントデータ] ペインを開きます。
- [**イベントデータ**] ペインで、[**パーサーを管理**] > [**パーサーを拡張**] > [**その他のフィールドの抽出**] をクリックします。
- UDM 検索を使用して、次の操作を行います。
- UDM 検索結果の [**イベント**] タブで、ログソースを選択して [**イベントビューア**] ペインを表示します。
- [**未加工ログ**] タブで、[**パーサーを管理**] > [**パーサーを拡張**] > [**その他のフィールドの抽出**] をクリックします。
[extractor を選択] タブの [その他のフィールドの抽出] ペインで、 必要な未加工ログフィールドを選択します。デフォルトでは、最大 100 個のフィールドを選択できます。 抽出可能な追加フィールドがない場合は、警告が表示されます。
[未加工ログを参照] タブをクリックして、未加工ログデータを表示し、 UDM の出力をプレビューします。
[保存] をクリックします。
新しく作成された extractor には EXTRACTOR というラベルが付けられます。
抽出されたフィールドは、UDM 出力に extracted.field{"fieldName"} として表示されます。
extractor の詳細を表示する
- [**パーサー**] テーブルの extractor 行に移動し、 [**メニュー**] > [**パーサーを拡張**] > [**拡張機能を表示**] をクリックします。
- [カスタム パーサーを表示] ページで、[拡張機能と抽出されたフィールド] タブをクリックします。
このタブには、パーサー拡張機能と extractor フィールドに関する情報が表示されます。 [**カスタム パーサーを表示**] ページで、フィールドを変更または削除し、パーサーの出力をプレビューできます。
制限事項
- バッチ UDM イベントサイズが 8.2 MB を超えると、抽出されたフィールドはすべて削除されます。
- 単一の UDM イベントが 500 KB を超えると、抽出されたフィールドは削除されます。
さらにサポートが必要な場合コミュニティ メンバーや Google SecOps のプロフェッショナルから回答を得ることができます。