Azure およびオンプレミス環境からのテレメトリ データを収集、分析、処理するために使用する Azure サービス。
ご質問ありがとうございます。
お問い合わせいただいた、Azure SQL Database および Azure Key Vault の診断設定後における、Log Analytics への初回データ取り込みについて回答します。
結論
診断設定の保存が正常に完了しても、Log Analytics ワークスペースへのデータ転送が直ちに開始されるとは限りません。
公式ドキュメントには、診断設定作成後の動作について、次のように記載されています。
診断設定を作成すると、90 分以内に選択した宛先へのデータのフローが開始されます。
また、Log Analytics ワークスペースのテーブルについては、次の記載があります。
Log Analytics ワークスペースにデータを送信する場合、テーブルがまだ存在しない場合は自動的に作成されます。テーブルは、宛先が最初のログ レコードを受信した場合にのみ作成されます。
このため、診断設定の保存直後に AzureDiagnostics テーブルが存在しない場合でも、それだけで診断設定が失敗したとは判断できません。テーブルは診断設定の保存時ではなく、最初のログレコードがワークスペースに到着した時点で作成されます。
参考資料:
1. 診断設定作成後の待機時間
ご認識のとおり、診断設定の保存に成功した後も、実際にデータ転送が開始されるまで待機が必要になる場合があります。
ただし、公式ドキュメントに記載されている「90分以内」は、通常のログ取り込みに毎回90分かかるという意味ではありません。これは、新しく診断設定を作成してから、選択した宛先へのデータフローが開始されるまでの時間を示しています。
データフロー開始後のリソースログについて、公式ドキュメントには、次のように記載されています。
リソース ログは、通常、サービスの複雑さと関連する Azure サービスに応じて、3 ~ 10 分以内に使用できます。たとえば、Azure SQL Database と Azure Virtual Network は現在、5 分ごとにログを提供します。
したがって、次の2つを分けて考える必要があります。
- 診断設定作成後、データフローが開始されるまでの時間
- ログが生成されてから、Log Analytics で検索可能になるまでの時間
参考資料:
2. データフロー開始前に発生したログ
診断設定の保存後から実際のデータフローが開始されるまでに発生したログが、開始後に必ず遡って取り込まれるかについては、公式ドキュメント上では明確な保証を確認できません。
そのため、監査ログの確認を目的とする場合は、診断設定作成直後に確認操作を1回だけ実行するのではなく、最初のログ到着を確認するまで、一定間隔で複数回の確認操作を実施することを推奨します。
なお、ログが後から Log Analytics に表示された場合は、TimeGenerated と ingestion_time() を比較することで、イベント発生から取り込みまでの待機時間を確認できます。
3. Key Vault の監査ログ
公式ドキュメントでは、Key Vault のログ対象について、次のように記載されています。
アクセス許可、システム エラー、または不適切な要求の結果として失敗した要求を含む、認証されたすべての REST API 要求。
また、ログ対象の操作として、次の内容も記載されています。
キーとシークレット、およびそのバージョンの表示。
このため、要求が失敗した場合でも、要求が Key Vault に到達して監査対象として処理されていれば、監査ログに記録される場合があります。
ただし、操作が監査ログの対象であることと、診断設定作成直後のデータフロー開始前にも必ず転送されることは、分けて考える必要があります。
参考資料:
4. ログの取り込み遅延を確認する方法
公式ドキュメントでは、ログレコードの生成時刻を示す TimeGenerated と、ワークスペースでクエリ可能になった時刻を示す ingestion_time() を比較することで、取り込み遅延を確認できると説明されています。
特定のレコードの待機時間を測定するには、
ingestion_time()関数の結果とTimeGeneratedプロパティを比較します。
また、Azure サービスごとの取り込み待機時間を確認する例として、次のクエリが掲載されています。
AzureDiagnostics
| where TimeGenerated > ago(8h)
| extend E2EIngestionLatency = ingestion_time() - TimeGenerated
| extend AgentLatency = _TimeReceived - TimeGenerated
| summarize percentiles(E2EIngestionLatency,50,95), percentiles(AgentLatency,50,95) by ResourceProvider
このクエリでは、過去8時間の AzureDiagnostics データについて、リソースプロバイダーごとに次の値を集計します。
E2EIngestionLatency ログレコードの生成時刻から、ワークスペースでクエリ可能になるまでの時間です。
AgentLatency ログレコードの生成時刻から、Azure Monitor のデータ収集エンドポイントで受信されるまでの時間です。
percentiles(..., 50, 95) 取り込み待機時間の50パーセンタイル値と95パーセンタイル値を表示します。
このクエリは、個別の操作が取り込まれたかどうかを確認するものではなく、AzureDiagnostics に取り込まれたデータの待機時間の傾向を、リソースプロバイダー単位で確認するためのものです。
参考資料:
なお、Key Vault の監視に使用できるクエリについては、次の公式ドキュメントでも公開されています。
診断設定が Azure Diagnostics モードの場合は AzureDiagnostics、リソース固有モードの場合は AZKVAuditLogs が確認対象となります。使用するクエリは、診断設定で選択したテーブルモードに合わせてください。
5. 自動化する場合の推奨手順
自動化では、次の手順を推奨します。
- Log Analytics ワークスペースを作成します。
- Azure SQL Database および Key Vault の診断設定を作成します。
- 対象ログを生成するための確認操作を実行します。
- 最初の確認を10分程度後に行います。
- テーブルが存在しない場合も、診断設定を削除または再作成せず、5分または10分間隔で確認を継続します。
- 診断設定作成後のデータフロー開始時間として、最大90分を考慮します。
- テーブルの作成後、必要に応じてテーブル単位の保持期間を設定します。
テーブルの存在は、Azure CLI の次のコマンドで確認できます。
az monitor log-analytics workspace table show \
--resource-group "<リソース グループ名>" \
--workspace-name "<ワークスペース名>" \
--name "AzureDiagnostics"
テーブル作成後、次のコマンドで保持期間を設定できます。
az monitor log-analytics workspace table update \
--resource-group "<リソース グループ名>" \
--workspace-name "<ワークスペース名>" \
--name "AzureDiagnostics" \
--retention-time 180 \
--total-retention-time 180
retentionInDays は通常の対話型クエリで使用できる Analytics データの保持期間です。totalRetentionInDays は長期保持を含む合計保持期間です。
180日分のデータを通常のログクエリで参照する要件の場合は、retentionInDays が180日になるように設定してください。
参考資料:
6. ワークスペースの既定保持期間を使用する方法
対象ワークスペース内の Analytics テーブルをすべて180日間保持して問題ない場合は、AzureDiagnostics テーブルの作成を待たず、ワークスペースの既定の Analytics データ保持期間を180日に設定する方法もあります。
公式ドキュメントには、ワークスペースレベルの保持期間について、次のように記載されています。
既定のワークスペースレベルのデータ保持設定の変更は、ワークスペース内の既定の設定がまだ適用されているすべての Analytics テーブルに自動的に影響します。
ワークスペースの既定値を使用するテーブルであれば、後から作成されたテーブルにも既定の保持期間が適用されます。
一方、AzureDiagnostics のみを180日にするなど、テーブルごとに異なる保持期間が必要な場合は、テーブル作成後にテーブル単位の設定を行ってください。
参考資料:
まとめ
お客様にご提示いただいた運用方針は妥当と考えられます。
運用上は、次の点を考慮してください。
- 10分は失敗判定ではなく、最初の確認タイミングとします。
- 10分後にテーブルが存在しなくても、診断設定を削除または再作成しません。
- 5分または10分間隔で確認を継続します。
- 診断設定作成後の初回確認では、最大90分を考慮します。
- 最初のログを確認するまで、ログ対象となる確認操作を複数回実施します。
- すべての Analytics テーブルを180日間保持してよい場合は、ワークスペースの既定保持期間を事前に設定します。
- テーブルごとに異なる保持期間が必要な場合は、テーブル作成後に個別設定します。
24時間経過してもデータが表示されない場合は、ログが実際に生成されているか、診断設定のカテゴリと送信先が正しいか、Azure Service Health に問題が報告されていないかのご確認をお願いします。