AOAIの「AzureOpenAIRequests」メトリックについて

こんにちは Tomoya Mikoshiba、

このような問題は Azure AI Foundry で発生することがあり、通常は課金や使用量の追跡方法に関係しています。できるだけ分かりやすく説明し、確認できるポイントを共有します。

1. サービスの課金方法について理解する

Azure AI Foundry 内のすべてのモデルが同じ方法で課金されるわけではありません。

• 一部のモデルは Azure のネイティブサービス です
• 一部は サードパーティ モデル です（例：Anthropic Claude）

サードパーティ モデルは、同じ画面上に表示されていても、Azure Marketplace を通じて課金されます。

そのため：

• Azure サービスと同じ料金体系やクレジットのルールが適用されない場合があります
• 通常の Azure 使用量とは別にコストが表示されることがあります

また、使用量は通常 トークン（入力＋出力のテキスト） に基づいて課金されます。

• プロンプトが長いほど、また応答が長いほど、コストは高くなります

2. 予期しない使用量やコストが発生する理由

以下のような理由で発生することがあります：

• Marketplace サービスは Azure クレジットの対象外 となる場合があります
• ポータル上でのコスト表示に 遅延 があることがあります
• モデルが Microsoft 製かサードパーティ製かが、UI 上で分かりにくいことがあります
• コストデータの反映には 時間がかかる場合があります（レポート遅延）

3. 確認できるポイント（トラブルシューティング）

いくつか簡単に確認できる項目です：

コストの内訳を確認する

• Azure ポータル → Cost Management を開く
• 以下を確認する：
  • Marketplace の課金
    • リソース単位またはサブスクリプション単位の使用量

使用しているモデルを確認する

• Microsoft のモデル → 通常は Azure の課金に含まれる
• パートナーのモデル → 別途課金される

使用パターンを見直す

• リクエスト数
• プロンプトと応答のサイズ（トークン数）

時間を置いて再確認する

• コストデータの反映に時間がかかる場合があるため、後で再確認する

4. 参考ドキュメント

コスト管理の理解には、以下の Microsoft ドキュメントも参考になります：

• Microsoft Foundry のコスト管理

この説明が少しでも役に立てば嬉しいです。 他にもご不明な点があれば、気軽に教えてください。ありがとうございます！

こんにちは Tomoya Mikoshiba、

これらの確認を実施後も問題が解決しない場合は、お知らせください。ご不明点や追加のご質問がございましたら、引き続きサポートさせていただきます。 また、上記の手順で問題が解決した場合は、その旨ご連絡いただけますと幸いです。

こんにちは @Anshika Varshney

ご返信ありがとうございます。

Azure Portal経由でAzure Monitorメトリックの「AzureOpenAIRequests」を確認する方法についての質問です。

以下のようにフィルター機能を設定して「StatusCode=429」とした場合、1か月間におけるエラー発生回数をカウントすることは可能でしょうか。

こんにちは Tomoya Mikoshiba,

回答を共有する作業をしている間、少しお時間をください

ありがとうございます

こんにちは。

はい、進め方は正しく、全体として適切な方法で確認されています。

Azure OpenAI Requests メトリックに対して StatusCode = 429 のようなフィルターを設定すると、429 エラーが返されたリクエストのみが表示されます。

月単位で 429 エラーをカウントできるか

はい、可能です。ただし重要なポイントが1つあります。

使用しているメトリックである Azure OpenAI Requests は、一定期間における API 呼び出し数を表しています。

そのため、StatusCode = 429 でフィルターをかけると、スロットリングが発生したリクエストのみが表示されます。

確認すべきポイント

1か月分のエラー総数を正しく取得するには、以下を確認してください。

1. 時間範囲を30日または任意の1か月に設定する
2. 集計方法を Total に設定する

なぜこれが重要か

• メトリックは時間ベースのデータとして収集されます
• Azure Monitor は一定の時間単位でデータを集計します
• 合計値を確認するには Total 集計を使う必要があります

スクリーンショットで見えている内容

グラフを見ると、

• 線がほぼ 0 のままになっています

これは以下のどちらかを意味します。

• 429 エラーが発生していない
• もしくは非常に少ない

つまり、その期間ではほとんどスロットリングが発生していないことを示しています。

正確な件数を確認したい場合

メトリックのグラフは傾向を見るのに適していますが、正確な総数が分かりにくい場合があります。

より正確に確認するには：

• StatusCode = 429 のフィルターを維持する
• 集計を Total に変更する
• 必要に応じて時間粒度を調整する

または

• Azure Monitor Logs を使用してログクエリで件数をカウントする

補足

429 エラーはスロットリングを意味し、リクエスト制限を超えた場合に発生します。

そのため、数値が増えてきた場合は：

• 容量不足やレート制限の影響の可能性があります
• 利用方法やクォータの見直しが必要になることがあります

まとめ

• StatusCode = 429 のフィルターは正しい方法です
• Total 集計を使うことでエラー数を把握できます
• 時間範囲を1か月に設定してください
• 現在のグラフではエラーはほとんど発生していません

ご参考になれば幸いです。 もしご不明点があれば、お気軽にご質問ください。ありがとうございます