サービス クォータと制限

この記事では、Foundry Tools のクォータと制限における Azure ドキュメント インテリジェンスについて、すべての価格ティアに関するクイックリファレンスと詳細な説明を提供します。 また、リクエストの制限を回避するためのベスト プラクティスもいくつか含まれています。

モデルの使用

詳細な説明、クォータの調整、ベスト プラクティス

既定の制限は、サポート チケットを使用して引き上げを要求することで拡張できます。 クォータの引き上げを要求する前に (該当する場合)、必要であることを確認します。

アプリケーションから応答コード 429 (要求が多すぎます) が返された場合、1 秒あたりの 1 つまたは複数のトランザクション制限 (TPS) のしきい値を超えています。

• 1 秒あたりのトランザクション数の制限を分析する 分析要求を送信するための TPS (POST)
• 1 秒あたりの操作数の制限を取得する 分析操作の結果をポーリングするための TPS (GET)
• 1 秒あたりのモデル管理操作の制限 ビルド/トレーニングやコピーなどのモデル管理に関連する操作。
• 一覧操作の1秒あたりの制限 モデルの一覧表示に関連する操作。

調整を軽減するための一般的なベスト プラクティス

調整 (応答コード 429) に関連する問題を最小限に抑えるには、次の手法を使用することをお勧めします。

• アプリケーションに再試行ロジックを実装する
• ワークロードの急激な変更を避けます。 ワークロードを徐々に増やす
  例。 アプリケーションでドキュメント インテリジェンスを使用しており、現在のワークロードは 10 TPS (1 秒あたりのトランザクション数) です。 次に、負荷を 40 TPS に増やします。 結果は、分析操作を送信するための 15 TPS 制限を超えているため、一部の要求に対する 429 応答コードになります。 処理をバックオフして 15 TPS 以下にするか、より高いボリュームをサポートするために TPS の引き上げを要求できます。

次のセクションでは、クォータを調整する具体的なケースについて説明します。 ドキュメント インテリジェンスへのジャンプ: 同時要求の制限の増加

1 秒あたりのトランザクション数の要求制限の増加

既定では、1 秒あたりのトランザクション数は、ドキュメント インテリジェンス リソースの 1 秒あたり 15 トランザクションに制限されます。 Standard 価格レベルの場合、TPS の増加要求は送信できますが、承認できるかどうかと TPS レベルの調整は、毎日の使用パターンと従っているベスト プラクティスによって異なります。 要求を送信する前に、 このセクション の資料を理解し、これらの ベスト プラクティスを理解していることを確認してください。

同時要求の制限を増やすことは、コストに直接影響 しません 。 ドキュメント インテリジェンス サービスでは、"使用した分だけ支払う" モデルが使用されます。 この制限は、サービスが要求のスロットルを開始する前に、サービスがスケーリングできる高さを定義します。

異なる要求制限カテゴリの既存の値は、Azure ポータルの [リソースの概要] ブレードの [監視] タブで使用できます。

TPS の増加に関するサポート 要求を作成して送信する

サポート リクエストを送信して、リソースの 1 秒あたりのトランザクション数 (TPS) 制限の引き上げを開始します。

• Azure ポータル
• TPS 制限を引き上げるドキュメント インテリジェンス リソースを選択します
• 「サポート + トラブルシューティング」グループの「新しいサポート要求」を選択します。 Azure サブスクリプションと Azure リソースに関する情報が自動的に入力された新しいウィンドウが表示されます
• 「概要」と入力します ("ドキュメント インテリジェンス TPS 制限の引き上げ" など)
• [問題の種類] フィールドに [クォータまたは使用状況の検証] を選択します。
• [次へ: ソリューション] を選択します。
• 要求の作成に進む
• [詳細] タブの -Description- フィールドに、次の情報を入力します。
  • ドキュメント インテリジェンス クォータに関する要求であることに注意してください。
  • どの TPS 目標にスケーリングしたいかを指定してください。 TPS の増加は無料ですが、ワークロードに適した TPS のみを要求する必要があります。
  • Azureリソース情報
  • 必要な情報の入力を完了し、[-Review + 作成] タブの [作成] ボタンを選択します
  • ポータルの通知で、Azureのサポート要求番号をメモしてください。 今後の処理については、サポートを探してすぐにお問い合わせください。

ワークロード パターンのベスト プラクティスの例

この例では、リクエストのスロットリングを軽減するために、推奨するアプローチを提示します。 それは 正確なレシピではありませんが、必要に応じて従って調整するために招待するテンプレートにすぎません。

ドキュメント インテリジェンス リソースに既定の制限が設定されたとします。 ワークロードを開始して分析要求を送信します。 完了を確認する際に、応答コード429で頻繁にアクセス制限が発生する場合は、まずGETの解析応答リクエストに指数バックオフを実装してください。 連続するエラー応答に対して再試行の間に徐々に長い待機時間を使用する (たとえば、要求間の遅延の 2-5-13-34 パターン)。 一般に、対応する POST 要求に対して get analyze 応答を 2 秒ごとに複数回呼び出すことはお勧めしません。 analyze応答には、その要求の完了を確認するまでの待機時間を秒単位で示す retry-after ヘッダーも含まれています。

POST 要求の数が制限されている場合は、ドキュメントに対する要求間に遅延を追加することを検討してください。 ワークロードで高度な同時処理が必要な場合は、1 秒あたりのトランザクションに対するサービス制限を引き上げるサポート要求を作成する必要があります。

一般に、運用環境に移行する前に、ワークロードとワークロード パターンをテストすることをお勧めします。

次の手順