この記事では、モデル カタログからモデルをデプロイするときに、指定したデータがどのように処理、使用、格納されるかについて詳しく説明します。 Azure サービスによるデータ処理を管理する Microsoft Products and Services Data Protection 補遺も参照してください。
Azure Machine Learningにデプロイされたモデルに対して処理されるデータは何ですか?
Azure Machine Learningにモデルをデプロイすると、サービスは次の種類のデータを処理してサービスを提供します。
プロンプトと生成されたコンテンツ。 プロンプトを送信すると、モデルはサポートする操作を通じてコンテンツ (出力) を生成します。 プロンプトには、取得拡張生成 (RAG)、メタプロトコル、またはアプリケーションに含まれるその他の機能によって追加するコンテンツが含まれる場合があります。
アップロードされたデータ。 微調整をサポートするモデルの場合は、微調整に使用するために、Azure Machine Learning データストアにデータをアップロードできます。
マネージド コンピューティングを使用して推論出力を生成する
マネージド コンピューティングにモデルをデプロイする場合は、モデルの重みを専用の仮想マシンにデプロイし、リアルタイム推論用の REST API を公開します。 詳細については、 モデル カタログからマネージド コンピューティングへのモデルのデプロイに関するページを参照してください。 これらのマネージド コンピューティングのインフラストラクチャを管理し、Azureのデータ、プライバシー、セキュリティのコミットメントが適用されます。 詳細については、AzureコンプライアンスオファリングAzure Machine Learningに適用される方法に関するページを参照してください。
"Azure によって販売されるモデル" のコンテナーでは、データを流出させる可能性のある脆弱性がスキャンされますが、モデル カタログで使用可能なすべてのモデルがスキャンされるわけではありません。 データ流出のリスクを軽減するために、仮想ネットワークを使用してデプロイを保護できます。 詳細については、 分離モデル カタログをネットワークに接続する方法に関するページを参照してください。 Azure Policy を使用して、ユーザーがデプロイできるモデルを調整することもできます。
標準デプロイで推論出力を生成する
推論用の標準デプロイとしてモデル カタログ (基本または微調整済み) からモデルをデプロイすると、Azure Machine Learning サービスによってホストおよび管理されているモデルにアクセスできる API が得られます。 詳細については、「 サービスとしてのモデル」を参照してください。 モデルは、モデルに対して提供されるモデルの詳細で説明されているように、入力プロンプトを処理し、モデルの機能に基づいて出力を生成します。 モデルはモデル プロバイダーによって提供され、モデルの使用 (およびモデルとその出力に対するモデル プロバイダーのアカウンタビリティ) は、モデルで提供されるライセンス条項の対象となりますが、Microsoftはホスティング インフラストラクチャと API エンドポイントを提供および管理します。 サービスとしてのモデルでホストされるモデルは、Azureのデータ、プライバシー、セキュリティのコミットメントの対象となります。 Azure Machine Learningに適用できるAzureコンプライアンスの提供の詳細については、こちらを参照してください。
重要
この機能は現在、パブリック プレビュー段階です。 このプレビュー バージョンはサービス レベル アグリーメントなしで提供されており、運用環境のワークロードにはお勧めしません。 特定の機能がサポートされていないか、機能が制限されている可能性があります。
詳細については、「Microsoft Azure プレビューの使用条件を参照してください。
Microsoftは、標準デプロイ用にデプロイされたモデルとの間で送受信されるプロンプトと出力のデータ プロセッサとして機能します。 Microsoftは、これらのプロンプトと出力をモデル プロバイダーと共有せず、Microsoftはこれらのプロンプトと出力を使用して、Microsoft、モデル プロバイダー、またはサード パーティのモデルをトレーニングまたは改善しません。 モデルはステートレスであり、プロンプトや出力はモデルに格納されません。 コンテンツ フィルタリング (プレビュー) が有効になっている場合、Azure AI Content Safety サービスは、特定のカテゴリの有害なコンテンツをリアルタイムで確認し、出力を表示します。 詳細については、Azure AI Content Safety がデータを処理する方法をここ参照してください。 プロンプトと出力は、デプロイ時に指定された地域内で処理されますが、運用上の目的 (パフォーマンスと容量管理を含む) のために地域内のリージョン間で処理される場合があります。
サービスとしてのモデルのデプロイ プロセスで説明したように、Microsoftは、顧客の連絡先情報とトランザクションの詳細 (オファリングに関連付けられている使用量を含む) をモデル発行元と共有して、モデルに関して顧客に連絡できる場合があります。 モデルパブリッシャーが利用できる情報の詳細については、 このリンクを参照してください。
標準デプロイでモデルを微調整する (サービスとしてのモデル)
標準デプロイで使用可能なモデルで微調整がサポートされている場合は、Azure Machine Learning データストア にデータをアップロード (または既に存在するデータを指定) して、モデルを微調整できます。 その後、微調整されたモデルの標準デプロイを作成できます。 微調整されたモデルはダウンロードできませんが、微調整されたモデルは次のとおりです。
あなた専用に利用可能です。
保存時のデータを二重に暗号化できます (既定では Microsoft の AES-256 暗号化を使用し、必要に応じてカスタマー マネージド キーを使用します)。
いつでも削除できます。
微調整のためにアップロードされたトレーニング データは、サービス内でユーザーが指示する場合を除き、Microsoftまたはサード パーティのモデルのトレーニング、再トレーニング、または改善には使用されません。
ダウンロードしたモデルのデータ処理
モデル カタログからモデルをダウンロードする場合は、モデルをデプロイする場所を選択し、モデルを使用する場合のデータの処理方法を担当します。