警告
プロンプト フロー機能の開発は、2026 年 4 月 20 日に終了しました。 この機能は、2027 年 4 月 20 日に完全に廃止されます。 提供終了日に、プロンプト フローは読み取り専用モードになります。 既存のフローは、その日付まで動作し続けます。
Recommended action: 2027 年 4 月 20 日より前に、プロンプト フローワークロードを Microsoft Agent Framework に移行します。
生成人工知能運用 ( GenAIOps (LLMOps とも呼ばれます) は、運用環境で大規模な言語モデル (LLM) を管理するための運用プラクティスと戦略について説明します。 この記事では、組織の現在の成熟度レベルに基づいて GenAIOps の機能を向上させる方法に関するガイダンスを提供します。
GenAIOps 成熟度モデルのランク付けレベルを見つけるには、以下の説明を使用します。 これらのレベルは、組織の一般的な理解と実用的なアプリケーション レベルを提供します。 このガイドラインでは、GenAIOps ナレッジ ベースを拡張するための便利なリンクを提供します。
ヒント
GenAIOps 成熟度モデル評価を使用して、組織の現在の GenAIOps 成熟度レベルを決定します。 アンケートは、組織の現在の機能を理解し、改善する領域を特定するのに役立ちます。
レベル 1 - 初期
ヒント
GenAIOps 成熟度モデル評価からのスコア: 初期 (0 から 9)。
説明： 組織は、GenAIOps の成熟度の初期段階にあります。 LLM の機能を検討していますが、構造化されたプラクティスや体系的なアプローチはまだ開発されていません。
まず、さまざまな LLM API とその機能について理解することから始めます。 次に、構造化されたプロンプト設計と基本的なプロンプト エンジニアリングの実験を開始します。 開始点として、Microsoft Learn の記事を確認します。 学習したことを踏まえて、LLM アプリケーションのパフォーマンス評価の基本的なメトリックを導入する方法について説明します。
レベル 1 の進歩に関する推奨リファレンス
- ファウンドリ モデル カタログ
- Microsoft Foundry ポータル モデル カタログを展開します
- プロンプト エンジニアリングの概要
- プロンプトエンジニアリング手法
- システム メッセージ フレームワーク
- Foundry ポータルでのプロンプト フロー
- Foundry を使用して GenAI アプリケーションを評価する
- Foundry を使用した GenAI の評価と監視のメトリック
GenAIOps について理解を深めるために、学習コースとワークショップMicrosoft利用することを検討してください。
レベル 2 - 定義
ヒント
GenAIOps 成熟度モデル評価からのスコア: 成熟度 (10 から 14)。
説明： 組織は、構造化された開発と実験に重点を置いて、LLM 操作のシステム化を開始しました。 ただし、より高度な統合と最適化の余地があります。
機能とスキルを向上させるために、より複雑なプロンプトを開発し、それらをアプリケーションに効果的に統合する方法について説明します。 LLM アプリケーションのデプロイに体系的なアプローチを実装し、CI/CD 統合を調べる可能性があります。 根拠、関連性、類似性などのより高度な評価メトリックの採用を開始します。 LLM の使用におけるコンテンツの安全性と倫理的な考慮事項に重点を置きます。
レベル 2 の進歩に関する推奨リファレンス
- GenAIOps のプラクティスを高めるために、段階的なワークショップを実施します
- Foundry ポータルでのプロンプト フロー
- プロンプト フローを使用してビルドする方法
- Real-Time 推論のマネージド オンライン エンドポイントとしてフローをデプロイする
- プロンプト フローと GenAIOps の統合
- Foundry を使用した GenAI 評価
- GenAI の評価と監視のメトリック
- Azure コンテンツの安全性
- 対応可能な AI ツールとプラクティス
レベル 3 - 管理
ヒント
GenAIOps 成熟度モデル評価からのスコア: 成熟度 (15- 19)。
説明： 組織は、プロアクティブな監視と構造化されたデプロイ戦略を使用して、高度な LLM ワークフローを管理しています。 オペレーショナル エクセレンスの実現に近い状態です。
ナレッジ ベースを拡張するには、LLM アプリケーションの継続的な改善とイノベーションに重点を置きます。 予測分析と包括的なコンテンツの安全対策を使用して、監視戦略を強化します。 特定の要件に合わせて LLM アプリケーションを最適化および微調整する方法について説明します。 高度なバージョン管理とロールバック機能を使用して、資産管理戦略を強化します。
レベル 3 の進歩に関する推奨リファレンス
レベル 4 - 最適化
ヒント
GenAIOps 成熟度モデル評価からのスコア: 最適化 (20 から 28)。
説明： 組織は GenAIOps でオペレーショナル エクセレンスを実証しています。 LLM アプリケーションの開発、デプロイ、監視に対する高度なアプローチがあります。
LLM が進化するにつれて、最新の LLM の進歩に合わせて最新の状態を維持することで、最先端の地位を維持します。 進化するビジネス目標に合わせて LLM 戦略を継続的に評価します。 チーム内でイノベーションと継続的な学習の文化を育てます。 知識とベスト プラクティスを広いコミュニティと共有し、現場で思考のリーダーシップを確立します。