Azure Data Explorer と Azure IoT Hub を使用した IoT 分析

Azure Cosmos DB
Azure Data Explorer
Azure Digital Twins
Azure IoT Hub

ソリューションのアイデア

この記事ではソリューションのアイデアについて説明します。 クラウド アーキテクトはこのガイダンスを使用すると、このアーキテクチャの一般的な実装の主要コンポーネントを視覚化しやすくなります。 ワークロードの特定の要件に適合する、適切に設計されたソリューションを設計するための出発点として、この記事を使用してください。

このソリューションのアイデアでは、Azure Data Explorerがモノのインターネット (IoT) デバイスとセンサーから高速に流れる大量のストリーミング データに対してほぼリアルタイムの分析を提供する方法について説明します。 このデータ フローは、運用ワークロードと分析ワークロードをAzure Cosmos DBおよびAzure Data Explorerと統合する全体的な IoT ソリューションの一部です。

Jupyter は、各社の商標です。 このマークを使用することは、保証を意味するものではありません。 Apache® および Apache Kafka® は、米国およびその他の国における Apache Software Foundation の登録商標または商標です。 これらのマークを使用することが、Apache Software Foundation による保証を意味するものではありません。

アーキテクチャ

Azure Data Explorer は、Azure IoT Hub、Azure Event Hubs、および Apache Kafka からのデータを処理する Azure IoT データ分析アーキテクチャを示す図です。

このアーキテクチャの Visio ファイル をダウンロードします。

データ フロー

次のデータ フローは、前の図に対応しています。

  1. Azure Event Hubs、Azure IoT Hub、または Apache Kafka は、ログ、ビジネス イベント、ユーザー アクティビティなど、高速に流れるさまざまなストリーミング データを取り込みます。

  2. Azure FunctionsまたはAzure Stream Analyticsは、ほぼリアルタイムでデータを処理します。

  3. Azure Cosmos DB では、ストリーミングされたメッセージが JSON 形式で保存され、リアルタイムの運用アプリケーションが提供されます。

  4. Azure Data Explorerは、Event HubsIoT Hub、または Kafka 用のコネクタを使用して、分析用のデータを取り込み、低待機時間と高スループットを実現します。

    または、Azure Blob Storage または Azure Data Lake Storage アカウントから Azure Event Grid データ接続を使用してAzure Data Explorerに BLOB を取り込むことができます。

    また、圧縮されたパーティション分割された Apache Parquet 形式でAzure Storageにデータを継続的にエクスポートし、Azure Data Explorerを使用してデータにシームレスにクエリを実行することもできます。 詳細については、「 連続データ エクスポートの概要」を参照してください。

  5. 運用と分析の両方のユース ケースに対応するには、Azure Data Explorer と Azure Cosmos DB に並列で、または Azure Cosmos DB から Azure Data Explorer にデータをルーティングします。

    Azure Cosmos DB トランザクションは、変更フィードを介して Azure Functions をトリガーできます。 Azure Functionsは、Azure Data Explorerに取り込むためのデータを Event Hubs にストリーミングします。 または、Azure Functionsはその API を介してAzure Digital Twinsを呼び出し、データを Event Hubs にストリーミングしてAzure Data Explorerに取り込むこともできます。

  6. 次のインターフェイスでは、Azure Data Explorer に保存されているデータから分析情報が取得されます。

  7. Azure Data Explorer Azure Databricks および Azure Machine Learning と統合して機械学習サービスを提供します。 また、他のツールやサービスを使用して機械学習モデルを構築し、データをスコア付けするためのAzure Data Explorerにエクスポートすることもできます。

コンポーネント

このソリューションのアイデアでは、次の Azure コンポーネントを使用します。

Azure Data Explorer

  • 異常検出と予測 は、 Azure Data Explorer の組み込みの分析機能です。 外れ値を検出し、将来の値を予測して、プロアクティブな監視と意思決定をサポートします。 このアーキテクチャでは、IoT データの異常なパターンを識別し、時間の経過と同時に予想される動作を予測します。

  • ルート分析の異常診断 は、異常の根本原因を特定するのに役立つ KQL 機能です。 これは、貢献するディメンションとメトリックを分析して、トラブルシューティングを効率化します。 このアーキテクチャでは、デバイス データで検出された異常の原因を分離します。

  • Azure Data Explorerは、フル マネージドの高パフォーマンス分析サービスです。 アプリケーション、Web サイト、IoT デバイスからの大量のストリーミング データをほぼリアルタイムで処理します。 このアーキテクチャでは、IoT データのインジェスト、クエリ、視覚化のための中央分析エンジンとして機能します。

  • Azure Data Explorer ダッシュボードは、Azure Data Explorer Web UI の視覚化機能です。 Azure Data Explorer ダッシュボードを使用して、リアルタイムのデータ探索のために Kusto クエリを対話型ダッシュボードにエクスポートできます。 このアーキテクチャでは、IoT データ ストリームからの分析情報と異常検出結果が表示されます。

  • Azure Data Explorer Web UI は、Azure Data Explorer クラスター用のブラウザー ベースのインターフェイスです。 KQL コマンドとクエリを記述、実行、共有するユーザーをサポートします。 このアーキテクチャでは、アナリストが IoT データのクエリと探索を行うワークスペースを提供します。

  • 時系列分析 は、Azure Data Explorer の組み込み機能です。 ユーザーが時間ベースのデータの時間的パターン、傾向、季節性を調べるのに役立ちます。 このアーキテクチャでは、IoT センサーの読み取り値における長期的な傾向と循環的な動作が明らかになります。

その他の Azure コンポーネント

  • Azure Cosmos DB は、あらゆる規模に対応するオープン API を備えたフル マネージドの高速 NoSQL データベースです。 このアーキテクチャでは、スケーラブルで待ち時間の短いアクセスのために、IoT デバイスからの運用データを格納します。

  • Azure Digital Twins は、物理環境をデジタル表現としてモデル化するためのプラットフォームです。 このアーキテクチャでは、空間分析とコンテキスト分析をサポートするために、IoT に接続された資産のデジタル モデルを維持します。

  • IoT Hub により、IoT デバイスとAzure クラウド間の双方向通信が可能になります。 このアーキテクチャでは、デバイス データとコマンドアンドコントロール操作の中央メッセージング ハブとして機能します。

  • Event Hubs は、フル マネージドのリアルタイム データ インジェスト サービスです。 このアーキテクチャでは、IoT デバイスからデータを取り込み、分析パイプラインにストリーム配信します。

  • KAfka on HDInsight は、Azure上の Apache Kafka 向けのエンタープライズ レベルのコスト効率の高いサービスです。 このアーキテクチャでは、IoT データインジェストと分散のための代替ストリーミング バックボーンを提供します。

シナリオの詳細

このソリューションでは、Azure Data Explorerを使用して、さまざまな IoT デバイスから高速に流れる大量のストリーミング データに対するほぼリアルタイムの IoT データ分析を取得します。

考えられるユース ケース

  • フリート管理は車両部品の予測メンテナンスのために行われます。 このソリューションは、自動車および輸送業界に最適です。

  • エネルギーと環境の最適化のための設備管理。

  • リアルタイムの道路状況と気象データを組み合わせて、より安全な自動運転を実現します。

貢献者

Microsoft では、この記事を保持しています。 この記事を書いたのは、以下の寄稿者です。

主執筆者

その他の共同作成者:

公開されていない LinkedIn プロフィールを見るには、LinkedIn にサインインしてください。

次の手順