EMQX Enterprise

日本語

简体中文
English

日本語

简体中文
English

Appearance

お問い合わせ
お問い合わせ

RedisへのMQTTデータ取り込み ​

Redisは、オープンソースのインメモリデータストアであり、データベース、キャッシュ、ストリーミングエンジン、メッセージブローカーとして数百万の開発者に利用されています。EMQXはRedisとの連携をサポートしており、MQTTメッセージやクライアントイベントをRedisに保存できます。Redisデータ統合により、メッセージのキャッシュやクライアントイベントの統計にRedisを活用できます。

本ページでは、EMQXとRedis間のデータ統合について詳細に解説し、データ統合の作成および検証手順を実践的に説明します。

動作概要 ​

Redisデータ統合はEMQXの標準機能であり、EMQXのリアルタイムデータキャプチャと送信機能を、Redisの豊富なデータ構造と高性能なキー・バリューの読み書き性能と組み合わせています。組み込みのルールエンジンコンポーネントにより、EMQXからRedisへのデータ取り込みを簡素化し、複雑なコーディングを不要にしています。

以下の図はEMQXとRedis間のデータ統合の典型的なアーキテクチャを示しています。

EMQX Integration Redis

RedisへのMQTTデータ取り込みは以下のように動作します。

  1. メッセージのパブリッシュと受信: 産業用IoTデバイスはMQTTプロトコルを通じてEMQXに正常に接続し、機械やセンサー、製品ラインの稼働状態、計測値、トリガーイベントに基づくリアルタイムMQTTデータをEMQXにパブリッシュします。EMQXがこれらのメッセージを受信すると、ルールエンジン内でマッチング処理を開始します。
  2. メッセージデータ処理: メッセージが到着するとルールエンジンを通過し、EMQXで定義されたルールにより処理されます。ルールは事前定義された条件に基づき、どのメッセージをRedisにルーティングするかを決定します。ペイロード変換が指定されている場合は、データ形式の変換、特定情報のフィルタリング、追加コンテキストによるペイロードの拡充などが適用されます。
  3. Redisへのデータ取り込み: ルールエンジンがデータを処理すると、キャッシュやカウントなどの操作を行うために、あらかじめ設定されたRedisコマンドを実行するアクションがトリガーされます。
  4. データの保存と活用: Redisに保存されたデータを読み取ることで、企業はRedisの豊富なデータ操作機能を活用し、さまざまなユースケースを実現できます。例えば物流分野では、デバイスの最新状態取得やGPS地理位置解析、リアルタイムデータ分析やソートなどの操作が可能です。これによりリアルタイム追跡やルート推奨などの機能を実現します。

特徴と利点 ​

Redisとのデータ統合は、効率的なデータ送信、処理、活用を実現するために多彩な特徴と利点を提供します。

  • 高性能かつスケーラブル: EMQXの分散アーキテクチャとRedisのクラスター構成により、データ量の増加に応じてシームレスにスケール可能です。大規模データセットでも一貫した性能と応答性を維持します。
  • リアルタイムデータストリーム: EMQXはリアルタイムデータストリーム処理に特化しており、デバイスからRedisへの効率的かつ信頼性の高いデータ送信を保証します。Redisは高速なデータ操作を実行できるため、リアルタイムデータキャッシュに最適なデータストレージコンポーネントです。
  • リアルタイムデータ分析: Redisはデバイス接続数、メッセージパブリッシュ数、特定の業務指標などのリアルタイムメトリクスを計算可能です。一方、EMQXはリアルタイムメッセージ送受信と処理を担い、データ分析のリアルタイム入力を提供します。
  • 地理位置解析: Redisは地理空間データ構造とコマンドを提供し、地理位置情報の保存とクエリを可能にします。EMQXの強力なデバイス接続機能と組み合わせることで、物流、コネクテッドカー、スマートシティなど多様なIoTアプリケーションに広く応用できます。

はじめる前に ​

このセクションでは、Redisデータ統合を作成する前に必要な準備、特にRedisサーバーのセットアップ方法について説明します。

前提条件 ​

Redisサーバーのインストール ​

Dockerを使ってRedisをインストールし、起動します。

bash
# Redisコンテナを起動し、パスワードをpublicに設定
docker run --name redis -p 6379:6379 -d redis --requirepass "public"

# コンテナにアクセス
docker exec -it redis bash

# Redisサーバーにアクセスし、AUTHコマンドで認証
redis-cli
127.0.0.1:6379> AUTH public
OK

# インストール確認
127.0.0.1:6379> set emqx "Hello World"
OK
127.0.0.1:6379> get emqx
"Hello World"

これでRedisのインストールが完了し、SETおよびGETコマンドで動作確認ができました。Redisのコマンド詳細はRedis Commandsを参照してください。

コネクターの作成 ​

このセクションでは、Redis SinkをRedisサーバーに接続するためのコネクター作成方法を説明します。

以下の手順は、EMQXとRedisをローカルマシンで実行している場合を想定しています。Redisが別の場所にデプロイされている場合は設定を適宜調整してください。

  1. ダッシュボードに入り、Integration -> Connectorsをクリックします。
  2. ページ右上のCreateをクリックします。
  3. Create ConnectorページでRedisを選択し、Nextをクリックします。
  4. コネクター名を入力します。名前は英数字の組み合わせとしてください（例：my_redis）。
  5. ビジネスニーズに応じてRedis Modeを設定します（例：single）。
  6. 接続情報を入力します。
    • Server Host: 127.0.0.1:6379を入力
    • Username: adminを入力
    • Password: publicを入力
    • Database ID: 0を入力
    • その他のオプションはビジネスニーズに応じて設定してください。
    • 暗号化接続を確立したい場合は、Enable TLSのトグルスイッチをオンにします。TLS接続の詳細は外部リソースアクセスのTLSを参照してください。
  7. Createをクリックする前に、Test ConnectivityをクリックしてコネクターがRedisサーバーに接続できるかテストできます。
  8. ページ下部のCreateボタンをクリックしてコネクター作成を完了します。ポップアップダイアログではBack to Connector Listをクリックしてコネクター一覧に戻るか、Create RuleをクリックしてルールとSinkの作成を続行できます。詳細はルールとRedis Sinkの作成を参照してください。

Redis Sinkを使ったルールの作成 ​

このセクションでは、各クライアントの最新メッセージをキャッシュし、メッセージ破棄の統計を収集するルールの作成方法を説明します。

メッセージキャッシュと統計機能のために、それぞれ別のRedis Sinkを作成する必要があります。作成するSinkの種類に応じて、以下のRedisコマンドテンプレートの設定手順に従ってください。

  1. EMQXダッシュボードで、Integration -> Rulesをクリックします。

  2. ページ右上のCreateをクリックします。

  3. ルールIDにcache_to_redisを入力し、使用する機能に応じてSQL Editorにルールを設定します。

    • メッセージキャッシュ用ルールを作成する場合、以下のステートメントを入力します。これはトピックt/#配下のMQTTメッセージをRedisに保存することを意味します。

      注意: 独自のSQL構文を指定する場合は、Sinkで必要なすべてのフィールドをSELECT部分に含めてください。

      bash
      SELECT
  *
FROM
  "t/#"

    • メッセージ破棄統計用ルールを作成する場合、以下のステートメントを入力します。

      bash
      SELECT
  *
FROM
  "$events/message_dropped", "$events/delivery_dropped"

      EMQXのルールは2種類のメッセージ破棄イベントを定義しており、これらのイベントをトリガーにしてRedisに記録できます。

      イベントトピックパラメーター
      転送中にメッセージが破棄される$events/message_dropped$events/message_dropped
      配信中にメッセージが破棄される$events/delivery_dropped$events/delivery_dropped

    TIP

    初心者の方はSQL ExamplesとEnable TestをクリックしてSQLルールの学習とテストを行うことをおすすめします。

    • Add Actionボタンをクリックして、ルールによりトリガーされるアクションを定義します。このアクションにより、EMQXはルールで処理したデータをRedisに送信します。

  5. Type of ActionのドロップダウンリストからRedisを選択します。ActionのドロップダウンはデフォルトのCreate Actionのままにします。既にSinkを作成している場合は選択も可能です。この例では新規Sinkを作成します。

  6. Sinkの名前を入力します。名前は英数字の組み合わせとしてください。

  7. Connectorのドロップダウンからmy_redisを選択します。ドロップダウン横のボタンをクリックして新規コネクターを作成することも可能です。設定パラメーターの詳細はコネクターの作成を参照してください。

  8. 使用する機能に応じてRedis Command Templateを設定します。

    • メッセージキャッシュ用Sinkを作成する場合、RedisのHSETコマンドとハッシュデータ構造を使い、clientidをキーとしてusername、payload、timestampなどのフィールドを保存します。Redis内の他のキーと区別するため、emqx_messagesプレフィックスをメッセージキーに付け、:で区切ります。

      bash
      # HSET key filed value [field value...]
HSET emqx_messages:${clientid} username ${username} payload ${payload} timestamp ${timestamp}

    • メッセージ破棄統計用Sinkを作成する場合、以下のHINCRBYコマンドを使い、各トピックごとの破棄メッセージ数を集計します。

      bash
      # HINCRBY key field increment
HINCRBY emqx_message_dropped_count ${topic} 1

      コマンド実行ごとに対応するカウンターが1ずつ増加します。

  9. フォールバックアクション（任意）: メッセージ配信失敗時の信頼性向上のため、1つ以上のフォールバックアクションを定義できます。これらはプライマリSinkがメッセージ処理に失敗した場合にトリガーされます。詳細はフォールバックアクションを参照してください。

  10. 詳細設定（任意）: 必要に応じてsyncまたはasyncのクエリモードを選択します。詳細はSinkの特徴を参照してください。

  11. Createをクリックする前に、Test ConnectivityをクリックしてSinkがRedisサーバーに接続できるかテストできます。

  12. CreateボタンをクリックしてSinkの設定を完了します。新しいSinkがAction Outputsに追加されます。

  13. Create Ruleページに戻り、設定内容を確認します。Createボタンをクリックしてルールを生成します。

これでRedis Sink用のルール作成が完了しました。Integration -> Rulesページで新規作成したルールを確認できます。**Actions(Sink)**タブをクリックすると新しいRedis Sinkが表示されます。

また、Integration -> Flow Designerをクリックするとトポロジーが表示され、トピックt/#配下のメッセージがルールmy_ruleで解析されRedisに送信・保存されていることが確認できます。

ルールのテスト ​

MQTTXを使ってトピックt/1にメッセージを送信し、メッセージキャッシュイベントをトリガーします。トピックt/1にサブスクライバーがいない場合、メッセージは破棄され、メッセージ破棄ルールがトリガーされます。

bash
mqttx pub -i emqx_c -u emqx_u -t t/1 -m '{ "msg": "hello Redis" }'

2つのSinkの稼働状況を確認すると、1件の新規マッチと1件の正常送信があるはずです。

メッセージがキャッシュされているか確認します。

bash
127.0.0.1:6379> HGETALL emqx_messages:emqx_c
1) "username"
2) "emqx_u"
3) "payload"
4) "{ \"msg\": \"hello Redis\" }"
5) "timestamp"
6) "1675263885119"

テストを再実行すると、timestampフィールドが更新されているはずです。

破棄されたメッセージが集計されているか確認します。

bash
127.0.0.1:6379> HGETALL emqx_message_dropped_count
1) "t/1"
2) "1"

テストを繰り返すと、t/1に対応するカウンターの数値も増加します。