クラスターの作成と管理
EMQXクラスターは手動または自動で作成できます。本ページでは、手動および自動クラスタリングの方法を紹介し、これら2つの異なるアプローチを用いたEMQXクラスターの作成と管理についてご案内します。
注意
クラスター機能は有効なライセンスキーがある場合にのみ利用可能です。
基本概念
EMQXクラスターの基本知識と動作については、ClusterおよびArchitectureをご参照ください。クラスターを作成するには、以下の概念も理解しておく必要があります。
ノード名
EMQXのノードはノード名で識別されます。すべてのノードは name@host 形式の一意のノード名が設定されており、host はIPアドレスまたは完全修飾ドメイン名(FQDN)である必要があります。例:
- サーバー
s1.emqx.ioにデプロイされたEMQXノードの場合、ノード名はemqx@s1.emqx.ioとします。 - このサーバーが固定IP(
192.168.0.10)を持つ場合、ノード名はemqx@192.168.0.10とします。
TIP
EMQXノード名はデータベーススキーマやデータファイルに組み込まれているため変更できません。そのため、EMQXノード名には静的なFQDNの使用を推奨します。
ノードディスカバリー
ノードディスカバリーはクラスター作成に必須のプロセスで、個々のEMQXノードがお互いを発見し、IPアドレスや場所に関係なく通信できるようにします。
手動クラスタリングと自動クラスタリング
ノードディスカバリーの戦略に基づき、クラスター作成方法は手動クラスタリングと自動クラスタリングに分けられます。
手動クラスタリングは、クラスターに参加するノードを手動で指定してEMQXクラスターを作成する方法です。自動クラスタリングは、複数のEMQXノードが手動設定なしに自動的にクラスターを形成できる方法で、クラスターの設定を簡素化し、動的にノードの追加・削除が容易になります。EMQXは静的ノードリスト、DNSレコード、etcd、Kubernetesなどに基づく自動クラスタリングをサポートしています。
以下の表は、EMQXがサポートするノードディスカバリー戦略とクラスター作成方法の一覧です。
| 戦略 | 説明 |
|---|---|
manual | コマンドで手動によりクラスターを作成 |
static | 静的ノードリストによる自動クラスタリング |
dns | DNSのAレコードおよびSRVレコードによる自動クラスタリング |
etcd | etcdによる自動クラスタリング |
k8s | Kubernetesによる自動クラスタリング |
singleton | クラスタリング無効。ノードは他ノードとの接続をすべて拒否 |
EMQXはErlang/OTPアプリケーション向けに開発されたEkkaライブラリに基づく自動クラスター作成をサポートしています。EkkaはErlangノードの自動発見(サービスディスカバリー)や自動クラスタリング(Autocluster)だけでなく、ネットワークパーティションの自動修復(Network Partition Autoheal)や停止したノードの自動削除(Autoclean)などの機能も実装しています。
クラスタリング方式は emqx.conf 設定ファイルのノードディスカバリー戦略で定義できます。デフォルトは手動クラスタリングです。
cluster {
## Options: manual | static | dns | etcd | k8s | singleton
discovery_strategy = manual
}はじめる前に
クラスター作成前にノードやネットワーク環境の設定方法について説明します。
ノード名の設定
クラスターに参加するノードの名前付け方法を理解しておく必要があります。例えば、s1.emqx.io と s2.emqx.io にそれぞれ2つのノードをデプロイしクラスターを作成する場合、以下の手順に従います。
1つ目のノードの emqx.conf にノード名を設定します。
node.name = emqx@s1.emqx.ioノード名は環境変数で上書き可能です。例えば、docker run コマンドの -e オプションや systemd の emqx.service ファイルで以下のように設定します。
EMQX_NODE__NAME='emqx@s1.emqx.io'クラスターに参加する他のノードも同様に設定してください。
これで emqx@s1.emqx.io と emqx@s2.emqx.io の2つのノード名が用意できました。手動または自動でクラスターを作成できます。
ノードクッキーの設定
セキュリティ上の理由から、クラスターに参加する全ノードの emqx.conf でデフォルトのクッキー設定をSecretクッキーに変更してください。クラスターに参加する全ノードは同じSecretクッキーを使用する必要があります。マジッククッキーの詳細はDistributed Erlang - Securityを参照してください。
node {
cookie = "<Secretクッキー>"
}ネットワーク環境の設定
ノード間のネットワーク接続が正常に機能していることを確認してください。ノード間にファイアウォールやセキュリティグループがある場合は、内部クラスター通信に必要な以下のポートを開放してください。
- 4370: Erlang分散トランスポートポート
- 5370: クラスターRPCポート(物理マシン環境向け)
- 5369: クラスターRPCポート(Docker環境向け)
1台のサーバーに複数のEMQXノードをデプロイする場合、各ノードは異なるクラスター通信ポートを使用します。ファイアウォール設定の詳細はIntra-cluster communication portを参照してください。
クイックスタート
このセクションでは、Dockerネットワーク上で2つの異なるクラスタリング方法を用いてクラスターを迅速に作成する方法を示します。
TIP
複数の物理マシンにまたがるDocker環境でEMQXを実行しクラスターを形成する場合は、追加の設定が必要です。コンテナ内で必要なクラスター通信ポートをマッピングし、ファイアウォールでポートを開放してください。詳細はConfigure Network Environmentを参照してください。
任意のノード上で emqx ctl cluster status コマンドを実行し、クラスター状態を確認できます。正常な場合、以下のような情報が出力されます。
$ docker exec -it emqx1 emqx ctl cluster status
Cluster status: #{running_nodes =>
['emqx@node1.emqx.com','emqx@node2.emqx.com'],
stopped_nodes => []}これで簡単なクラスター作成が完了しました。次に、以下のセクションの手順に従い、ご自身のニーズに合ったクラスター作成方法を選択して設定・展開してください。
手動クラスタリング
このセクションでは、手動でクラスターを作成する手順を説明します。手動クラスタリングでは、クラスター内の各ノードを手動で設定し、ノード間のネットワーク接続も構築する必要があります。自動クラスタリングに比べて、カスタムネットワークトポロジーの細かい調整が可能であり、自動クラスタリングが利用できないまたは適さない場合に適しています。
TIP
手動クラスタリングはコアノードにのみ使用可能です。コア-レプリカノードのデプロイ構成を使用している場合は、自動クラスタリングでクラスターを管理してください。
例として、emqx@node1.emqx.com と emqx@node2.emqx.com の2ノードでクラスターを手動作成する手順は以下の通りです。
クラスターのディスカバリー戦略を
manualに設定します。bashcluster { ## Options: manual | static | dns | etcd | k8s | singleton discovery_strategy = manual }2つのノードを起動後、いずれかのノードでクラスター参加コマンドを実行します。
bash$ ./bin/emqx ctl cluster join emqx@node1.emqx.com Join the cluster successfully. Cluster status: [{running_nodes,['emqx@node1.emqx.com','emqx@node2.emqx.com']}]TIP
- このコマンドはクラスターに参加するノード上で実行する必要があります。つまり、招待する側ではなく参加を要求する側で実行します。
emqx@s2.emqx.ioがemqx@s1.emqx.ioに参加すると、ローカルデータはクリアされ、emqx@s1.emqx.ioのデータと同期されます。emqx@s2.emqx.ioが別のクラスターに参加したい場合は、まず現在のクラスターを離脱する必要があります。離脱方法はLeave Clusterを参照してください。
任意のノードでクラスター状態を確認します。
bash$ ./bin/emqx ctl cluster status Cluster status: [{running_nodes,['emqx@node1.emqx.com','emqx@node2.emqx.com']}]
2ノードでクラスター作成に成功しました。クラスター状態の監視方法やノード管理については、Query Cluster Status、Manage Cluster Nodes、Configure Network Protocolsを参照してください。
EMQX v5.9.0以降はダッシュボードからノードの招待や管理も可能で、より直感的かつ使いやすくなっています。詳細はCluster Settingsを参照してください。
自動クラスタリング
このセクションでは、さまざまな自動クラスタリング方式によるクラスター作成方法を説明します。
静的ノードリストによる自動クラスタリング
EMQXの静的ノードリストによる自動クラスタリングは、各ノードに事前定義された静的ノードリストを設定し、起動後にノードリストに従って自動的にクラスターを形成する方式です。
静的クラスタリングは、他のネットワークコンポーネントやサービスに依存せず、TCPプロトコルで相互通信できれば簡単にEMQXクラスターを自動作成できます。
この機能を有効にするには、emqx.conf にクラスター方式とノードリストを設定します。
例:
cluster {
discovery_strategy = static
static {
seeds = ["emqx@s1.emqx.io", "emqx@s2.emqx.io"]
}
}discovery_strategyはノードディスカバリー戦略で、staticに設定seedsは配列で、クラスターに参加するノード名を複数カンマ区切りで指定
すべてのノードを起動すると、自動的にクラスターが形成されます。
DNSレコードによる自動クラスタリング
DNS(Domain Name System)は、ドメイン名の問い合わせに対して対応するIPアドレス(Aレコード)を返す仕組みです。DNSは1つのドメイン名に複数のAレコード(複数IPアドレス)を持つことができ、1つの名前に対して複数のIPアドレスを対応させることが可能です。EMQXのDNS自動クラスタリングはこの1対多のマッピングを利用し、クラスター内のすべてのノードを特定し、各ノードがクラスターに参加できるようにします。
DNSサービスの設定
ほとんどのパブリッククラウドサービスはDNSサービスを提供しています。ドメイン名を割り当てた後、各EMQXノードのIPアドレスをこのドメインのAレコードに追加するだけで設定が完了します。プライベートクラウドや内部ネットワークにデプロイする場合は、BINDなどのDNSソフトウェアで独自のDNSシステムを構築する必要があります。
DNSレコードによる自動クラスタリングの設定
DNSサービスが準備できたら、emqx.conf の cluster.dns 設定項目にクラスター参加ノードを追加します。
例:
cluster {
discovery_strategy = dns
dns {
name = "localhost"
## DNS AレコードおよびDNS SRVレコードをサポート
record_type = a
}
}discovery_strategyはノードディスカバリー戦略で、dnsに設定cluster.dns.nameは問い合わせるDNS名/ドメイン名(例:localhost)cluster.dns.record_typeは列挙型で、aまたはsrvのいずれかを指定
すべてのノードを起動すると、自動的にクラスターが形成されます。
etcdによる自動クラスタリング
etcd はCoreOSが開発したオープンソースプロジェクトで、分散システムにおけるサービスディスカバリーや接続確立に広く使われています。これはEMQXの自動クラスタリングに最適です。
ネットワーク内にetcdサーバー(クラスター)を展開すると、EMQXはetcdを介して自動的にクラスターを作成できます。etcdのインストール・設定方法はetcd Installを参照してください。
etcdを使った自動クラスタリングを有効にするには、emqx.conf の cluster.etcd 設定項目を使用します。
例:
cluster {
discovery_strategy = etcd
etcd {
server = "http://127.0.0.1:2379"
prefix = emqxcl
node_ttl = 1m
}
}discovery_strategyはノードディスカバリー戦略で、etcdに設定cluster.etcd.serverはetcdサーバーのアドレス。複数ノードはカンマ区切りで指定可能cluster.etcd.prefixはEMQXサービスディスカバリー用のetcdキーのプレフィックスcluster.etcd.node_ttlはetcdキーの有効期限(デフォルト:1m)
設定完了後、EMQXノードを順次起動し、etcdctlツールでetcdサーバーの状態を確認できます。
$ etcdctl ls /emqxcl/emqxcl --recursive
/emqxcl/emqxcl/nodes
/emqxcl/emqxcl/nodes/emqx@s1.emqx.io
/emqxcl/emqxcl/nodes/emqx@s2.emqx.io結果はすべてのノードが正常に起動し、自動的にクラスターに参加していることを示しています。
Kubernetes上での自動クラスタリング
EMQX Kubernetes Operator を使うと、Kubernetes環境でEMQXクラスターの作成・管理が簡単になり、デプロイや管理作業をラベル付きで繰り返し可能な低コストジョブに変換できます。
自分でEMQXをデプロイ・管理する場合でも、Kubernetes APIを用いたノードディスカバリーと自動クラスタリングが可能です。この機能を使うには、EMQX PodがKubernetes APIServerのendpointsリソースからクラスター情報を取得できるようにRBACを作成する必要があります。設定方法はUsing RBAC Authorizationを参照してください。
Kubernetes上でのEMQX自動クラスタリングを有効にするには、emqx.conf の cluster.k8s 設定項目を使用します。
cluster {
discovery_strategy = k8s
K8s {
apiserver = "http://10.110.111.204:8080"
service_name = emqx
address_type = ip
namespace = default
}
}discovery_strategyはノードディスカバリー戦略で、k8sに設定cluster.K8s.apiserverはKubernetes APIエンドポイントURL(デフォルト:http://10.110.111.204:8080)cluster.K8s.service_nameはEMQXサービス名(デフォルト:emqx)cluster.K8s.address_typeは発見したノードへの接続アドレス種別(デフォルト:ip)。選択肢はip、dns、hostname- (オプション)
cluster.K8s.suffixはノード名のサフィックス。address_typeがdnsの場合のみ必要(デフォルト:pod.local) cluster.K8s.namespaceはKubernetesのネームスペース(文字列、デフォルト:default)
設定後、ノードを順次起動すると自動的にクラスターが形成されます。
TIP
Kubernetes上でEMQX自動クラスタリングを利用する場合、FannelプラグインよりもCalicoの使用を推奨します。
クラスター管理
クラスター作成後は、クラスター状態の監視やノード管理が可能です。
クラスター状態の確認
任意のクラスター内ノードで以下のコマンドを実行し、クラスター状態を確認します。
$ ./bin/emqx ctl cluster status
Cluster status: [{running_nodes,['emqx@s1.emqx.io','emqx@s2.emqx.io']}]クラスターからの離脱
クラスターから離脱する方法は2通りあります。
cluster leaveコマンドを実行:現在のノードがクラスターから離脱します。クラスター内の他ノードに通知し、クラスター操作への参加を停止します。離脱前に進行中のタスクを完了します。cluster force-leave <node@host>コマンドを実行:指定ノードをクラスターから強制的に削除します。通常、ノードが故障または応答不能になった場合に使用します。
例として、既存クラスターで emqx@s2.emqx.io が離脱する場合、emqx@s2.emqx.io 上で以下を実行します。
./bin/emqx ctl cluster leaveまたは、emqx@s1.emqx.io 上で以下を実行し、emqx@s2.emqx.io をクラスターから削除します。
./bin/emqx ctl cluster force-leave emqx@s2.emqx.ioネットワークプロトコルの設定
クラスター作成後、ノード間のネットワークプロトコルを設定できます。EMQXはTCPまたはTLSによるノード接続をサポートしており、emqx.conf で設定可能です。
TCP IPv4およびTCP IPv6を使用する場合は、emqx.conf の cluster.proto_dist を設定します。
- TCP IPv4:
inet_tcp(デフォルト) - TCP IPv6:
inet6_tcp
SSLを有効にするには、まず cluster.proto_dist を inet_tls に設定し、etc フォルダ内の ssl_dist.conf ファイルでTLS証明書を指定します。詳細はUsing TLS for Erlang Distributionを参照してください。
疑似分散クラスター
EMQXはテストや開発用途向けに疑似分散クラスター機能を提供しています。これは1台のマシン上で複数のEMQXインスタンスを起動し、それぞれをクラスターのノードとして設定する構成です。
1つ目のノードを起動します。
EMQX_NODE__NAME='emqx1@127.0.0.1' \
EMQX_LOG__FILE_HANDLERS__DEFAULT__FILE='log1/emqx.log' \
EMQX_LISTENERS__TCP__DEFAULT__BIND='127.0.0.1:1883' \
EMQX_LISTENERS__SSL__DEFAULT__BIND='127.0.0.1:8883' \
EMQX_LISTENERS__WS__DEFAULT__BIND='127.0.0.1:8083' \
EMQX_LISTENERS__WSS__DEFAULT__BIND='127.0.0.1:8084' \
EMQX_DASHBOARD__LISTENERS__HTTP__BIND=18083 \
EMQX_NODE__DATA_DIR="./data1" \
./bin/emqx start次に、2つ目のノードを起動し手動でクラスターに参加させます。ポート競合を避けるため、ノードごとに異なるリスニングポートを使用し、ログファイルや内部データベース用のディレクトリも分ける必要があります。
EMQX_NODE__NAME='emqx2@127.0.0.1' \
EMQX_LOG__FILE_HANDLERS__DEFAULT__FILE='log2/emqx.log' \
EMQX_LISTENERS__TCP__DEFAULT__BIND='127.0.0.1:1882' \
EMQX_LISTENERS__SSL__DEFAULT__BIND='127.0.0.1:8882' \
EMQX_LISTENERS__WS__DEFAULT__BIND='127.0.0.1:8082' \
EMQX_LISTENERS__WSS__DEFAULT__BIND='127.0.0.1:8085' \
EMQX_DASHBOARD__LISTENERS__HTTP__BIND=18082 \
EMQX_NODE__DATA_DIR="./data2" \
./bin/emqx start
EMQX_NODE__NAME='emqx2@127.0.0.1' ./bin/emqx ctl cluster join 'emqx1@127.0.0.1'上記は手動でクラスターを作成する例です。自動クラスタリングの方法はAuto Clusteringセクションを参照してください。
この構成は本番環境での使用は推奨されません。