二重化(フェイルオーバクラスタ)構成時のWEBMAIL-Xの自己証明書のサーバ名は各サーバのホスト名(FQDN)になるのでしょうか？

証明書のサーバ名は、クライアント機器から見た(クライアント機器からアクセスするアドレス)にする必要があります。
二重化(フェイルオーバクラスタ)構成時はクライアント機器からはFIP(フローティングIP)にアクセスを行います。
その際に使用されるFQDNを指定してください。