Java VMの最大メモリサイズに「1664M」を超えた値を設定したところ、ドメインの起動に失敗しました。
スペックの違うサーバでも実施してみましたが、結果は同じでした。
最大メモリサイズ（-Xmx）について、設定可能な最大値はありますか？

Java VM は Javaヒープと C ヒープを持っていますが、Javaヒープを大きく取りすぎたため、十分なC ヒープが確保できなくなり、ドメインの起動に失敗したようです。
この C ヒープ領域は、Java VM自身のロード時や、WebOTX Application Serverや業務アプリケーションがネイティブライブラリをJNI呼び出しする際などに利用されます。
そのため、Java VMやユーザアプリケーションに依存する値であり、正確な値を示すことができません。

実際の環境に合わせてチューニングしながら、システムに最適な最大ヒープサイズを設定してください。

【対象製品】Application Server
【確認済みのバージョン】すべて
【確認済みのエディション】すべて
【確認済みの対象OS】すべて
【確認済みのJavaバージョン】すべて
【コンポーネント】運用管理
【カテゴリー】運用/設定