Windows Server 2008では、so_mail.exe をそのまま実行することができません。
WebGUI(Management Console)からの操作をご利用いただくか、以下のコマンドをご利用下さい。
<StarOfficeフォルダ>\mail\opt\nec\mail\msh.exe localhost so_mail parameter
※parameterの部分は、例えば「vscanhost start」があてはまります。
詳細はマニュアルの以下の箇所を参照してください。
StarOffice X ~運用管理者編~ リファレンスガイド
第 2 章 メールサービス
コマンドリファレンス
メールサービスを起動・停止する
※StarOfficeのバージョンによっては章番号が異なる場合がございます。