概要

Express5800/R120k-2M NEC Generative AI Appliance Serverは、2台の電源ユニットを搭載しており、搭載されたGPUの性能を最大限に発揮させる設計となっています。
このため、GPUに対して十分な電力を供給する構成となっており、常に2台の電源ユニットからの給電を前提としています。 この状態では、何らかの要因により一方の電源ユニットから給電ができなくなった場合、装置が停止する可能性があります。
本コンテンツでは、電源ユニット1台分の電力供給でも動作可能となるように、GPUの消費電力を意図的に抑制する方法について説明します。
【注意】本設定を行った場合、GPU性能に影響が生じる点について、あらかじめご了承ください。

対応機種

Express5800/R120k-2M NEC Generative AI Appliance Server

・GPU構成:NVIDIA RTX PRO 6000 Blackwell Server Edition(1個 または 2個)

電源冗長化手順

1. GPU構成の確認

アプライアンスサーバにadministratorユーザで、SSHまたはコンソールログインします

以下のコマンドを実行して、GPU構成を確認します

$ sudo nvidia-smi -L

・「GPU 0:」で始まる行だけが出力された場合は GPU の個数は1個です

・「GPU 0:」で始まる行と「GPU 1:」で始まる行の２行が出力された場合は GPU の個数は2個です

2. Generative AI FW設定ファイルの編集(GPU構成が2個の場合のみ)

この手順はGPU構成が2個の場合のみ実施してください。1個の場合は次の「3. 電力抑制の指定」に進んでください。

以下のコマンドを実行して、Generative AI FWの設定ファイルを開きます

$ sudo vi /opt/nec/genai/config/genai.env

「TENSOR_PARALLEL_SIZE」の行に「1」を指定して、設定ファイルを上書き保存します

TENSOR_PARALLEL_SIZE=1

備考: GPU構成が2個で電力抑制を解除する場合は、「TENSOR_PARALLEL_SIZE」の値を「2」に戻してください

3. 電力抑制の指定

以下のコマンドでGPUの設定ファイルを開きます

$ sudo vi /opt/nec/ngas_gpu_settings/conf/settings.conf

・電力抑制を設定する場合:「POWER_LIMIT_W」の行にW単位で値を指定して、上書き保存します

POWER_LIMIT_W=350

・電力抑制を解除する場合（既定値）:「POWER_LIMIT_W」の行をコメントアウトして、上書き保存します

# POWER_LIMIT_W=350

4. 設定の適用

設定を反映するため、OSを再起動します

$ sudo systemctl reboot

5. 設定確認

変更内容を確認するには、以下のコマンドを実行します

$ sudo nvidia-smi -q -d POWER

出力結果の「GPU Power Readings」セクションの「Current Power Limit」項目に設定値が反映されていることを確認します

     GPU Power Readings
        Average Power Draw                : 
        Instantaneous Power Draw          : 
        Current Power Limit               : 350.00 W
    

GPUが2個搭載されている場合は、それぞれのGPUの分が表示されることを確認してください

以上で、電源冗長化手順は終了です。