技術情報

[SX-Aurora TSUBASA] HDR/HDR100 HCAがLinkUPとならない場合の対処方法

InfiniBand HDR/HDR100 HCAが搭載されている機種において、 InfiniBandスイッチとの間でリンクアップしない場合がまれにあります。
そのような現象が発生した場合の対処方法について説明します。

現象

発生条件

モデル: SX-Aurora TSUBASA A311-2, A311-4, A311-8
(InfiniBand HDR/HDR100 HCAが搭載されている機種)
HCA Firmware version: 20.26.1040

対処方法

※以下のオペレーションはrootで実行してください。

1) InfiniBand HCAのLink状態の確認

# ibstat
CA 'mlx5_0'
        CA type: MT4123
        Number of ports: 1
        Firmware version: 20.26.1040
        Hardware version: 0
        Node GUID: 0x98039b0300cbaf9c
        System image GUID: 0x98039b0300cbaf9c
        Port 1:
                State: Down
                Physical state: Polling ←★
                Rate: 10
                Base lid: 65535
                LMC: 0
                SM lid: 0
                Capability mask: 0x2651e848
                Port GUID: 0x98039b0300cbaf9c
                Link layer: InfiniBand
CA 'mlx5_1'
        CA type: MT4123
        Number of ports: 1
        Firmware version: 20.26.1040
        Hardware version: 0
        Node GUID: 0xb8599f030000a654
        System image GUID: 0xb8599f030000a654
        Port 1:
                State: Active
                Physical state: LinkUp
                Rate: 100
                Base lid: 163
                LMC: 0
                SM lid: 1
                Capability mask: 0x2651e848
                Port GUID: 0xb8599f030000a654
                Link layer: InfiniBand

サブネットマネージャがInfiniBandネットワーク上で起動されていない。
ケーブルが正しく接続されていない。

2) InfiniBand HCAのリセット方法

# mst start

# mst status
MST modules:
------------
    MST PCI module is not loaded
    MST PCI configuration module loaded

MST devices:
------------
/dev/mst/mt4123_pciconf0     - PCI configuration cycles access.
                               domain:bus:dev.fn=0000:1a:00.0 addr.reg=88 data.reg=92
                               Chip revision is: 00
/dev/mst/mt4123_pciconf1     - PCI configuration cycles access.
                               domain:bus:dev.fn=0000:3e:00.0 addr.reg=88 data.reg=92
                               Chip revision is: 00

# mlxfwreset -d /dev/mst/mt4123_pciconf0 -s -l 3 reset

Requested reset level for device, /dev/mst/mt4123_pciconf0:

3: Driver restart and PCI reset
Continue with reset?[y/N] y ← "y"と入力します
-I- Sending Reset Command To Fw         -Done
-I- Resetting PCI                       -Done
-I- Restarting MST                      -Done
-I- FW was loaded successfully.

# ibstat
CA 'mlx5_0'
        CA type: MT4123
        Number of ports: 1
        Firmware version: 20.26.1040
        Hardware version: 0
        Node GUID: 0x98039b0300cbaf9c
        System image GUID: 0x98039b0300cbaf9c
        Port 1:
                State: Active
                Physical state: LinkUp ←★
                Rate: 100
                Base lid: 276
                LMC: 0
                SM lid: 1
                Capability mask: 0x2651e848
                Port GUID: 0x98039b0300cbaf9c
                Link layer: InfiniBand
CA 'mlx5_1'
        CA type: MT4123
        Number of ports: 1
        Firmware version: 20.26.1040
        Hardware version: 0
        Node GUID: 0xb8599f030000a654
        System image GUID: 0xb8599f030000a654
        Port 1:
                State: Active
                Physical state: LinkUp
                Rate: 100
                Base lid: 163
                LMC: 0
                SM lid: 1
                Capability mask: 0x2651e848
                Port GUID: 0xb8599f030000a654
                Link layer: InfiniBand

# /opt/nec/ve/sbin/terminate-all-ve-services
# /opt/nec/ve/sbin/start-all-ve-services

https://www.hpc.nec/documents/

製品名カテゴリ

SX-Aurora TSUBASA Software

アンケート

サポート情報充実のためアンケートにご協力をお願いいたします。

：参考になった。
：参考にならなかった。

コメント欄：

ページの先頭へ戻る