VMware ESXi で GPU パススルー

前提条件

PEG スロットに ESXi コンソール用 GPU を設置します。
その他の PCI-E スロットにパススルーする GPU を設置します。

パススルーする GPU は ESXi のメイン GPU とならないようにする必要があります。このため、あえて PCI-E x16 のスロット(PEG)に ESXi 用 GPU を設置し、パススルーする GPU をその他の PCI-E x8 などのスロットに設置するなどします。
Asrock X99 では PCI-E x16 スロットの設定を BIOS で変えられるので、当方の環境では PCI-E2(PEG) を x1 に、 PCI-E4 に GTX 1080 を設置し x16 にしています。
BIOS で Intel VT-d を有効にします。
複数の GPU を使うときは BIOS で Above 4G Decoding を有効にします。

仮想マシンバージョン8(vmx-8)以上でWindows 10の仮想マシンを作ります。
リソースタブのメモリから割り当てたメモリをすべて予約します。当方の環境では 8GB 割り当てました。
ESXi に CommunitySupport の NIC ドライバを組み込んでいる場合は、 UEFI ブート中に vmxnet3 でエラーにならないようにネットワークインターフェースを E1000 にします。
ハードウエアタブの追加からPCI デバイスの追加でパススルーしたい GPU を選択します。
ブートを UEFI にします。
オプションタブの詳細→全般→ 構成パラメータに以下のパラメータを追加します。
- GeForce の仮想環境チェックを回避するようにします。
- VRAM の開始アドレスを指定します。
- ESXi 5.5 以下では MSI/MSI-X (Message Signal Interupt) を無効にして INTx を使うようにします。

NVIDIA からドライバをダウンロードしてインストールします。