5.29. PyTorch

本システムでは、NVIDIA NGC(NVIDIA GPU Cloud)で提供されている最適化済みPyTorchコンテナイメージをSingularityで取得・実行することで、GPUを活用した高速な深層学習環境を利用できます。

コンテナイメージ例(NGC)

実行キュー

nvcr.io/nvidia/pytorch:<タグ名>

A_002
A_001
CA_001
DA_002

注意

  • コンテナイメージの取得(pull)はフロントエンドノードで事前に実行してください。

  • 必要となるデータセット等も事前にフロントエンドノードでダウンロードしてください。

  • イメージの取得方法や詳細なオプションについては Singularity使用方法 のページも併せてご確認ください。

5.29.1. コンテナイメージの準備(フロントエンドノード)

フロントエンドノード上で、NVIDIA NGCレジストリからPyTorchイメージをpullしてSingularityイメージファイル( .sif )を作成します。 イメージのpullはホームディレクトリ配下で実行してください。作成後はホーム領域のクォータ圧迫を避けるため、キャッシュクリアを行ってください(詳細は Singularity使用方法 を参照)。

・NGCからPyTorchコンテナイメージを取得(例: 24.09-py3)

$ singularity pull pytorch_24.09-py3.sif docker://nvcr.io/nvidia/pytorch:24.09-py3

※ 利用可能なタグ(バージョン)は、 NVIDIA NGC Catalog (PyTorch) をご参照ください。

5.29.2. ジョブスクリプトの書式

アクセラレータ搭載サーバ上でGPUを利用して実行するジョブスクリプトの書式です。 --nv オプションを付与することで、コンテナ内からNVIDIA GPUが認識されます。

#!/bin/sh
#PBS -l select=1[:ncpus=CPU数][:ngpus=GPU数][:mem=メモリ容量]
#PBS -q CA_001
#PBS -N ジョブ名

cd $PBS_O_WORKDIR

singularity exec --nv <イメージファイル名.sif> python 入力ファイル > 出力ファイル 2> エラー出力ファイル

5.29.3. 実行例

共有GPUキュー(CA_001)を使用し、2 CPUコア、2 GPU、メモリ64GBでスクリプト sample.py を実行する例です。

#!/bin/sh
#PBS -l select=1:ncpus=2:ngpus=2:mem=64gb
#PBS -q CA_001
#PBS -N PyTorch_job

cd $PBS_O_WORKDIR

singularity exec --nv pytorch_24.09-py3.sif python sample.py > sample.out 2> sample.err

5.29.4. 参考資料