学習にGPUが使われてない?

トレーニングタブからGPUが選択できるのに使えていない、もしくはGPUデバイスがあるのに認識されていないという場合がPCによって発生してしまうケースがあるようです。

この場合、
GPUドライバの更新を行うことで解決する場合が多いです。
NVIDIAのサイトからGPUドライバの更新をお願いします。

「いいね!」 1

知識が浅く申し訳ないのですが、

下記のPCを所有しています。
この時、学習時はCPUの性能差で大きく学習時間が変わるのでしょうか?

PC① CPU corei7 9700(16GB) GPU RTX2080Ti
PC② CPU corei9 11世代(32GB) GPU RTX3080

ご教示ください。

passmarkのベンチマークが実感に近い比較になります。

単純な学習だけで見ますと、1epoch毎に最大1.5倍近い性能差(時間)を有しています。
しかし、画像サイズが小さい場合、差は伸びない場合がありますので、
ワークスペースをご共有いただければ近いスペックで比較させていただきます。

下記例は推論の差ですが、学習は推論が連続したものとお考えいただけると、
イメージしやすいかと思います。

また、前処理や画像処理タスクなどが多数盛り込められていた場合、
cpuの性能差でも大きく改善します。

回答ありがとうございます。
1.5倍との事承知しました。参考サイトのご紹介ありがとうございます。

「いいね!」 1

GPUですが、学習中にタスクマネージャーで確認すると以下のような使用率となっています。CPUは100%まで何回も行きますが、GPUは最大でも20%程です。こちら、何かGPUの設定などは必要でしょうか。あるいは、これぐらいの使用率が通常なのでしょうか。

PC構成は以下で、GPUドライバは最新を使用しております。
CPU:11th Gen Intel(R) Core™ i9-11900K @ 3.50GHz 3.50 GHz
GPU:GeForce RTX 3090
メモリ:32GB

お問い合わせありがとうございます。
基本的には特殊な設定を行うことなく GPU についてはご利用いただくことが可能です。
CPU の使用率が 100% とのことなので、おそらく CPU 側の処理がボトルネックとなっている可能性が高いと思われます。

また、GPU-Z(外部サイト:https://jisaku-pc.net/build/gpu-z.html)等の計測ツールを使用すると、より詳細な GPU 使用率(GPU 負荷)を確認することが可能です。

以下、弊社環境で学習実行を行った際の GPU-Z / Windows タスクマネージャーの使用率です。

上のケースでは GPU-Z 側の使用率がタスクマネージャーの使用率の 2 倍程度となっていました。


すみません、Windows タスクマネージャーの GPU 使用率の算出方法の詳細(仕様)が分からず、何故上記のような差が出てしまうのか、明確な原因が特定できませんでした。。。このため、上記はご参考まで。