GPUの選定で悩んでおります。
現在RTX3060で、１つのAIモデルで3.5秒かかる検査を、７つ運用しています。
これらをできる限り、並列処理させたいので、並列処理設定(今回は処理が重たいせいか、ほとんど並列は機能していませんでした)と、GPUの割付で時短を狙いたいと考えています。
ただ、昨今のNVIDEAのGPUが２スロットモデルや３スロットモデルまで登場し、処理スペックだけではなく、物理的問題にも直面しています。
最近のGPUでのベンチマークが取れるような情報交換ができると嬉しいです。
例えば、ベンチマーク用のAIモデルをご用意いただき、皆様の使用しているPCでの実測が情報交換できると有難いです。
ご検討お願いいたします。
下記のグラフは縦軸が仕様上の性能、横軸が市場価格、バブルサイズがVRAM量を示したものです。
お使いの3060は赤枠で、コスパ的に推奨させていただくのが緑枠の4080か4090です。
4090は通常３から４スロット厚ですが、
もし2スロット厚の4090をご所望であれば紹介させていただきます。
2スロット厚であればGPU向けPCIex16レーンが複数搭載されているマザーに複数枚装着可能です。
しかしながら、１枚辺りの消費電力と発熱が高いので、
4090より並列性が必要であればVRAMが多い6000Adaがベターな選択になります。
Geforce4000系、Adaに関しては最適化中のため記載しておりませんが、
Geforce3000系までの速度一覧は以下のフォーラムに掲載しております。
もし4090での性能を調査したい場合、カスタマサポートのメールアドレスか担当営業までご連絡ください。
社内開発用の4090で調査させていただきます。
ご回答ありがとうございます。
そうしますと、4090がよさそうです。
複数のAIモデルを短時間で処理をするという観点からは、悩むところですが、
コストとリスクからは、6000Adaを選ぶのは難しい感じがします。
PCを増やして、MENOU-RNを追加した方が、コスパが良いかもしれないですね。
有難うございました。
