推論速度について

現在でも十分な推論ができているのですがノートパソコンなので、追加で購入するPCとGPUはアップグレードしたいと考えています。
普通の構成で実行した場合、MENOU-TEによる推論はどのくらい早いのでしょうか?

4K画像(5194x3888ピクセル)の画像の検査例でお答えさせていただきます。
例として、1/32リサイズした画像でチーターの顔を検出し、
検出エリアの重心から元解像度で1024x1024ピクセルの範囲内でヒゲを見つけさせるAIを用意してベンチマークを実施しました。
(このデータセットは今後自由に評価できるよう準備させて頂きます。)


image

デスクトップPC1 デスクトップPC2 デスクトップPC3 ノートPC デスクトップPC4 クラウド1 クラウド1(CPUのみ)
OS Win11 Pro Win10 Pro Win10 Pro Win10 Pro Win10 Pro WinServer 2019
CPU AMD Ryzen5 5600X Intel i7 10700K Intel i7 9700K Intel i7 9750H Intel i9 11900K Xeon 8163(8core)
メモリ(GB) 64 32 64 32 64 32
GPU Geforce RTX3070 Geforce RTX3080 Geforce RTX2080Ti Geforce 1650 Geforce RTX3090 Tesla T4 CPU推論
Menou-TEバージョン 21年7月開発版
(Win11のため)
1.2.102.0 1.2.102.0 1.2.102.0 1.9.300.0 1.9.300.0
推論速度(平均ミリ秒) 416 388 417 1092 193 749 14289

検査画像やタスクコネクションの組み合わせ次第で変わるところはありますが、
GPUを搭載したノートPCより2倍以上速くなる見込みです。
弊社の推奨としては6コア以上のCPU、Geforce3070以上を推奨とさせて頂いております。

「いいね!」 2

やっぱりGPUがあると相当早いんですね。ありがとうございます。
0.5秒以内になるのは嬉しいです。このデータがあれば会社に買ってもらえると思います(笑)

「いいね!」 2

画像とアノテーション画像を公開いたしましたので、ご利用いただければ幸いです。
ワークスペースご希望の場合は弊社カスタマーサポートまでご連絡ください。

2Mの画像で、トレーニング実行時に画素数を下げて下さい、の表示が出ない
最低PCスペックを教えて頂けませんでしょうか。

よろしくお願いします。

お使いのPCの利用状況(使用されている他のアプリの動作状況)により最低スペックはなんとも言えないですが、一応こちらが推奨スペックになります。

記載の推奨より低いスペックのPCでも動作はしますが
ご記載いただいたメッセージが出たということは、スペックが足りていないと思われますので
他のアプリケーションを停止させたり、リサイズを行うなどが必要になります。

今後はこちらでアップデートします。