タスクコネクション

フォーラム
1

タスクコネクションで複数のタスクを作成した場合、
推論時に各タスクに対して推論処理するGPUを紐づけするということは
技術的に可能でしょうか？

「いいね！」 1
2

ご質問ありがとうございます。

各タスクが推論時に使用するデバイスの設定については、ランタイム評価画面の「ランタイムデバイス設定」パネルで変更が可能です。

  1. ランタイム評価画面の表示
    プロジェクト編集画面中央上部の「ランタイム評価」ボタンをクリックします。
    ※プロジェクトに含まれる全てのタスクの学習が完了している必要があります。
    image

  2. ランタイムデバイス設定を表示
    ランタイム評価画面右側の「ランタイムデバイス設定」タブをクリックします。
    image

  3. 使用デバイスの設定変更

  • デフォルトでは「推奨設定」が選択されています。

    image
    image549×770 10.1 KB

  • タスクごとに任意のデバイスを設定する場合は、「推奨設定」右側の「＋」ボタンをクリックして、設定を追加します。設定名は任意の名称を指定することが可能です。
    image

  • それぞれのタスクで使用したいデバイスを選択します。

    image
    image549×919 10.6 KB

    • GPU … NVIDIA GPU を利用します
    • CPU … CPU を利用します
    • iGPU … Intel 内臓 GPU を利用します
    • MYRIAD … Intel Neural Compute Stick 2（USB タイプの推論アクセラレーターデバイス）を利用します
      • ご利用の PC では利用できないデバイスも選択可能ですが、その場合は推奨設定を使用して推論が実行されます。この画面で出力したランタイムを別の環境で利用したい場合等に有効です。（この PC には GPU が接続されていないが、ランタイム実行環境の PC には GPU が接続されている場合等）

  • デバイス設定後、「現在の設定」から追加した設定名を選択し、右側の更新ボタンをクリックします。
    image

  • ランタイムのロードが実行され、指定したデバイスで推論が実行されます。

「いいね！」 1
3

回答ありがとうございます。
自分のPCでもデバイス設定ができることを確認いたしました。

追加で質問となりますが、
➀「GPU:0」や「GPU:1」は、ボード単位の設定になりますでしょうか。
②GPUの場合、初期設定の通り、:0～:3までの4種類までが設定の上限となりますでしょうか。
③自社でMENOU-TEの学習モデルを使った推論システムを開発する場合、
システム開発時に同様のデバイス設定をできるようにすることは可能でしょうか。

4

ご確認ありがとうございます。

➀「GPU:0」や「GPU:1」は、ボード単位の設定になりますでしょうか。

はい、上記ご認識の通りです。

②GPUの場合、初期設定の通り、:0～:3までの4種類までが設定の上限となりますでしょうか。

はい、現状は 4 種類が上限となっています。 （ご要望あれば追加検討させていただきますますので、別途ご相談ください）

③自社でMENOU-TEの学習モデルを使った推論システムを開発する場合、
システム開発時に同様のデバイス設定をできるようにすることは可能でしょうか。

MENOU-TEの学習モデル（ランタイム）には、この画面で指定したデバイス設定が含まれるため、ランタイム推論実行時には、自動的に本デバイス設定が適用される形になります。

「いいね！」 1
5

回答ありがとうございました！

「いいね！」 1