分類タスクを使用する際、判定結果がどこに注目しているかを示すヒートマップの出力はありますか？
「いいね！」 3
分類タスクの場合は、どこかに注目しているかを示すものはなく、枠内全体を見た判定結果のみとなります。
領域検出タスクの場合は、枠内という概念ではなく、ピクセル単位で画像を判定しているため、どこがどのように反応しているをヒートマップで見ることができます。
「いいね！」 3
ご回答ありがとうございます。
分類タスクですと、いわゆるGradCAMのように、特徴抽出層の最終層(そうとは限りませんが)の重みから大まかな注視位置を出力するような技術がありますが、それも無いということですね。
「いいね！」 1
おっしゃる通り技術的にはgrad camなどの技術があり、過去にはリリースも検討もしておりました。
しかし、ご存じの通り分類タスクは明確な特徴を指示できず検査精度を突き詰められないというリスクを孕んでおります、、、
分類タスクが反応したと思われる特徴領域を可視化させてしまうと、一見便利に見えてしまい、領域検出タスクと同じように考えてしまう勘違いを産んでしまう事象が多くの検証で発生してしまいました。
AIの種類によって使い所が異なり、正しくAIを理解した上で、安心して現場運用して頂くため、勘違いを生みやすい機能のリリースを現時点では見送っております。
しかし、可視化する技術自体は、ヒントを提示するという観点ではとても面白い技術であるため、誤解を生まないような表現を準備できましたら、ご案内させて頂きたいと思います！
ご質問頂きありがとうございます！
「いいね！」 3
詳細なご説明ありがとうございます。
経緯について納得しました。
確かに、間違ったところに注視しているのに判定は合っている、ということはよく起こりますし誤解を生む可能性はありますね。そういう前提があると結果の解析や信頼性にも影響があると思いますし。
今後の進展に期待しています！
「いいね！」 2