医療イメージングにおける説明可能なAI：臨床実践者の概要 - 顕著性に基づくXaiアプローチを超えて

人工知能（AI）とコンピュータービジョン（CV）の最近の進歩に駆られ、医療ドメインでのAIシステムの実装がそれに応じて増加しました。これは、AIの組み込みが分類、セグメンテーション、登録などのいくつかのイメージングベースのタスクを支援する医療イメージングのドメインに特に当てはまります。さらに、AIは医学研究を形成し、個別化された臨床ケアの開発に貢献しています。その結果、その拡張された実装に加えて、AIシステムとその内部の仕組み、可能性、および説明可能なAI（XAI）の分野が目的とする制限を広範囲に理解する必要が生じます。医療イメージングは主に視覚的なタスクに関連付けられているため、ほとんどの説明可能性アプローチには、顕著性ベースのXAIメソッドが組み込まれています。それとは対照的に、この記事では、顕著性に依存していないXAI技術に特に焦点を当て、多様な例を提供することにより、医療画像の分野でのXAIメソッドの可能性を最大限に引き出したいと思います。私たちは、調査を幅広い聴衆、特に医療専門家に捧げます。さらに、この作業は、ディープラーニング（DL）ビルダーとヘルスケアの専門家との間で学際的な理解と交換の共通の基盤を確立することを目的としています。そのため、非技術的な概要を目指しました。提示されたXAIメソッドは、メソッドの出力表現によって、ケースベースの説明、テキストの説明、および補助説明のカテゴリに分割されます。

Driven by recent advances in Artificial Intelligence (AI) and Computer Vision (CV), the implementation of AI systems in the medical domain increased correspondingly. This is especially true for the domain of medical imaging, in which the incorporation of AI aids several imaging-based tasks such as classification, segmentation, and registration. Moreover, AI reshapes medical research and contributes to the development of personalized clinical care. Consequently, alongside its extended implementation arises the need for an extensive understanding of AI systems and their inner workings, potentials, and limitations which the field of eXplainable AI (XAI) aims at. Because medical imaging is mainly associated with visual tasks, most explainability approaches incorporate saliency-based XAI methods. In contrast to that, in this article we would like to investigate the full potential of XAI methods in the field of medical imaging by specifically focusing on XAI techniques not relying on saliency, and providing diversified examples. We dedicate our investigation to a broad audience, but particularly healthcare professionals. Moreover, this work aims at establishing a common ground for cross-disciplinary understanding and exchange across disciplines between Deep Learning (DL) builders and healthcare professionals, which is why we aimed for a non-technical overview. Presented XAI methods are divided by a method's output representation into the following categories: Case-based explanations, textual explanations, and auxiliary explanations.