放射線学の機械学習のブラックボックスを開く：注釈付きのケースの近接性は方法ですか？

現在医療画像分析で採用されている機械学習（ML）およびディープラーニング（DL）システムは、ブラックボックスと見なされることが多いデータ駆動型モデルです。ただし、自動化された意思決定を臨床診療に変換するには、透明性が向上する必要があります。この目的のために、私たちは、現在のケース（CC）の近位に注釈付きの症例（ACS）を放射線科医に提示することにより、ブラックボックスを開く戦略を提案し、決定の根拠と不確実性をより明確にします。監視された方法でのトレーニング、検証、およびテストに使用されるACSは、ML/DLツールのサポートとして提供される可能性があります。CCが分類空間にローカライズされ、近位ACが適切なメトリックによって選択されている場合、後者のACは放射線科医への注釈で豊富な元の画像で表示されるため、CC分類の即時解釈が可能になります。さらに、CC近隣のACSの密度、その画像顕著性マップ、分類の自信、人口統計、および臨床情報が放射線科医が利用できるようになります。したがって、暗号化された情報を放射線科医に送信することができます。放射線科医は、モデル出力（What）および顕著な画像領域（WHERE）がACSによって濃縮され、分類の根拠（なぜ）を提供します。要約すると、分類子がデータ駆動型である場合、その解釈もデータ駆動型にしましょう。

Machine learning (ML) and deep learning (DL) systems, currently employed in medical image analysis, are data-driven models often considered as black boxes. However, improved transparency is needed to translate automated decision-making to clinical practice. To this aim, we propose a strategy to open the black box by presenting to the radiologist the annotated cases (ACs) proximal to the current case (CC), making decision rationale and uncertainty more explicit. The ACs, used for training, validation, and testing in supervised methods and for validation and testing in the unsupervised ones, could be provided as support of the ML/DL tool. If the CC is localised in a classification space and proximal ACs are selected by proper metrics, the latter ones could be shown in their original form of images, enriched with annotation to radiologists, thus allowing immediate interpretation of the CC classification. Moreover, the density of ACs in the CC neighbourhood, their image saliency maps, classification confidence, demographics, and clinical information would be available to radiologists. Thus, encrypted information could be transmitted to radiologists, who will know model output (what) and salient image regions (where) enriched by ACs, providing classification rationale (why). Summarising, if a classifier is data-driven, let us make its interpretation data-driven too.